謝浩男被人用AI生成視頻帶貨！網友：已購，上當了
謝浩男被人用AI生成視頻帶貨！網友：已購，上當了
揚子晚報網3月20日訊（記者 郭一鵬） AI生成技術原本是一件好事，然而被別有用心的人利用后，卻成了編造虛假信息的工具。
記者了解到，曾被“懸賞千萬”尋找的孩子謝浩男回歸原生家庭。因為這一熱點事件帶來了“潑天”流量，眼下卻被一些不良商家所利用。在短視頻平台，有人利用謝浩男的直播錄屏，使用AI制作帶貨視頻。為此，謝浩男在直播間裡趕緊辟謠，稱這些視頻都是假的。“大家不要相信那些帶貨的，我們也沒帶貨！” 謝浩男在直播間裡無奈表示。其父也表示，哪些賣紙巾、賣護膚品、賣牙膏的，現在科技在發展，他們也避免不了“中招”。而從網友反應來看，已有不少人“中招”，有人稱買了面膜，有人買了牙膏……得知是AI編造后，網友們紛紛表示，上當了！
其實，此事並非個例，AI深度偽造假冒名人的事件時有發生。有人利用AI技術深度偽造了張文宏醫生的臉部和聲音進行直播帶貨，商品中的蛋白棒產品已經售賣了1200多件﹔還有人用企業家雷軍的聲音和頭像制作了眾多惡搞視頻﹔也有人AI制作了劉德華的聲音為自己增加流量。
根據此前報道，中國工程院院士、天津中醫藥大學名譽校長張伯禮也成了受害者之一。當時，網絡中出現了這樣一個視頻，張伯禮院士正在為某美白護膚品進行宣傳。實際上，這是一個AI制作的視頻，視頻中使用張院士的形象和聲音，從而達到以假亂真的效果。張院士表示，像這樣涉及他形象和聲音的假視頻在網絡上傳播的至少還有十幾條。“對我的影響還是第二位的，更可怕的是這些東西誤導消費者，對老百姓造成的影響。”張院士曾就此表態，專家的形象受到玷污，很氣憤又很無奈。
對此，江蘇同大律師事務所李小亮律師表示，不良商家的行為侵犯了有關名人或網紅的肖像權、聲音權等。《中華人民共和國民法典》第一千零一十九條規定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規定的除外。第一千零二十三條第二款規定，對自然人聲音的保護，參照適用肖像權保護的有關規定。
同時，如果消費者看這些視頻買到假貨，可以要求“退一賠三”。《中華人民共和國消費者權益保護法》第五十五條規定，經營者提供商品或者服務有欺詐行為的，應當按照消費者的要求增加賠償其受到的損失，增加賠償的金額為消費者購買商品的價款或者接受服務的費用的三倍﹔增加賠償的金額不足五百元的，為五百元。
李小亮律師建議，被侵權人可起訴侵權方要求停止侵權、賠償損失等。上當受騙的消費者保留購買憑証、假貨証據等，可以向平台投訴或向市場監管部門舉報，必要時通過訴訟主張賠償等。
據了解，目前模仿他人的聲音和臉的技術已經非常成熟，提供一張照片就能做出換臉的效果，他人的聲音也能被輕易模仿。而對於個人而言，除了在形形色色的“名人臉”中保持清醒，避免陷入虛假宣傳，更重要的是面對花樣翻新的AI詐騙，必須保持防范意識。
據介紹，AI騙局有4種常見套路：第一種聲音合成，騙子通過騷擾電話錄音等來提取聲音，獲取素材后進行聲音合成，用偽造的聲音來詐騙﹔第二種AI換臉，騙子在視頻通話中利用AI換臉技術來博取信任，偽裝成熟人來騙取重要信息或錢財﹔第三種轉發微信語音，騙子在盜取微信號后，通過提取語音文件或安裝非官方版本（插件）實現語音轉發，從而把受害者引入騙局﹔第四種AI程序篩選受害人，利用AI，騙子們還可以分析公眾發布在網上的信息，進行篩選，在短時間內生產出定制化的腳本，實施精准詐騙。
那麼，該如何防范呢？對於個人而言，要保護信息，提高警惕。不要輕易透露自己的身份証、銀行卡、驗証碼等信息，不要輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等﹔多重驗証，確認身份。如果有人自稱“熟人”“領導”等通過社交軟件、短信以各種理由誘導匯款，或涉及網絡轉賬交易行為時，務必通過電話、見面等多途徑核驗對方身份，不要未經核實隨意轉賬匯款﹔如不慎被騙或遇可疑情形，請注意保護証據，並立即報警。
山西日報、山西晚報、山西農民報、山西經濟日報、山西法制報、山西市場導報所有自採新聞（含圖片）獨家授權山西新聞網發布，未經允許不得轉載或鏡像﹔授權轉載務必注明來源，例："山西新聞網-山西日報 "。
凡本網未注明"來源：山西新聞網（或山西新聞網——XXX報）"的作品，均轉載自其它媒體，轉載目的在於傳遞更多信息，並不代表本網贊同其觀點和對其真實性負責。
