警惕“AI換臉擬聲”騙局
警惕“AI換臉擬聲”騙局
“爸爸，剛開學我的手機就丟了，快給我轉1萬元買新手機。”一位父親正和女兒視頻聊天，聽到在外地上學的女兒說“手機丟了需要買新的”，他立刻想給孩子轉賬。就在這時，家門打開了，他的“真女兒”拉著行李箱走了進來，而另一頭，視頻裡的“假女兒”還在央求爸爸“給錢”。8月26日，這條名為“眼見不一定為實，別讓AI迷了眼”的“AI反詐教學視頻”登上熱榜。“騙子來電，聲音容貌和我家人一模一樣，防不勝防。”評論區中，許多網友說自己也有過類似被騙的經歷。
8月27日，太原網友“晴天”也遭遇了類似詐騙，她收到了“老師”發來的視頻和鏈接短信，內容是：“家長您好，我是您孩子的英語老師，煩請點擊我發送的網址，查看下學期開學需打印的資料。”觀看完視頻以后，她點擊鏈接，手機上彈出來一個“共享屏幕”的邀請。“我不會操作，所以給老師打電話咨詢，誰知道老師壓根兒不知道這回事！”“晴天”一頭霧水，視頻裡明明就是老師本人的臉和聲音，沒想到竟是“AI換臉擬聲”騙局。
“如今，AI換臉已經不再是科幻電影的情節，一張‘肖像照片’、一段‘貌似熟人的視頻’，都可能被不法分子利用作為詐騙的手段和工具。”人工智能算法工程師吳昊介紹，AI詐騙是指利用人工智能（AI）技術，冒充他人的身份或聲音，通過視頻或語音的方式，騙取目標人群財物。他直言：“不法分子可利用此類技術輕易偽裝成他人，並通過快速篩選目標人群、定制化詐騙腳本，精准實施詐騙。”
那麼，如何防范“AI換臉擬聲”詐騙？吳昊介紹，當遇到“熟悉的陌生人”的可疑視頻通話時，可以試試要求對方做一些側臉轉向、面部遮擋、捏鼻子等動作，來辨識是否利用AI換臉的可能性。鑒於AI換臉技術的快速發展，吳昊認為，提高警惕是目前相對有效的方法。
“深度合成技術內容制作門檻越來越低，普通人僅需要少量的圖像、音頻、視頻、文本等樣本數據，利用簡便易用的深度合成工具，就能做到AI換臉擬聲。”吳昊直言，每個人都需提高安全意識，謹慎分享，不輕易提供人臉、指紋等個人生物信息給他人。
記者注意到，正值開學季，全國各地的網警、反詐中心等官方賬號紛紛發力，通過形式多樣的文圖、短視頻進行反詐知識普及，其中，“AI換臉擬聲”騙局的揭露引發了網友熱議。8月26日以來，山西網警、太原網警等官方賬號發布了“這份《開學季防騙指南》請收好”“打開網警‘開學禮’謹防騙子‘沖業績’”等內容，並發出提醒：網絡渠道“眼見”不一定為實。
山西省處置非法集資領導組辦公室也發布了防范新型電信網絡詐騙風險提示，對“AI換臉擬聲”類詐騙進行重點介紹。提醒網友如果面對自稱“熟人”“領導”“老師”等通過社交軟件、電話誘導匯款，務必核驗對方身份，可利用其他通信方式或見面核實，在無法確認對方身份時，應盡量避免轉賬操作。同時，盡量避免在互聯網過多暴露個人照片、聲音、視頻等信息。如不慎被騙或遇可疑情形，應注意保存証據並立即向當地公安機關報案。
本報記者崔玲玲
山西日報、山西晚報、山西農民報、山西經濟日報、山西法制報、山西市場導報所有自採新聞（含圖片）獨家授權山西新聞網發布，未經允許不得轉載或鏡像﹔授權轉載務必注明來源，例："山西新聞網-山西日報 "。
凡本網未注明"來源：山西新聞網（或山西新聞網——XXX報）"的作品，均轉載自其它媒體，轉載目的在於傳遞更多信息，並不代表本網贊同其觀點和對其真實性負責。
