近日，內(nèi)蒙古包頭等多地出現(xiàn)AI換臉新騙局，單筆被騙金額高達(dá)400余萬(wàn)，引發(fā)廣泛關(guān)注。

5月24日，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)文提醒，不法分子利用AI技術(shù)，通過(guò)聲音合成，偽造成特定人物的聲音，通過(guò)AI換臉，偽裝成特定人物，實(shí)時(shí)與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實(shí)施詐騙。面對(duì)利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范!

據(jù)中新經(jīng)緯，目前制作一套“露臉且說(shuō)話”視頻成本低至數(shù)十元，只需提供正面照就能生成視頻，不僅眼睛、嘴巴、頭會(huì)動(dòng)，如果提供文字口型也能對(duì)上，一個(gè)晚上就能完工。有商家稱(chēng)用照片生成一段1分鐘時(shí)長(zhǎng)的視頻僅需30元左右。如果視頻時(shí)間短。質(zhì)量要求不高幾塊錢(qián)一段都可以。

(資料圖片)

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)：警惕！“AI換臉”新騙局

據(jù)中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)5月24日消息，今年以來(lái)，ChatGPT和GPT-4等技術(shù)的應(yīng)用，成為了信息科技領(lǐng)域的熱點(diǎn)，引起公眾對(duì)AI技術(shù)的廣泛關(guān)注和熱情。但伴隨著深度合成技術(shù)的開(kāi)放開(kāi)源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進(jìn)行詐騙、誹謗的違法行為屢見(jiàn)不鮮。

近期，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙的案件。不法分子利用AI技術(shù)，通過(guò)聲音合成，偽造成特定人物的聲音，通過(guò)AI換臉，偽裝成特定人物，實(shí)時(shí)與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實(shí)施詐騙。

面對(duì)利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范!

01 做好個(gè)人信息安全第一責(zé)任人

1、加強(qiáng)個(gè)人信息保護(hù)意識(shí)，防止信息泄露：不輕易提供人臉、指紋等個(gè)人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放于手機(jī)內(nèi)。

提示：發(fā)現(xiàn)APP過(guò)度、強(qiáng)制收集個(gè)人信息，請(qǐng)至12321.cn投訴。

2、陌生鏈接不要點(diǎn),陌生軟件不要下載,陌生好友不要隨意添加,不明二維碼不要隨意掃描。管理好自己的朋友圈，也不要輕易向陌生人開(kāi)啟手機(jī)屏幕共享。

3、做好個(gè)人防護(hù)，安裝安全軟件，防止手機(jī)和電腦中病毒。對(duì)個(gè)人賬戶(hù)的安全狀況保持警惕，尤其是陌生設(shè)備的登陸情況，防止微信、QQ等被盜號(hào)給親朋好友帶來(lái)麻煩。

4、對(duì)于不常用的APP，建議卸載前注銷(xiāo)個(gè)人帳號(hào)。

△提示：APP不提供個(gè)人帳號(hào)注銷(xiāo)方式，或?yàn)樽N(xiāo)帳號(hào)設(shè)置各類(lèi)障礙的，請(qǐng)至12321.cn投訴。

02 遠(yuǎn)程轉(zhuǎn)賬務(wù)必需要多重驗(yàn)證，把好“錢(qián)袋子”

如果有人自稱(chēng)“家人”“朋友”“老師”“領(lǐng)導(dǎo)”通過(guò)社交軟件、短信、電子郵件等以“手機(jī)掉水里了，學(xué)校需要緊急交輔導(dǎo)班學(xué)費(fèi)”“人在境外旅游，需要幫忙買(mǎi)機(jī)票”“給領(lǐng)導(dǎo)辦私事，需緊急轉(zhuǎn)賬”“遭遇車(chē)禍，需要馬上手術(shù)”“情況特殊，需要過(guò)橋資金拆借”等各種方式和理由誘導(dǎo)你轉(zhuǎn)賬匯款，務(wù)必第一時(shí)間提高警惕！

在AI時(shí)代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉(zhuǎn)賬匯款、資金往來(lái)這樣的典型場(chǎng)景，要通過(guò)回?fù)軐?duì)方手機(jī)號(hào)等額外通信方式核實(shí)確認(rèn)，不要僅憑單一溝通渠道未經(jīng)核實(shí)就直接轉(zhuǎn)賬匯款！無(wú)論對(duì)方是誰(shuí)！

△提示：遭遇詐騙信息，請(qǐng)至12321.cn反詐專(zhuān)欄舉報(bào)，如發(fā)生資金損失請(qǐng)及時(shí)報(bào)警。

一直以來(lái)，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)不斷推進(jìn)行業(yè)自律，積極開(kāi)展防范治理電信網(wǎng)絡(luò)詐騙工作。2023年6月14-16日，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)將組織舉辦“2023年電信網(wǎng)絡(luò)詐騙治理工作培訓(xùn)”，解讀電信網(wǎng)絡(luò)詐騙治理法律法規(guī)，分析研判電信網(wǎng)絡(luò)詐騙治理的重點(diǎn)工作和發(fā)展形勢(shì)，助力企業(yè)落實(shí)防范治理電信網(wǎng)絡(luò)詐騙責(zé)任，提高管理能力，促進(jìn)行業(yè)健康發(fā)展。

四川綿陽(yáng)：騙子利用AI換臉和擬聲技術(shù)佯裝領(lǐng)導(dǎo)，一市民被騙40余萬(wàn)

5月23日，四川綿陽(yáng)市反電信網(wǎng)絡(luò)詐騙中心發(fā)布預(yù)警稱(chēng)，近日，多地連續(xù)發(fā)生多例AI詐騙案例。

典型案例:市民王先生突然接到主管單位領(lǐng)導(dǎo)視頻電話，稱(chēng)其朋友想借王先生公司賬戶(hù)過(guò)賬40余萬(wàn)，還說(shuō)該款項(xiàng)隨后就轉(zhuǎn)到王先生公司對(duì)公賬號(hào)，基于對(duì)領(lǐng)導(dǎo)的信任，加上已經(jīng)視頻聊天核實(shí)了身份，王先生立即就把40余萬(wàn)轉(zhuǎn)至指定賬戶(hù)上，隨后發(fā)現(xiàn)上當(dāng)受騙。這是騙子利用智能AI換臉和擬聲技術(shù)，佯裝領(lǐng)導(dǎo)對(duì)他實(shí)施了詐騙。

警方提示

1、視頻電話眼見(jiàn)、耳聽(tīng)未必屬實(shí)，務(wù)請(qǐng)多方核實(shí)相關(guān)信息。

2、保護(hù)好隱私信息，不輕易提供人臉指紋等個(gè)人生物信息給他人，不過(guò)度公開(kāi)或分享動(dòng)圖、視頻等。

3、未經(jīng)核實(shí)請(qǐng)勿大額轉(zhuǎn)賬匯款。

內(nèi)蒙古包頭：科技公司老板10分鐘被騙走430萬(wàn)元

據(jù)平安包頭官方微信號(hào)5月20日消息，5月8日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件。

4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生的好友突然通過(guò)微信視頻聯(lián)系到他，兩人經(jīng)過(guò)短暫聊天后，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬(wàn)元保證金，且需要公對(duì)公賬戶(hù)過(guò)賬，所以想要借用郭先生公司的賬戶(hù)走一下賬。好友向郭先生要了銀行卡號(hào)，聲稱(chēng)已經(jīng)把錢(qián)打到郭先生的賬戶(hù)上，還把銀行轉(zhuǎn)賬底單的截圖通過(guò)微信發(fā)給了郭先生?；谝曨l聊天信任的前提下，郭先生沒(méi)有核實(shí)錢(qián)是否到賬，于11時(shí)49分先后分兩筆把430萬(wàn)元給對(duì)方打了過(guò)去。錢(qián)款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱(chēng)事情已經(jīng)辦妥。但讓他沒(méi)想到的是，好友回過(guò)來(lái)的消息竟然是一個(gè)問(wèn)號(hào)。

郭先生撥打好友電話，對(duì)方說(shuō)沒(méi)有這回事，他這才意識(shí)到竟然遇上了“高端”騙局，對(duì)方通過(guò)智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。

“從頭到尾都沒(méi)有和我提借錢(qián)的事情，就說(shuō)會(huì)先把錢(qián)給我打過(guò)來(lái)，再讓我給他朋友賬戶(hù)轉(zhuǎn)過(guò)去，而且當(dāng)時(shí)是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備”，郭先生說(shuō)。

4月20日12時(shí)21分，包頭市電信網(wǎng)絡(luò)犯罪偵查局接到福建省福州市公安局刑偵支隊(duì)的外協(xié)請(qǐng)求，稱(chēng)福建省一知名民營(yíng)企業(yè)負(fù)責(zé)人被騙走430萬(wàn)元，而涉案的銀行卡為包頭市蒙商銀行對(duì)公賬戶(hù)，希望包頭警方能夠幫忙進(jìn)行緊急止付。

包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動(dòng)“包頭市警銀聯(lián)動(dòng)綠色查詢(xún)機(jī)制”，當(dāng)班民警以最快速度完成核查、報(bào)審程序，第一時(shí)間將涉案卡的信息通報(bào)至蒙商銀行相關(guān)部門(mén)。在銀行的全力協(xié)助下，僅用時(shí)10分鐘，就將該詐騙賬戶(hù)內(nèi)的336.84萬(wàn)元被騙資金成功攔截。

同時(shí)，向福州市公安局警方提供了剩余款項(xiàng)93.16萬(wàn)元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。目前，福建警方與包頭警方對(duì)此資金正在全力追繳當(dāng)中。

每日經(jīng)濟(jì)新聞綜合自中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)、平安包頭官方微信號(hào)、中新經(jīng)緯