近期，“AI詐騙正在全國(guó)爆發(fā)”的話題多次沖上微博熱搜。

【資料圖】

就在上個(gè)月，企業(yè)老板郭先生突然接到了好友的微信視頻，稱自己急需430萬(wàn)走賬，看著視頻里的好友一臉焦慮，郭先生沒(méi)多想就把錢轉(zhuǎn)了過(guò)去，整個(gè)過(guò)程不到10分鐘，事后郭先生才發(fā)現(xiàn)自己被騙子用AI換臉技術(shù)給騙了。

今年2月以來(lái)，AI相關(guān)的技術(shù)日新月異，帶來(lái)的副作用也日益顯現(xiàn)。深度偽造（deepfake）這一AI技術(shù)，能讓視頻中的人物變臉、變聲，有人用它詐騙，有人將自家主播的臉換成明星的臉帶貨撈錢，還有人用它AI換臉“造黃謠”。

或許很多人沒(méi)有意識(shí)到問(wèn)題的嚴(yán)重性，認(rèn)為技術(shù)還沒(méi)有成熟到可以詐騙的地步，存有“僥幸”心理。5月31日，深燃直播間邀請(qǐng)到了瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪，李旭反傳防騙團(tuán)隊(duì)負(fù)責(zé)人李旭，就“怎樣識(shí)別AI詐騙”這一主題展開(kāi)對(duì)話。

兩位嘉賓一位懂技術(shù)，一位懂反傳，兩種完全不同的視角，卻有共同的“反詐科普”目標(biāo)，對(duì)于AI詐騙主要有哪些手段、哪些人更容易被AI詐騙盯上、普通人應(yīng)該如何預(yù)防AI詐騙等與生活息息相關(guān)的話題，都給出了非常實(shí)用的建議。

任何一項(xiàng)技術(shù)都是一把雙刃劍，既能推動(dòng)社會(huì)進(jìn)步，又能挖掘人性中隱藏的惡，任何技術(shù)都應(yīng)該要在可控、可監(jiān)督的范圍內(nèi)發(fā)展。如今，AI大潮已經(jīng)將我們裹挾其中，要想更好的應(yīng)對(duì)，首先應(yīng)該了解和學(xué)習(xí)它，繼而依靠全社會(huì)的力量與它的暗面進(jìn)行抗衡。

以下是直播實(shí)錄，由深燃編輯整理：

01

AI詐騙，為什么屢禁不絕？

深燃：利用AI技術(shù)進(jìn)行詐騙是今年才有的套路嗎？

李旭：早在2019年，打著AI算命、AI看相旗號(hào)的微信公眾號(hào)、小程序或APP就火爆一時(shí)，實(shí)質(zhì)上是通過(guò)誘導(dǎo)分享發(fā)展用戶來(lái)吸金。

這兩年，我們看到一些微商團(tuán)隊(duì)發(fā)布明星的祝福/宣傳視頻來(lái)發(fā)展下線，其中不少視頻并非明星真實(shí)錄制，而是運(yùn)用了AI換臉、AI語(yǔ)音合成等技術(shù)制作而成，不少人信以為真而選擇加入，結(jié)果陷入騙局。還有一些人利用AI生成圖片/視頻進(jìn)行裸聊詐騙，要求受害者下載APP進(jìn)而將其手機(jī)通訊錄拷貝過(guò)來(lái)，后續(xù)以此為要挾進(jìn)行敲詐，很多人中招。

深燃：AI詐騙有哪些常用手段？

李旭：第一種是AI聲音合成，騙子給受害人打騷擾電話，提取受害人的聲音，后期對(duì)聲音素材進(jìn)行合成，用于詐騙。比如某公司財(cái)務(wù)的小王曾接到領(lǐng)導(dǎo)電話，要求其立即給供應(yīng)商轉(zhuǎn)賬2萬(wàn)元，理由是避免繳納滯納金，由于領(lǐng)導(dǎo)的聲音十分逼真，小王在一個(gè)小時(shí)內(nèi)就轉(zhuǎn)款完成，后來(lái)才發(fā)現(xiàn)被騙。

第二種是AI換臉，騙子首先會(huì)根據(jù)受害人發(fā)布在社交平臺(tái)上的照片或視頻信息生成假臉，然后在視頻通話中利用AI換臉騙取受害人信任，被騙430萬(wàn)的郭先生就是這樣上當(dāng)?shù)摹?/p>

第三種是AI篩選受害人，騙子根據(jù)所要實(shí)施的騙術(shù)，通過(guò)AI技術(shù)篩選目標(biāo)人群，在短時(shí)間內(nèi)生產(chǎn)出定制化的詐騙腳本，實(shí)施精準(zhǔn)詐騙。比如情感詐騙的騙子會(huì)篩選經(jīng)常發(fā)布感情類信息的人群，金融詐騙的騙子會(huì)篩選經(jīng)常搜索投資理財(cái)信息的人群。

深燃：2018年，一段奧巴馬罵特朗普的視頻在全美瘋傳，后來(lái)被證明這個(gè)奧巴馬是用深度偽造技術(shù)制作出來(lái)的，5年后，用于AI詐騙的技術(shù)是否已經(jīng)升級(jí)？

蕭子豪：AI詐騙背后的技術(shù)5年來(lái)不斷迭代，相比2018年有了非常明顯的提升。

一個(gè)對(duì)比的維度是逼真度更高，現(xiàn)在的AI詐騙不僅能夠生成比較逼真的人像，甚至可以生成比較真實(shí)的場(chǎng)景，比如前段時(shí)間網(wǎng)上瘋傳的特朗普被捕的畫(huà)面，其實(shí)都是用AI生成的，因?yàn)樘^(guò)逼真，大眾肉眼無(wú)法識(shí)別，會(huì)產(chǎn)生誤導(dǎo)。

另外一個(gè)對(duì)比的維度是成本更低。早年間，不法分子想獲得受害人的聲紋信息來(lái)偽造音頻，需要好幾分鐘的聲紋素材，需要通過(guò)灰產(chǎn)獲取信息，但是最新的技術(shù)只需要幾秒鐘的聲紋素材就可以合成，騙子團(tuán)伙就可以通過(guò)打騷擾電話的方式，即使說(shuō)兩句就掛斷也能成功竊取相關(guān)信息。

深燃：AI換臉、AI變聲技術(shù)需要素材做訓(xùn)練，那這些素材是哪來(lái)的？

蕭子豪：這些素材通常有好幾種獲取渠道，一種是受害者自己主動(dòng)公開(kāi)的，比如在朋友圈或其他社交媒體上發(fā)布照片、視頻等信息。另外騙子會(huì)主動(dòng)去搜集相關(guān)信息，比如打騷擾電話、獲取證件信息 （學(xué)生證、身份證、駕照） 等。

深燃：AI詐騙的成本高嗎，是不是比大眾想象的要低？

蕭子豪：成本分為三大類，第一類成本是獲取隱私數(shù)據(jù)的成本，第二類成本是AI建模并訓(xùn)練，生成假的語(yǔ)音、假的臉及假的視頻的成本，第三類成本是與受害人取得聯(lián)系的成本，包括竊取熟人的微信、電話號(hào)碼等。其中第三種方式相對(duì)比較傳統(tǒng)，AI技術(shù)的發(fā)展則是降低了前兩者的成本。

生成假視頻方面，目前有很多開(kāi)源算法，尤其是騙子打視頻電話的時(shí)候不需要太清晰的像素和太明亮的光線，“幾張圖片素材+開(kāi)源的AI算法”就已經(jīng)能做出一個(gè)“能看”的AI詐騙的視頻，門檻相對(duì)較低。

02

AI詐騙成功率極高，普通人該如何“反殺”？

深燃：之前有報(bào)道稱，AI詐騙的成功率幾乎是100%，為什么這么高？

李旭：首先，騙子本來(lái)就很會(huì)拿捏受害者的心理，主要分幾類：一個(gè)是虛榮心比較強(qiáng)，比如愛(ài)在朋友圈或短視頻平臺(tái)曬生活日常，甚至炫富，這就給一些騙子搜集個(gè)人信息和精準(zhǔn)詐騙帶來(lái)可乘之機(jī)；一個(gè)是很多人對(duì)熟人比較信賴，加上愛(ài)面子、不好意思拒絕，更不好意思去多方核實(shí)，落入騙子的陷阱；還有一些人愛(ài)貪便宜、愛(ài)獵奇獵艷，容易陷入裸聊殺豬盤等詐騙圈套中。

其次，這類騙局善于利用受害者的熟人關(guān)系，不法分子會(huì)提前研究受害者的人脈關(guān)系和好友信息，尤其愛(ài)利用領(lǐng)導(dǎo)、親戚及其他不好拒絕的關(guān)系，制定專門的騙局劇本后，再通過(guò)AI技術(shù)的手段騙取受害者的信任，讓人放下最后一道防線，乖乖的把錢轉(zhuǎn)過(guò)去，真的是防不勝防。

深燃：哪些人更容易成為AI詐騙的受害者，這些受害者有什么樣的共性和特點(diǎn)？

李旭：永遠(yuǎn)不要覺(jué)得自己不會(huì)被騙，只是適合你的劇本還沒(méi)有出現(xiàn)。

當(dāng)一個(gè)人獨(dú)自面對(duì)詐騙團(tuán)伙的精密布局和技術(shù)攻擊時(shí)，一切聰明才智都顯得非常無(wú)力，中老年人更容易成為被騙對(duì)象。一方面他們對(duì)互聯(lián)網(wǎng)詐騙手段并不熟悉，有認(rèn)知盲區(qū)，另一方面騙子喜歡利用他們對(duì)子女的擔(dān)憂制造一些假象，比如要生活費(fèi)、要醫(yī)療費(fèi)等，詐騙的成功率相當(dāng)高。

還有一些平時(shí)不注意培養(yǎng)防騙意識(shí)的人，也容易上當(dāng)受騙。我們團(tuán)隊(duì)發(fā)現(xiàn)，只有已經(jīng)被騙過(guò)的人，才會(huì)關(guān)心防騙的知識(shí)。當(dāng)你還沒(méi)有被騙的時(shí)候，就會(huì)以為這些東西離自己很遙遠(yuǎn)，殊不知，下一個(gè)騙局可能就會(huì)盯上你。

深燃：之前有民警教過(guò)兩個(gè)識(shí)別AI換臉的技巧，可以要求對(duì)方將一根手指或其他物品放在臉前來(lái)回移動(dòng)，或要求對(duì)方將臉轉(zhuǎn)左或轉(zhuǎn)右，觀察其側(cè)臉是否有扭曲變形的現(xiàn)象。普通人還能如何用肉眼識(shí)別AI詐騙呢？

蕭子豪：就目前的AI偽造水平來(lái)講，他們?nèi)匀粵](méi)辦法在有遮擋及人臉偏轉(zhuǎn)的情況下，生成無(wú)瑕疵的視頻效果。我覺(jué)得讓對(duì)方張嘴也是一個(gè)比較有效的方式，比如看對(duì)方的牙齒結(jié)構(gòu)是否清晰、舌頭形狀是否完整，很多不法分子可能只考慮對(duì)正臉做個(gè)建模，但沒(méi)有建模嘴巴、牙齒跟舌頭。但還是需要自己有反詐騙意識(shí)，才會(huì)要求對(duì)方去做這些動(dòng)作。

李旭：詐騙一般都有劇本，我們就要“反劇本”而行，問(wèn)對(duì)方一些私密性的問(wèn)題，跳出騙子的劇本。另外，現(xiàn)在AI制作的視頻還存在不完善的地方，比如瞳孔呆滯無(wú)神，手背、手指跟身體的比例不協(xié)調(diào)等，可以檢查圖像的質(zhì)量是否存在模糊失真或噪點(diǎn)高等現(xiàn)象。

深燃：在AI詐騙面前，普通人需要做好哪些防備？

李旭：涉及錢款時(shí)，可以通過(guò)電話加視頻等多種方式去確認(rèn)對(duì)方是否為本人，在匯款前一定要確認(rèn)對(duì)方提供的賬戶在本人名下，如果要求把錢轉(zhuǎn)到陌生賬戶，就要小心，而且要避免通過(guò)微信等社交軟件轉(zhuǎn)賬。我們還要保護(hù)好個(gè)人信息，不要輕易的去接陌生人的電話、點(diǎn)擊短信鏈接、下載來(lái)歷不明的APP，此外還要拒絕誘惑，警惕陌生人的“無(wú)事獻(xiàn)殷勤”。

蕭子豪：我們需要謹(jǐn)慎使用所有會(huì)讓你自拍、錄音的軟件，也需要謹(jǐn)慎使用所有能訪問(wèn)你的攝像頭、麥克風(fēng)，甚至是相冊(cè)的軟件。

深燃：子女應(yīng)該如何給爸媽有效打預(yù)防針？

李旭：第一，我們要提醒家中的老人，在涉及轉(zhuǎn)賬匯款時(shí)要做好多重驗(yàn)證，不要輕信對(duì)方所說(shuō)的緊急情況或優(yōu)惠條件，做到不聽(tīng)不信不匯款，三思而后行。第二，多給老年人普及反詐知識(shí)，加強(qiáng)對(duì)詐騙伎倆的識(shí)別能力。第三，我們可以幫助他們下載國(guó)家反詐中心APP，對(duì)于一些玩不轉(zhuǎn)智能機(jī)的老人，建議他們不要在微信支付寶內(nèi)綁定銀行卡，只存少量的零錢，盡量不要開(kāi)通網(wǎng)上支付業(yè)務(wù)。

蕭子豪：下載國(guó)家反詐中心APP是挺管用的，相當(dāng)于國(guó)家?guī)兔p少詐騙風(fēng)險(xiǎn)，可能會(huì)比兒女的勸說(shuō)更有用。在這個(gè)基礎(chǔ)上，子女一定要多陪伴、多關(guān)注老年人的身心健康，多跟父母保持溝通，讓他們?cè)谟行枰臅r(shí)候愿意來(lái)找你。他們也有自己獲取信息的圈子，在溝通的過(guò)程中，可以多給他們轉(zhuǎn)發(fā)他們信任的媒體發(fā)布的反詐信息，會(huì)讓他們更快的消化這些信息。

03

AI是把雙刃劍，要與AI正確相處

深燃：除了詐騙以外，AI技術(shù)還被用來(lái)干哪些違法勾當(dāng)？

李旭：此前有騙子將自己的臉AI換成某明星，開(kāi)直播引導(dǎo)粉絲刷禮物，或者將自家主播AI換臉成楊冪、迪麗熱巴進(jìn)行帶貨，這樣做會(huì)有侵犯肖像權(quán)的風(fēng)險(xiǎn)。

不過(guò)，這種案件的維權(quán)一般都比較困難。因?yàn)槭褂肁I換臉技術(shù)進(jìn)行直播的人并不會(huì)直接提到相關(guān)明星藝人的名字，后續(xù)可能就采取關(guān)閉直播、刪除鏈接等措施，導(dǎo)致無(wú)法固定證據(jù)，網(wǎng)絡(luò)信息的匿名化發(fā)布也難以鎖定發(fā)布源頭。

還有一種情況是，有人利用AI換臉“造他人黃謠”，遇到這種情況，我們要保持冷靜，盡可能搜集相關(guān)證據(jù)，盡快向公安機(jī)關(guān)報(bào)案。

深燃：騙子的技術(shù)越來(lái)越高明，但魔高一尺道高一丈，現(xiàn)在哪些技術(shù)可以用來(lái)反詐？

蕭子豪：有幾種大家公認(rèn)比較有效的技術(shù)，可以減少詐騙帶來(lái)的風(fēng)險(xiǎn)，雖然它不一定100%能夠消除每個(gè)個(gè)體被詐騙的概率。

其中第一種是利用detection技術(shù)去檢測(cè)這些圖像視頻究竟是真實(shí)拍攝還是AI生成。第二種手段是加水印，每個(gè)軟件在生成虛假AI圖片/視頻的時(shí)候，都會(huì)被打上和這個(gè)軟件直接掛鉤的水印，這能夠幫助我們后續(xù)去追溯AI詐騙視頻生成的源頭，當(dāng)公安去取證時(shí)，只要他拿到這個(gè)視頻，就可以從中提取出水印，并獲得犯罪團(tuán)伙相關(guān)的信息，間接減少大家被騙的風(fēng)險(xiǎn)。

深燃：科學(xué)家們?cè)谘芯緼I技術(shù)時(shí)會(huì)預(yù)設(shè)它被濫用的場(chǎng)景，并開(kāi)發(fā)反濫用的功能嗎？

蕭子豪：在整個(gè)AI技術(shù)往前推進(jìn)浪潮里面有兩大角色，一種是研究者的角色，另外是應(yīng)用者的角色。一般來(lái)說(shuō)，前者的技術(shù)有突破之后，后面偏應(yīng)用的角色才會(huì)跟上。非常典型的例子就是OpenAI先做出ChatGPT，ChatGPT接著被應(yīng)用到各行各業(yè)。

OpenAI的CEO也坦言，現(xiàn)在ChatGPT帶來(lái)的影響已經(jīng)遠(yuǎn)遠(yuǎn)超出他的想象。這不難理解，研究者不一定有足夠的精力和時(shí)間去將所有可能出現(xiàn)的負(fù)面影響都思考清楚，很多事情都可能在大家做好準(zhǔn)備之前就已經(jīng)開(kāi)始發(fā)酵。要預(yù)防技術(shù)的濫用，需要國(guó)家的監(jiān)管部門、社會(huì)各界力量一起努力，通過(guò)向善的價(jià)值觀進(jìn)行技術(shù)防御，這會(huì)是一個(gè)治理跟發(fā)展同時(shí)前進(jìn)的狀態(tài)。

深燃：政策層面，是否已經(jīng)開(kāi)始對(duì)濫用AI的行為進(jìn)行立法了？

李旭：為了規(guī)范人工智能的發(fā)展，2022年11月25日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，自2023年1月10日起施行。規(guī)定要求提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

今年4月11日，國(guó)家網(wǎng)信辦起草了《生成式人工智能服務(wù)管理辦法》（征求意見(jiàn)稿），提出AI內(nèi)容必須真實(shí)準(zhǔn)確，其中也明確提到，禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。所以說(shuō)，國(guó)家的立法應(yīng)該會(huì)越來(lái)越完善，一些短視頻和直播平臺(tái)也應(yīng)負(fù)起社會(huì)責(zé)任。

深燃：這些AI擬聲工具、AI視頻工具、AI換臉工具，有沒(méi)有哪些正向的落地場(chǎng)景？

蕭子豪：有不少落地場(chǎng)景。一種是短視頻平臺(tái)上的人臉特效，用到換臉或減齡之類的算法，增加用戶的使用體驗(yàn)；一種是語(yǔ)音助手、地圖導(dǎo)航；一種是對(duì)影視劇中不方便出現(xiàn)的演員人臉進(jìn)行替換，降低前期投資帶來(lái)的損失。當(dāng)然也有人自愿給自己生成虛擬形象，比如一些講師或者客服，降低錄制視頻的成本，提高跟客戶交互的效率。

深燃：AI技術(shù)的進(jìn)步，對(duì)反詐行業(yè)會(huì)帶來(lái)哪些影響？

李旭：AI技術(shù)在反詐領(lǐng)域的運(yùn)用日益深入，我們?cè)谥谱鞣丛p短視頻時(shí)，就可以啟動(dòng)虛擬主播，或通過(guò)AI語(yǔ)音生成器對(duì)文字和語(yǔ)音進(jìn)行互轉(zhuǎn)，減少工作量，現(xiàn)在也有很多反詐平臺(tái)嘗試?yán)眉夹g(shù)手段識(shí)別AI生成的圖片和視頻，更高效的識(shí)破騙局。

04

網(wǎng)友互動(dòng)

問(wèn)：聲音詐騙怎么識(shí)別？

蕭子豪：你可以讓對(duì)方一邊說(shuō)話一邊打響指，或者一邊說(shuō)話一邊拍手掌，這些AI模型可能之前沒(méi)考慮過(guò)這種情況，就會(huì)出現(xiàn)一定的瑕疵。這個(gè)方法跟前面提到的用手指遮擋臉部的原理很接近。

問(wèn)：為了跳出騙子們的劇本，具體可以問(wèn)騙子什么問(wèn)題？能不能舉幾個(gè)例子？

李旭：多問(wèn)一些最近你們線下見(jiàn)面發(fā)生過(guò)的事情，比如可以問(wèn)“我們上一次見(jiàn)面是什么時(shí)候”，你在社交網(wǎng)絡(luò)上沒(méi)有提供過(guò)這些信息的話，對(duì)方就不知道該如何接招了。另外，還可以編造謊言或用假信息詢問(wèn)對(duì)方，看對(duì)方如何應(yīng)對(duì)，或許能讓對(duì)方無(wú)法招架。

問(wèn)：在文字、語(yǔ)音、圖像、視頻接連失信的今天，AI技術(shù)如果繼續(xù)不受控制地發(fā)展下去，會(huì)不會(huì)導(dǎo)致現(xiàn)有社會(huì)關(guān)系中的信任崩塌？

蕭子豪：大眾共識(shí)是“眼見(jiàn)為實(shí)，耳聽(tīng)為虛”，而恰好這種AI偽造技術(shù)顛覆了這一常規(guī)認(rèn)知，也在不斷挑戰(zhàn)我們的社會(huì)秩序。但至于說(shuō)會(huì)不會(huì)信任崩塌，我還沒(méi)有那么悲觀，我相信后面能夠找到一個(gè)途徑去讓整個(gè)社會(huì)秩序在一個(gè)新的治理體系下運(yùn)作，讓AI技術(shù)在提升生產(chǎn)力的同時(shí)將風(fēng)險(xiǎn)控制在安全范圍內(nèi)，這可能需要大家一起努力。

標(biāo)簽：