隨著人工智能技術(shù)的進步，一些不法分子開始利用AI技術(shù)融合他人面孔和聲音，制造非常逼真的合成圖像來實施新型網(wǎng)絡(luò)詐騙，這類騙局常常會在短時間內(nèi)給被害人造成較大損失。那么，我們應(yīng)該如何識別和防范新型詐騙？
有人偷了你的臉！當AI詐騙遇上虛擬數(shù)字人“天妤”。視頻來源：最高人民檢察院公號
警惕“AI換臉”新型詐騙
記者調(diào)查發(fā)現(xiàn)，最近多地出現(xiàn)的AI換臉詐騙案件，均具備定制性、迷惑性等特征。
其中，香港警方近期披露一起涉案金額高達2億港元的多人AI換臉詐騙案尤為典型。據(jù)媒體報道，某公司職員受邀參加公司“多人視頻會議”時，先后將2億港元分別轉(zhuǎn)賬到5個本地銀行賬戶內(nèi)。據(jù)警方調(diào)查，這場視頻會議中除了受害者外，其余均為AI換臉后的詐騙人員。
不少業(yè)內(nèi)專家表示，隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現(xiàn)，人們可能陷入“眼見也不一定為實”的困局?！耙恢币詠恚y行等部門將實時視頻用做檢驗身份的手段之一，如今其可靠性將面臨巨大挑戰(zhàn)?！敝袊姓▽W(xué)研究會常務(wù)理事、華東政法大學(xué)教授沈?？≌f，“隨著人工智能技術(shù)的迭代升級，這類違法行為還可能演變出更多形態(tài)?！?/p>
沈?？√寡?，對此類AI換臉和AI擬聲的惡性詐騙案件，若只依靠傳統(tǒng)監(jiān)管手段已不能防堵，監(jiān)管部門在提升自我科技能力儲備的同時，有必要引入新興技術(shù)，探索用AI技術(shù)監(jiān)管AI的可能。
Sora可根據(jù)文本內(nèi)容生成逼真視頻。圖片來源：Sora/OpenAI
“AI換臉”的技術(shù)原理是什么
中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專委會專家薛智慧介紹，“AI換臉”過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個關(guān)鍵步驟。
首先通過視頻的采集，追蹤定位圖片里人的面部；第二步，做一個面部特征點的采集和提取，主要包括嘴、鼻子跟眼睛的特征；第三步就是把這張原始的照片，做一個變換跟融合。
其背后最核心的包括為三個部分，首先，利用深度學(xué)習(xí)算法精準地識別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。其次，將這些特征與目標人臉圖像進行匹配、替換、融合。最后，通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假“換臉”視頻。
如何識別和防范新型詐騙
遇到這種類型的詐騙，普通人該怎么識別和防范呢？四川網(wǎng)警的網(wǎng)絡(luò)安全專家張警官在線支招：一提高反詐意識；二是涉及資金往來應(yīng)多途徑核對，在視頻過程中可以要求對方做掐臉、捏鼻子等特定的動作，觀察視頻有沒有穿?；虍惓Ｗ冃?，以此來識別是否為AI偽造的視頻；三是通過電話、微信等多渠道多方式確認；四是在轉(zhuǎn)賬時，可以將到賬時間設(shè)定為2小時到賬或者24小時到賬，以預(yù)留處理時間。
掐臉、捏鼻子這一招引起了大家的熱議?！俺夘^腦”創(chuàng)始人張澤偉說：“隨著技術(shù)的發(fā)展，它的這些漏洞都會被修復(fù)掉。對AI的訓(xùn)練日趨成熟后，可能掐臉、捏鼻子AI也會做了，建議變成捏成“豬鼻子”等一些AI不易做到的動作?；蛘咧贫ㄒ恍┲挥袑儆诩胰瞬胖赖陌堤?/span>，這是最保險的?！?/p> 張警官尤其談到，要注意個人信息和隱私數(shù)據(jù)的保護。AI換臉或者聲音合成技術(shù)，前提是要搜集受害人的聲音和圖片視頻資料。日常生活中要保護好個人隱私安全，使用正規(guī)軟件，防止自己的聊天信息、身份信息泄露，同時我們要盡可能減少社交媒體上自己的照片和聲音曝光。張警官還向大家再次推薦：一定要下載國家反詐中心app，那里面有非常多的案例供大家借鑒。 （來源：中國科技網(wǎng)綜合自央視新聞客戶端、新華每日電訊、閃電新聞、封面新聞、科技日報）
