警惕AI“深度偽造”

　　接陌生電話時建議先“變聲”

　　專家：人體生物特征易被“移花接木” 電話,、視頻聊天時需加強防范與甄別

　　“以前我們說‘眼見為實’,，但隨著技術(shù)發(fā)展，不法分子的技術(shù)手段也在更新，造出‘假人說假話’,，有時讓人防不勝防，必須要注意鑒別和防范,。”近日,，于深圳舉行的世界數(shù)字城市大會“生物特征識別技術(shù)應(yīng)用論壇”上，國家特聘專家陳友斌教授在接受本報全媒體記者專訪時談到：“人臉識別技術(shù)已經(jīng)落地各項應(yīng)用,，由此引發(fā)的個人隱私泄露等問題也日漸突出,，人臉識別技術(shù)應(yīng)用安全管理勢在必行?！?/p>

　　文,、圖/廣州日報全媒體記者 馮秋瑜(除署名外)

　　AI換臉、聲音合成

　　“好友”以假亂真騙走錢財

　　“如今,，社會生活中的不少業(yè)務(wù)都可以在線上進行,，金融方面如開戶、開卡,、理財,、信貸；民生方面如申領(lǐng)社保,、修改密碼,、開庭、辦案,；商務(wù)方面如談判,、簽約、公證等,，然而你有沒有想過,，屏幕上出現(xiàn)的那個人，是否真的是你以為的那個人,？人工智能大時代下,，這一點特別需要警惕?！标愑驯笳f,。

　　前不久包頭警方就通報了一起利用AI實施詐騙的案件：福州市某公司法人代表郭先生10分鐘內(nèi)被騙430萬元。據(jù)通報,，郭先生的一位“好友”突然通過微信視頻聯(lián)系他,，稱自己的一位客戶朋友在外地競標，需要430萬元保證金,，且需要公對公賬戶過賬,，想要借郭先生公司的賬戶走賬?；趯糜训男湃?，加上已經(jīng)視頻聊天核實了身份，郭先生沒有核實就直接分兩筆把430萬元轉(zhuǎn)到了對方指定的銀行卡上,。事后,，郭先生撥打好友電話才知道被騙,，原來不法分子通過智能AI換臉和擬聲技術(shù)，佯裝成好友對他實施了詐騙,?！安环ǚ肿佑靡曨l對講的方式模擬受害者朋友的聲音，看起來,，人也是這個人，聲音也是他的聲音,，但其實根本就不是他朋友所為,。” 陳友斌說,。

　　無獨有偶,，2022年2月，有位陳先生到派出所報案,，稱自己被“好友”詐騙了近5萬元,。經(jīng)警方核實，詐騙分子利用陳先生某好友在社交平臺發(fā)布的視頻,，截取其面部畫面后利用“AI換臉”合成,，制造陳先生與“好友”視頻聊天的假象騙取其信任，從而實施詐騙,。

　　今年10月7日,，國家金融監(jiān)督管理總局北京監(jiān)管局發(fā)布風險提示稱，有不法分子非法獲取個人信息,，通過計算機算法仿真合成受騙者親人,、領(lǐng)導(dǎo)同事或公職人員的肖像面容與聲音，冒充上述人員身份行騙,；在獲得受害者信任后使用事先準備好的套路話術(shù)向受害人發(fā)送銀行卡轉(zhuǎn)賬,、虛擬投資理財、刷單返利等詐騙信息,，并利用視頻通話,，語音轟炸等手段進一步降低受害者的防備心，受害者往往在短時間內(nèi)難以察覺異樣,，一旦聽信詐騙分子的騙術(shù)并完成轉(zhuǎn)賬,，對方便杳無音訊。

　　AIGC數(shù)字人,？自然人,？

　　人體生物特征或被“深度偽造”

　　“不法分子通過AI換臉和擬聲技術(shù)，佯裝熟人實施詐騙,?！标愑驯蠼榻B,，我國在人臉識別這一領(lǐng)域的應(yīng)用排在世界前列，因而人臉識別的風險和隱私保護必須引起關(guān)注,。

　　“在鏡頭前面的那個人,，他是不是一個真實的自然人？人是不是真實的,？證件是不是真的,？人證是不是一致？需要遠程核身的手段,?！标愑驯蠼榻B，出現(xiàn)在偽造圖像或者偽造視頻中,，借助AI技術(shù)生成或者偽造的人稱為“AIGC數(shù)字人”,。它可以是真實世界不存在的人，也可以是對真實世界存在的人的偽造,。而“自然人”是出現(xiàn)在真實圖像或者真實視頻中,，且存在于真實世界的人。

　　據(jù)了解,，目前在廣深兩地,，生產(chǎn)和銷售虛擬數(shù)字人的企業(yè)已達上千家，由AI技術(shù)創(chuàng)建的“數(shù)字人”具有高度逼真的外觀和自然的語言交互能力,，能夠與用戶進行實時對話互動,，甚至達到“不仔細看看不出來”的逼真程度。

　　作為多年從事圖像識別與人工智能領(lǐng)域研究的專家,，陳友斌提醒：“人臉,、聲紋、指紋,、虹膜,、簽名等是最常用的人體生物特征，即便是自然人,，但是否他本人此時此刻就在那個地方,，還是別人移花接木把他粘到那里去？也需要鑒別,?！?/p>

　　陳友斌介紹，與傳統(tǒng)技術(shù)相比,，“AI換臉”的破壞力不僅在于“偽造”,，更在于“深度”。“詐騙分子一般會先對公眾在網(wǎng)絡(luò)上發(fā)布的各類信息進行大數(shù)據(jù)分析,，包括社交媒體上的個人數(shù)據(jù),、工作信息、人際關(guān)系等,，研究他們的日常生活習慣,、工作習慣、資產(chǎn)狀況等,，然后結(jié)合要實施的騙術(shù),，通過AI技術(shù)對人群進行篩選，從而確定要實施詐騙的目標人群,，鎖定詐騙對象,。”

　　警惕聲紋造假

　　接陌生電話“變個聲音再說”

　　陳友斌介紹,，“深度偽造(Deep Fake)”是一種基于深度學習的多媒體篡改與合成技術(shù)，主要包括圖像,、語音,、視頻和文本的偽造及篡改等，在視頻通話,、視頻會議中,，模仿目標人物去欺騙另外一個人?！吧疃葌卧彀l(fā)展得非?？欤@個技術(shù)最早用于好萊塢拍電影時去模擬一些現(xiàn)實中拍不到的部分,，后來被不法分子所利用,，讓人臉圖片的嘴巴動起來、眼睛眨起來,，還能搖頭晃腦的,，還有換臉等，現(xiàn)在這類模型非常多,?！?/p>

　　他告訴記者，這種深度偽造技術(shù)在不改變身份的情況下,，可以對人臉進行年齡,、性別、種族的改變,，并且操縱口部或者表情,；還可以通過人臉遷移、交換、堆疊等方式,，以“換臉也換表情”“換臉不換表情”等多種方法混合來改變身份,。“實時交互式的深度偽造將合成映射到現(xiàn)在的時刻,，針對實時交互式的應(yīng)用場景,，如在線會議中使用虛假身份竊取信息或擾亂秩序，或在視頻通話中模仿目標人物去欺騙另一端的用戶等,?！?/p>

　　陳友斌提醒：特別需要注意的是，聲音的信息也可以通過提取“聲紋”來進行造假,。什么是“聲紋”呢,？陳友斌介紹，人類語言的產(chǎn)生是人體語言中樞與發(fā)音器官之間一個復(fù)雜的生理物理過程,，發(fā)聲器官――舌,、牙齒、喉頭,、肺,、鼻腔在尺寸和形態(tài)方面每個人的差異都很大，所以任何兩個人的聲紋圖譜都有差異?，F(xiàn)在大家都常接到很多陌生人打來的廣告電話,，殊不知在和陌生人說話的過程中，不知不覺就把自己的聲紋泄露了,。

　　“不法分子可能通過不同的人向你打電話‘輪番轟炸’,，也許他們的目的根本不是為了推銷，而是獲取你的聲紋,、生活習性和社會關(guān)系,，進而實施詐騙?！标愑驯蠼榻B,，語音時長會影響聲紋識別的精度，有效語音時長越長,，算法得到的數(shù)據(jù)越多,，精度也會越高。因此他提醒：“不熟悉人工智能科技的老年人尤其需要提高警惕,，包括年輕人也一樣,，接到陌生電話千萬不要多說話，實在必須說話時可以捏著鼻子,、變個聲音跟他說,，否則經(jīng)過一段時間的數(shù)據(jù)學習,，不法分子就可能會利用你的聲紋信息和講話習慣等，合成你的聲音,、換成你的臉,，在你的社交網(wǎng)絡(luò)里進行詐騙?！?/p>

　　細心留意AI偽造“蛛絲馬跡”

　　多渠道確認不輕信視頻內(nèi)容

　　如何防范AI深度偽造詐騙,？陳友斌提醒：“如果這個人跟你很熟，你跟他多交互對話幾次,，就可以發(fā)現(xiàn)問題了,。”據(jù)了解,，以銀行業(yè)務(wù)為例,，是需要通過圖像、語音,、自然語言處理再加上交互對話來完成金融業(yè)務(wù),，最大限度減小風險。而普通人也可以通過多種核對的方式來發(fā)現(xiàn)AI深度偽造的“蛛絲馬跡”,。

　　他介紹,，因為人臉合成的素材大多使用的是睜眼照片，所以“缺少眨眼”可以被視為是合成視頻的“特征”之一,，此外合成視頻還可能存在口型和發(fā)音不同步、情緒不符合,、某個地方不自然或者不銜接,、牙齒和嘴唇紋理不清，耳朵不對稱等情況,。AI擬聲,、AI換臉包裝作偽后的通話，雖能逼真地模仿原始人物的語言和行為,，但仍充滿破綻,，例如眨眼頻率過低、眼睛移動不協(xié)調(diào),、面部表情不自然,、語句不連貫等――這些都是“數(shù)字人”的特點。以下防范口訣比較好記：“電話回撥再確認,，視頻不可輕易信,；私人問題記得問，答不上來不可信,；眨眼能破AI面孔,，關(guān)鍵時刻要常用。”

　　據(jù)悉,，國家網(wǎng)信辦8月8日發(fā)布的 《人臉識別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》,，也從公共場所、經(jīng)營場所,、可能侵害他人隱私的場所等作出了要求,。有關(guān)部門也提醒：要提高信息保護意識，特別警惕需要錄入個人信息的非正規(guī)軟件,；在開啟“定位服務(wù)”,、輸入身份證號或是錄入“人臉識別信息”“指紋識別信息”等個人生物信息時一定要慎之又慎；發(fā)現(xiàn)APP過度,、強制收集個人信息時及時向有關(guān)部門投訴舉報,。此外，妥善設(shè)置個人社交賬戶的瀏覽權(quán)限,，不過度公開或分享涉及個人信息的動圖,、視頻等，對不明平臺發(fā)來的鏈接提高警惕,，不輕易向陌生人開啟手機屏幕共享,。

　　《廣州日報》2023年10月29日第A5版