智東西（公眾號：zhidxcom）
編譯 |?熊大寶
編輯 |?李水青
智東西4月27日(ri)消息，近日(ri)，荷(he)蘭議(yi)會(hui)外交事(shi)務委員會(hui)在視頻會(hui)議(yi)軟件Zoom上(shang)被AI換(huan)臉技術(shu)所(suo)騙(pian)，對方利用Deepfake（深度偽造(zao)技術(shu)）冒名(ming)頂(ding)替(ti)俄(e)羅斯反對派(pai)領(ling)導人阿列克謝·納瓦爾(er)尼(ni)的參(can)謀長(chang)列昂尼(ni)德(de)·沃爾(er)科夫（Leonid Volkov）。
▲列昂(ang)尼(ni)德·沃爾(er)科夫
這樣的事情并非第(di)一次發生。此前，沃爾科夫的冒(mao)名頂(ding)替者還與(yu)拉(la)脫維(wei)亞和烏克蘭政治家進(jin)行(xing)了(le)交談，與(yu)英國、愛沙尼亞和立陶宛的政治人物進(jin)行(xing)了(le)接觸。
荷蘭國(guo)眾議院在一份聲明中說到(dao)，眾議院對此次Deepfake換臉事件感到(dao)憤慨(kai)，并正在研(yan)究如(ru)何防(fang)止(zhi)此類事件再次發生。
一、單張照片即可換臉，Deepfake成政治武器
Deepfake由深(shen)度(du)機(ji)器學習和假照片(pian)組合而成，本(ben)質是(shi)一種(zhong)AI深(shen)度(du)學習模(mo)型在圖像合成、替換領域的(de)技術框(kuang)架，屬于深(shen)度(du)圖像生成模(mo)型的(de)一次成功應用。
Deepfake技術出(chu)現(xian)于(yu)2017年，給影視制(zhi)作等方面帶去高效、低成(cheng)本制(zhi)作等好處，但隨之而來也存在造假、造謠、欺(qi)詐等倫理問題(ti)，真假混(hun)淆(xiao)使得人(ren)們愈發缺乏安全感。
去年，俄羅斯的兩(liang)位研(yan)究(jiu)員推出了一款名為(wei)Avatarify的軟件(jian)，可以(yi)(yi)與Zoom或Skype等視頻會議軟件(jian)配合使用，將視頻會議中用戶(hu)的面容變(bian)成(cheng)任意指定(ding)名人的樣子(zi)。通過(guo)Avatarify的使用，用戶(hu)只(zhi)需(xu)要一張制(zhi)定(ding)照片(pian)就可以(yi)(yi)完(wan)成(cheng)臉部替換。
▲使用Avatarify軟件換臉（右下）
AI換臉(lian)技術運(yun)用于視頻(pin)通(tong)話存在(zai)潛(qian)在(zai)風險，惡作劇(ju)者可能會(hui)欺(qi)騙政(zheng)(zheng)府做(zuo)出(chu)糟糕的政(zheng)(zheng)策決定，還會(hui)成(cheng)為政(zheng)(zheng)客(ke)間(jian)相互攻擊的武器。
在2020年美國大選期間(jian)，特(te)(te)朗普4月(yue)在推特(te)(te)上轉(zhuan)發了一個偽造拜(bai)登吐舌(she)頭的(de)視頻，當晚視頻播放量超過1000萬次(ci)。隨后特(te)(te)朗普在5月(yue)又轉(zhuan)發了用自(zi)己(ji)臉替換科(ke)幻電(dian)影《獨立日》中總統托馬(ma)斯·懷特(te)(te)摩爾、發表“我們要(yao)為我們的(de)生(sheng)存而戰”演講的(de)視頻。
▲特朗普推特轉發拜登換臉惡搞視(shi)頻
二、商學政界積極應對Deepfake風險
目前(qian)，針(zhen)對Deepfake，谷歌、微軟、Facebook等眾多科技(ji)巨頭都在開發各(ge)種檢(jian)測技(ji)術(shu)。但目前(qian)比較進階的(de)Deepfake仍然可(ke)以騙過(guo)大多數AI檢(jian)測模型。
2019年6月13日，美國(guo)眾(zhong)議院(yuan)情報委員會(hui)召開關于人工智能深度偽造(zao)的(de)聽證會(hui)，公開談論了深度偽造(zao)技術對國(guo)家、社會(hui)和個人的(de)風險及防(fang)范和應對措施。這是美國(guo)眾(zhong)議院(yuan)首次(ci)舉辦專門討論深度偽造(zao)及其他類型的(de)AI合成技術的(de)聽證會(hui)。
會議邀(yao)請了四位(wei)來自不同領域的專(zhuan)家，分別(bie)是美國外交政策研究(jiu)(jiu)所(suo)研究(jiu)(jiu)員克林特·瓦茨（Clint Watts）、馬里蘭大(da)學(xue)法(fa)學(xue)教(jiao)授丹尼爾 · 希(xi)特倫(lun)（Danielle Citron）、布(bu)法(fa)羅大(da)學(xue)人工智(zhi)能研究(jiu)(jiu)所(suo)所(suo)長大(da)衛(wei)·多爾曼（David Doermann）和Open AI政策總監杰(jie)克·克拉克（Jack Clark），以系統介紹深度(du)偽造技術(shu)及解答議員的疑惑，共同探討“深度(du)偽造”的風險及應對之(zhi)策。
在我國(guo)，相關監管(guan)政策也在不(bu)斷完(wan)善。我國(guo)《民法典》第1019條明(ming)確指出，任何組織或個人不(bu)得利用(yong)信息技術手段偽造等方式侵害他(ta)人的肖像權。
結語：警惕視頻通話中的AI換臉技術
荷(he)蘭視頻會(hui)議遭AI換(huan)臉(lian)(lian)，表明當前(qian)AI換(huan)臉(lian)(lian)技(ji)術風險已滲透到安(an)全性較高的政界，各(ge)界應當加大(da)AI換(huan)臉(lian)(lian)技(ji)術的監(jian)管。
未(wei)來(lai)，可能需要嚴格的(de)篩查流程來(lai)識別AI換臉(lian)技術，以此(ci)確保視(shi)頻通話(hua)中每個參與者都(dou)是真實的(de)。
來(lai)源(yuan)：Engadget
