智東西（公眾號：zhidxcom）
文 | 李水青
導語：媒介環境的混亂將可能造成人類真實世界的混亂。除了隱私問題，AI視頻換臉引發的信息誤導問題同樣值得關注，甚至有過之而無不及。
智東西9月(yue)6日消(xiao)息，臉書（Facebook）的(de)首(shou)席技術官Mike Schroepfer發布(bu)博客宣布(bu)，臉書正和微軟聯合來自麻省理工、牛(niu)津等大學的(de)研究者，通過置辦“Deepfakes鑒別挑戰賽”，探索如何(he)通過數據集(ji)和基(ji)準測(ce)試(shi)檢(jian)測(ce)Deepfake換臉視頻。
Deepfakes技(ji)術可以(yi)利(li)用GAN（生成式對抗網絡）將視頻中的(de)人(ren)臉換掉，且十(shi)分逼真。近期國(guo)內(nei)大火的(de)“ZAO”App被就疑似使(shi)用了該技(ji)術，用戶只需要在App中上傳(chuan)一(yi)張照(zhao)片，就能將自己的(de)臉替換成視頻中“小李子(zi)”“周潤發”“白展堂”等(deng)人(ren)的(de)臉，幾乎(hu)可以(yi)以(yi)假亂真。
當ZAO很快地火起來后，人們敏銳地察覺(jue)到視(shi)頻換臉中的隱(yin)私問(wen)題，而后“ZAO”換臉App被(bei)責令整(zheng)改。但(dan)是，除了隱(yin)私問(wen)題，其中的信(xin)息誤導問(wen)題同樣值(zhi)得關注，甚至有過之而無不及。
▲被AI換臉后的視頻(pin)
“Deepfake”技術能(neng)夠(gou)利(li)用AI將視頻中(zhong)的人(ren)臉逼真(zhen)地換掉，這使它很容意被(bei)用于偽造信息、誤導輿論，甚至被(bei)不法人(ren)士拿來制作(zuo)色情(qing)短片(pian)、實(shi)施金融(rong)詐(zha)騙等違法犯罪行為。然而，行業內還沒(mei)有很好的數(shu)據集或基準來檢測辨別(bie)它們。
現(xian)在，美國科技(ji)巨頭臉書打(da)算(suan)對AI視(shi)頻換臉技(ji)術(shu)下手了，計(ji)劃出資1000多萬美元，從(cong)數據集、經費、獎(jiang)金等多方(fang)面支持“Deepfake鑒別挑戰賽”，以尋找(zhao)能(neng)夠準確鑒別AI生成視(shi)頻的工具。
一、扎克伯格也被換臉，聯合產學界搞鑒別研究
其實，早在2017年(nian)12月，國外某ID名為“Deepfakes”的Reddit論壇用戶首次將自己制作的AI換(huan)臉視頻發布在了網絡上(shang)，后來，Deepfakes將這項(xiang)技(ji)術開源，并(bing)被大家命名為“Deepfakes”，立刻風(feng)靡全球。
“Deepfakes”技術背后的(de)(de)來源(yuan)是一(yi)(yi)種(zhong)(zhong)(zhong)名為(wei)GAN（生(sheng)(sheng)成(cheng)式對抗(kang)網絡）的(de)(de)AI模型。在GAN中，G和D是兩種(zhong)(zhong)(zhong)相互博弈的(de)(de)算法，一(yi)(yi)種(zhong)(zhong)(zhong)生(sheng)(sheng)成(cheng)圖像，另一(yi)(yi)種(zhong)(zhong)(zhong)比較判定圖像與(yu)源(yuan)圖像的(de)(de)差別。博弈的(de)(de)理想結果是G成(cheng)為(wei)了能夠“以假亂真”的(de)(de)圖像生(sheng)(sheng)成(cheng)模型。
AI換(huan)臉真正在國內火起來還(huan)要說今(jin)年初，B站UP主(zhu)“換(huan)臉哥”將一(yi)段94版射(she)雕英雄(xiong)傳視頻中的朱茵(yin)的臉換(huan)成了(le)(le)楊冪。AI換(huan)臉技術已(yi)經蓬勃爆(bao)發(fa)，卻也被一(yi)再(zai)惡(e)意使用，AI換(huan)臉黑產甚(shen)至已(yi)經在國內形成了(le)(le)完整的產業鏈。（）
▲朱茵(yin)的臉被換成了楊冪
今年(nian)6月，臉(lian)書首席(xi)執(zhi)行官馬克?扎克伯(bo)(bo)格(ge)的(de)一段被篡改過的(de)視頻(pin)被廣泛傳播，之后(hou)，扎克伯(bo)(bo)格(ge)向觀眾講述了臉(lian)書正在考慮制(zhi)定應(ying)對(dui)Deepfakes的(de)政策(ce)。
今天，臉(lian)書宣布將在(zai)數(shu)據集和基準測(ce)試層面促進更多的研究(jiu)，以開發出更好的開源工具來檢(jian)測(ce)Deepfake。臉(lian)書將聯合微軟、麻省(sheng)理工大學等業界和學界的伙(huo)伴共同置(zhi)辦“Deepfake檢(jian)測(ce)挑戰賽”（DFDC）。
▲扎(zha)克伯格視頻被篡改
二、大賽目標：研發通用的AI換臉視頻檢測工具
數據(ju)集和(he)基(ji)準(zhun)測(ce)試已成為加速AI發(fa)展的(de)(de)相當有效的(de)(de)工具(ju)。目前深度學習技術的(de)(de)復興一定程度上得(de)益于ImageNet基(ji)準(zhun)；GLUE和(he)SuperGLUE基(ji)準(zhun)加速了自然語(yu)言處理的(de)(de)最新進展。
據稱，“Deepfake鑒別挑戰賽”的(de)目(mu)標是，找到(dao)一款能(neng)檢(jian)測(ce)視頻是否(fou)被(bei)換(huan)過臉(lian)的(de)工具(ju)，并且它能(neng)被(bei)每個人便捷操作。
大賽旨(zhi)在促使行(xing)業創建新的檢測方法，以防(fang)止AI生成的視(shi)聽內(nei)容誤導大眾，比如，在2020年大選(xuan)之前找(zhao)到更(geng)多的偽造視(shi)頻，以免媒體(ti)誤導選(xuan)民(min)。
“這是(shi)一場(chang)貓鼠游戲，如果我設計(ji)一個Deepfakes檢測器(qi)(qi)，我就(jiu)直接(jie)給了(le)這些黑客一個新(xin)的(de)模擬(ni)器(qi)(qi)進行反測試(shi)。”紐約(yue)大學Tendon學院計(ji)算機工(gong)程助理教授Siddharth Garg表(biao)示。
三、將為參賽者提供數據集和經費，請第三方監督
在“Deepfake鑒別挑(tiao)戰(zhan)賽(sai)(sai)(sai)”中，會務組(zu)會為參賽(sai)(sai)(sai)者提(ti)供一(yi)個數據集和(he)經費，還(huan)會用排行(xing)榜展示參賽(sai)(sai)(sai)者的成績(ji)，并設獎金獎勵(li)。人(ren)工智(zhi)能和(he)媒體誠信新指導委員會（Partnership on AI’s new Steering Committee on AI and Media Integrity）將對挑(tiao)戰(zhan)賽(sai)(sai)(sai)進行(xing)全(quan)程監(jian)督和(he)管理(li)。
為此(ci)，臉(lian)書(shu)正在調(diao)試一個現實的(de)數(shu)據(ju)集，該數(shu)據(ju)集來(lai)自臉(lian)書(shu)付(fu)費找(zhao)來(lai)的(de)參(can)與者(zhe)。參(can)賽者(zhe)可以免費使(shi)(shi)用大量(liang)數(shu)據(ju)，幾乎沒(mei)有使(shi)(shi)用限制。臉(lian)書(shu)強調(diao)，此(ci)數(shu)據(ju)集中不會使(shi)(shi)用臉(lian)書(shu)的(de)用戶數(shu)據(ju)。
同時(shi)，臉書(shu)還會資助研(yan)究經費和獎項獎金，以鼓勵更多人參與。據稱，臉書(shu)會為此(ci)投入1000多萬美(mei)元(yuan)。
據了解，相關數(shu)據集(ji)和挑戰參數(shu)將在今年10月的(de)國際計算機視覺會議(yi)上，以供專門(men)的(de)技術工作委(wei)員會測試，進而(er)確(que)保其質量。完整的(de)數(shu)據集(ji)和DFDC將于今年12月召開(kai)的(de)神經信(xin)息處理系統會議(yi)（NeurIPS）上發(fa)布(bu)。
結語：防止AI視頻換臉濫用，還需用技術反制
近日(ri)，我國企(qi)業公(gong)開發布的(de)(de)“ZAO”換(huan)臉(lian)App被相關部門責令整改，這體(ti)現了(le)監管對Deepfakes等AI換(huan)臉(lian)技術的(de)(de)約束作用(yong)(yong)。但是在暗(an)處，Deepfakes作為(wei)被開源的(de)(de)技術，仍然可能被拿來濫用(yong)(yong)，利用(yong)(yong)技術進行(xing)反制就(jiu)顯得格外重要。
當Deepfakes被用(yong)于(yu)偽(wei)造信息，甚(shen)至(zhi)被不法人士拿來制作色情短(duan)片(pian)、實施金(jin)融詐騙等(deng)違(wei)法犯罪行為時，我們如果能通過基準數據等(deng)工(gong)具進行檢測辨別，可以(yi)大大的降低損失。另外，除了(le)算法技術，區塊鏈等(deng)技術未來也(ye)可能被用(yong)于(yu)鑒別偽(wei)造的視頻。
視(shi)頻(pin)、報(bao)道等媒介內(nei)容(rong)營造的(de)媒介環(huan)境(jing)(jing)極大地影響著人們的(de)主觀(guan)世界，并通過(guo)對人們主觀(guan)世界的(de)作用影響客觀(guan)環(huan)境(jing)(jing)。如(ru)果任由虛假的(de)視(shi)頻(pin)信息蔓延在網絡世界，這種媒介環(huan)境(jing)(jing)的(de)混亂(luan)將可能造成人類真實世界的(de)混亂(luan)。
“我們必(bi)須更好(hao)地區分真實與虛假，獎勵可(ke)信(xin)內容而不是不受信(xin)任的(de)內容。這需要(yao)產(chan)業、大學、非政(zheng)府組織等共同合作，以開發出能夠快速(su)準(zhun)確地鑒(jian)別(bie)真實內容的(de)技術。”加州大學伯克利分校的(de)Hany Farid教授評價“Deepfake鑒(jian)別(bie)挑戰賽”說(shuo)。
