智東西（公眾號：zhidxcom）
編譯?|? 程茜
編輯 |? 李水青
智東西11月3日消息，昨天(tian)，Meta（Facebook）公(gong)司宣布(bu)將關閉其(qi)人(ren)臉(lian)識別(bie)系統，并刪除(chu)其(qi)超過(guo)10億用(yong)(yong)戶的人(ren)臉(lian)數據。據悉，有三分之一用(yong)(yong)戶使(shi)用(yong)(yong)Meta的人(ren)臉(lian)識別(bie)功能，但(dan)往后他們(men)將不再(zai)能使(shi)用(yong)(yong)到(dao)這一功能。
上周二，Facebook剛剛宣(xuan)布(bu)改名Meta，被(bei)認為(wei)重要(yao)目(mu)的(de)之一(yi)是幫其擺(bai)脫一(yi)直(zhi)以來的(de)數(shu)據隱私侵(qin)犯丑聞。現在，Meta進一(yi)步(bu)采取(qu)具體措(cuo)施以應(ying)對社會(hui)的(de)負面影響。Meta人工智能副總(zong)裁Jerome Pesenti在一(yi)篇博(bo)客中表(biao)示，Meta正在做出改變，因(yin)為(wei)它(ta)需要(yao)權衡人臉(lian)識(shi)別(bie)的(de)積極用(yong)例與日益嚴峻的(de)社會(hui)問題。
Pesenti還表示(shi)：“監管(guan)機(ji)構(gou)仍(reng)在制定(ding)一套明確的(de)(de)規則來管(guan)理人臉(lian)識(shi)別技(ji)術的(de)(de)使用。在這(zhe)種持續的(de)(de)不確定(ding)性中，我(wo)們認(ren)為將人臉(lian)識(shi)別的(de)(de)使用限制在一個較小的(de)(de)范圍中是合適的(de)(de)。”
一、Meta人臉識別功能將關閉，年底刪完數據
自2011年以來，Meta就已經推出人(ren)臉識(shi)別功能，在首次亮相(xiang)時，Meta自動(dong)為超過5億人(ren)啟用了該功能。人(ren)臉識(shi)別當時稱(cheng)為標(biao)(biao)簽(qian)識(shi)別，可以自動(dong)識(shi)別出現在用戶照片(pian)和視頻(pin)中的人(ren)，并建(jian)議用戶點擊“標(biao)(biao)記”他們(men)(men)，將他們(men)(men)的賬戶與圖像相(xiang)關聯。
Meta現(xian)在(zai)已經建(jian)立了世(shi)界上最大(da)的照片存儲(chu)庫之一，很大(da)程(cheng)度歸功(gong)于該功(gong)能(neng)。
除了自動標記之外，Meta的(de)人臉識別功(gong)能(neng)還允許(xu)用(yong)(yong)戶在有人上傳他們的(de)照片時收到通知，可以(yi)防止肖像(xiang)權(quan)侵犯。同時，該(gai)功(gong)能(neng)可以(yi)自動將用(yong)(yong)戶名(ming)添加到圖像(xiang)的(de)描述文本(ben)中，接(jie)著利(li)用(yong)(yong)手機中的(de)語音功(gong)能(neng)，為盲人或其(qi)他視障用(yong)(yong)戶讀出描述文本(ben)。
▲2017 年(nian)，工(gong)程師馬特·金通過電話會(hui)議展(zhan)示面(mian)部(bu)識別(bie)技術。
Meta計(ji)劃在(zai)本月(yue)關(guan)閉其已有十(shi)年歷史的人臉識別系統，刪除(chu)超過10億用戶的人臉掃描(miao)數據，這一舉動可能(neng)對消除(chu)引發隱私擔憂、政府調(diao)查、集體(ti)訴訟和監管困(kun)境的問題產生積極(ji)影(ying)響。
目前，Meta有超(chao)過三分(fen)之一的日常用(yong)(yong)(yong)戶(hu)為他(ta)們的賬戶(hu)啟用(yong)(yong)(yong)了(le)人臉識別(bie)，這意味著當他(ta)們的新照片或(huo)視頻被其(qi)他(ta)用(yong)(yong)(yong)戶(hu)上傳到社交網絡時，啟用(yong)(yong)(yong)人臉識別(bie)的用(yong)(yong)(yong)戶(hu)就會收(shou)到警報(bao)。該功能(neng)還被用(yong)(yong)(yong)于標記(ji)可(ke)(ke)能(neng)冒充(chong)他(ta)人的帳戶(hu)，并被納入向盲人用(yong)(yong)(yong)戶(hu)描(miao)述照片的軟(ruan)件(jian)中。當系統最終關閉(bi)時，這些功能(neng)將不可(ke)(ke)用(yong)(yong)(yong)。
照片標簽人臉識(shi)別的結(jie)(jie)束并不意味(wei)著該公司將(jiang)徹底結(jie)(jie)束人臉識(shi)別的使用。Meta仍將(jiang)使用該技術(shu)做一些事情(qing)，例(li)如幫助用戶訪問鎖(suo)定(ding)的帳戶或驗證他們的身(shen)份以完成交易(yi)。盡管Meta將(jiang)刪除超過10億(yi)張人臉的數據(ju)，但該公司將(jiang)保留DeepFace，即用這些數據(ju)訓練的AI模型。
Pesenti表示，社交網絡中(zhong)有關人臉識(shi)別技術(shu)的問題正在逐漸暴露。他(ta)補充說，Meta仍(reng)然認為人臉識(shi)別技術(shu)是一(yi)個強大(da)的工具，但每一(yi)項(xiang)新技術(shu)都將帶來收益和爭論，我們希望找到正確的平衡點。
Meta發言人(ren)Jason Grosse表示，此次(ci)刪除人(ren)臉識別(bie)計(ji)劃將在全球范圍(wei)內開展，預計(ji)于12月完成。
二、十年來，Meta人臉識別功能飽受爭議
人臉識別技術近(jin)年來在準(zhun)確(que)性和(he)功(gong)能(neng)(neng)方面(mian)取得了進步，但由于政府、執(zhi)法(fa)部門和(he)企(qi)業可(ke)能(neng)(neng)會濫用它，因此越(yue)(yue)來越(yue)(yue)成(cheng)為(wei)爭論(lun)的焦點。在美(mei)國，執(zhi)法(fa)部門已轉向利(li)用該功(gong)能(neng)(neng)來協助維(wei)持(chi)治安(an)，使得人們(men)擔心這會引發過(guo)度執(zhi)法(fa)和(he)錯誤逮捕的問題。
其(qi)(qi)次，人(ren)(ren)(ren)臉識別(bie)功能的復雜性也(ye)為其(qi)(qi)帶來爭議。由于許多(duo)(duo)人(ren)(ren)(ren)臉識別(bie)算法最初主要針對白人(ren)(ren)(ren)男(nan)(nan)性面(mian)部進行(xing)訓練，因此對于非白人(ren)(ren)(ren)男(nan)(nan)性來說，它(ta)們的錯誤率要高得多(duo)(duo)。
一(yi)些批評人(ren)士表示，零售商、醫(yi)院和其他企業出于安全(quan)目的會(hui)(hui)使(shi)用(yong)人(ren)臉識別技術，但這可能會(hui)(hui)產生損害隱私、針對邊緣化群體并使(shi)侵入性監視(shi)正(zheng)常化等問題。
▲零售商使用(yong)人臉(lian)識別功(gong)能
美國一(yi)些城市和(he)企業已經開(kai)始禁(jin)止或限制人臉識(shi)別(bie)功能使用，以防止潛在的濫用發生。
國際商(shang)業機器公司IBM已經永久(jiu)性地(di)結束(shu)了人臉識別(bie)(bie)產品(pin)的(de)銷售(shou)。在美國，一(yi)些州(zhou)也(ye)已經通過了嚴格的(de)法律來限(xian)制人臉識別(bie)(bie)技術的(de)使用(yong)。
當聯邦貿易(yi)委員會(hui)在2019年對(dui)Meta處以創紀錄的50億美元(yuan)罰款以解決隱私(si)投(tou)訴(su)(su)(su)時，人臉識別軟件成為了(le)人們關(guan)注的焦點。去(qu)年，該公司還同(tong)意(yi)支付6.5億美元(yuan)以解決伊利諾伊州(zhou)的一起(qi)集體訴(su)(su)(su)訟，該訴(su)(su)(su)訟指控Meta違反了(le)一項要(yao)求居民同(tong)意(yi)使用其(qi)生物識別信息(xi)的州(zhou)法(fa)律。
最近，舉報人弗朗西斯·豪根（Frances Haugen）收集的(de)文件顯示(shi)，Meta已(yi)經(jing)意識到其產品會損(sun)害青少年的(de)心理(li)健康，其算法(fa)正在推動兩極(ji)分化，并且Facebook應(ying)用程序上為反疫苗人士發(fa)表言(yan)論提供了場所，從而破(po)壞(huai)人們為接(jie)種新(xin)冠疫苗作出的(de)努(nu)力(li)。
雖然Meta從未將其人臉識別技術出售給其他公司，但這(zhe)并沒有使這(zhe)家社交媒(mei)體巨(ju)頭免受審查，這(zhe)促(cu)使德國和其他歐洲國家要求Meta在歐盟禁用該功能。
該(gai)公(gong)(gong)告發布之際(ji)，Meta正(zheng)受(shou)到(dao)立法者、監管(guan)機(ji)構(gou)和廣大公(gong)(gong)眾的嚴(yan)格審查。該(gai)公(gong)(gong)司(si)因其(qi)在美國最近(jin)的選舉中傳播錯誤信息、幫助在緬甸煽動種族(zu)暴力以及未能打擊有關(guan)氣(qi)候變化的虛假(jia)信息而受(shou)到(dao)指責。
三、亞馬遜、微軟和IBM等都已停用人臉識別
Meta宣布關閉(bi)人臉(lian)識別功能這一舉(ju)動在(zai)隱私倡導和數(shu)字權利團體之間引(yin)起(qi)了(le)廣泛討論。
生物識(shi)別研究(jiu)(jiu)人(ren)(ren)員Joy Buolamwini、Deb Raji和(he)Timnit Gebru等在此前的研究(jiu)(jiu)中證明了人(ren)(ren)臉識(shi)別系統對深色(se)皮膚女性的準(zhun)(zhun)確度(du)較(jiao)低。美國國家(jia)標準(zhun)(zhun)與技(ji)術研究(jiu)(jiu)院的一項分析(xi)隨后證實了這些結(jie)果，分析(xi)表明人(ren)(ren)臉識(shi)別技(ji)術經常(chang)錯誤地(di)識(shi)別亞洲人(ren)(ren)、年輕人(ren)(ren)和(he)其他人(ren)(ren)。
“如(ru)果這促使政策制定者認真對待(dai)有關(guan)人臉識別的問(wen)題，國會(hui)能(neng)夠真正通過一些(xie)立法并提出倡導，那么這將成為(wei)一個轉折點或(huo)關(guan)鍵時刻。”Raji表示。
“人(ren)臉(lian)識(shi)(shi)別技術引起廣泛爭議的(de)(de)(de)關鍵時刻(ke)，Meta宣布關閉人(ren)臉(lian)識(shi)(shi)別業(ye)務。盡管Meta的(de)(de)(de)行動是在其他科(ke)技公(gong)司采取行動之后做出的(de)(de)(de)，但它可能(neng)標志(zhi)著全國擺脫人(ren)臉(lian)識(shi)(shi)別的(de)(de)(de)重要時刻(ke)。”公(gong)民自由組織電子前沿基金會的(de)(de)(de)高級(ji)律師亞當·施瓦茨（Adam Schwartz）說，“企業(ye)使用(yong)人(ren)臉(lian)監(jian)控對人(ren)們的(de)(de)(de)隱私非常危險。”
Meta并(bing)不是(shi)第(di)一家關閉人(ren)臉(lian)識別(bie)軟件(jian)的大(da)型科技公司。近年來，亞馬(ma)遜、微(wei)軟和IBM已(yi)暫停(ting)或停(ting)止向執法部門銷(xiao)售其人(ren)臉(lian)識別(bie)產品，同時表達了對隱私和算法偏見的擔憂，并(bing)呼(hu)吁(yu)進行更明(ming)確的監管。
Meta的(de)人(ren)(ren)臉識別功能(neng)有(you)著悠久的(de)歷史。但該軟(ruan)件于2011年(nian)在(zai)歐洲推出時，歐洲的(de)數據(ju)保護局就表(biao)示此(ci)舉是非法的(de)，該公司需要獲得同意才能(neng)分析一個人(ren)(ren)的(de)照片并提取個人(ren)(ren)面部(bu)的(de)獨特圖案。
電子隱私信息中心（EPIC）執行董(dong)事艾倫·巴特勒（Alan Butler）表示：“長(chang)(chang)期以來，互(hu)聯(lian)網用戶因(yin)Meta和其他平臺的突發奇想而遭受個(ge)人數(shu)據(ju)濫(lan)用。這(zhe)是我(wo)們(men)10多年前提出(chu)的一個(ge)已(yi)知問題，但它拖了(le)很(hen)長(chang)(chang)時間，我(wo)很(hen)高興Meta做出(chu)了(le)這(zhe)個(ge)決定。同時，美國(guo)仍(reng)然(ran)需要全面的數(shu)據(ju)保護法規。”
巴特勒(le)先生還呼吁(yu)Meta采(cai)取更(geng)多措施(shi)，防止其照片(pian)被用于為其他公(gong)司的人(ren)臉識別系統提(ti)供支持，例如AI初(chu)創公(gong)司Clearview AI從Facebook和PimEyes等(deng)公(gong)共網絡上抓取了照片(pian)。
▲2019 年，Clearview AI創(chuang)始人Hoan Ton-That正在測試智能手機(ji)應用程序(xu)。
結語：Meta快刀斬亂麻，為元宇宙開路？
關于(yu)數(shu)據(ju)隱(yin)私(si)的(de)(de)(de)問題(ti)(ti)已經老(lao)生常談，但數(shu)據(ju)安全問題(ti)(ti)還(huan)沒有(you)(you)一個完(wan)善(shan)、有(you)(you)效的(de)(de)(de)法律規(gui)定。Meta的(de)(de)(de)人臉識(shi)別(bie)功能已推(tui)出10余年，此次(ci)宣布關閉人臉識(shi)別(bie)系統，一舉(ju)刪除10億(yi)用戶人臉掃描數(shu)據(ju)，既回應了目前面臨的(de)(de)(de)相關隱(yin)私(si)問題(ti)(ti)指控，也在探(tan)索作為互聯網(wang)巨頭應對數(shu)據(ju)隱(yin)私(si)問題(ti)(ti)的(de)(de)(de)有(you)(you)效路徑(jing)。
Meta宣稱在(zai)未來要專注(zhu)元宇宙(zhou)領域(yu)的發展(zhan)，此次大刀闊(kuo)斧地(di)采取(qu)措施處理數據安(an)全相(xiang)關(guan)問題，可能也是(shi)在(zai)為元宇宙(zhou)探索(suo)鋪平道路。
來源：路透(tou)社、紐(niu)約時報、華(hua)爾街日報、WIRED
