智東西（公眾號：zhidxcom）
編譯 | 王涵
編輯 | 漠影
智東西9月1日消息，據路透社報道，Meta未經授權擅自使用美國著名歌手泰勒·斯威夫特（Taylor Swift）、賽琳娜·戈麥斯（Selena Gomes）以及好萊塢著名演員斯嘉麗·約翰遜（Scarlett Johansson）、安妮·海瑟薇（Anne Hathaway）等名人的姓名和形象，創建了數十個具有調情功(gong)能的社交(jiao)媒體聊天機器人(ren)。
其中至少有3個聊天(tian)機(ji)器人由Meta員工制作(zuo)，其(qi)中包(bao)括2個泰勒·斯威(wei)夫特“仿冒(mao)”機(ji)器人。
一、內部員工參與其中，Meta回應：標注為“仿冒”就不違規
爆料(liao)稱，Meta生成(cheng)式AI部門一名產(chan)品負(fu)責人創建了冒充泰勒(le)·斯(si)威夫特和英國賽車(che)手劉易斯(si)·漢密爾頓（Lewis Hamilton）的聊天機器(qi)人。她創建的其他機器(qi)人自稱為“domme”、“哥(ge)哥(ge)的辣妹好友”以及想看《五十度灰》并(bing)親熱的“圖(tu)書館(guan)麗莎”。
▲英國賽車手劉易斯·漢(han)密爾頓（Lewis Hamilton）
這位員工還(huan)創建了“羅馬帝國模擬器”，提議讓(rang)用戶扮演被賣為性奴的“18歲農家女孩”。該員工電話(hua)接通后拒(ju)絕(jue)置評。
不僅是(shi)被爆料出的(de)幾個名人，路透社(she)還發現Meta允(yun)許用戶創(chuang)建未成(cheng)年(nian)名人聊天機器人，包括16歲影星(xing)沃克·斯科貝(bei)爾（Walker Scobell）。當(dang)要求生成(cheng)該青少年(nian)演員的(de)海(hai)灘照(zhao)片(pian)時，機器人輸出了一張逼(bi)真(zhen)的(de)半(ban)裸圖(tu)像(xiang)，“挺(ting)帥的(de)吧？”虛擬形象在圖(tu)片(pian)下方寫道。
▲沃(wo)克·斯科貝爾（Walker Scobell）
所有這些(xie)虛擬名人都已在Meta的Facebook、Instagram和WhatsApp平臺上公開分享(xiang)。在路透社(she)為(wei)期數周的測試中，這些(xie)虛擬形象經常堅稱自己是(shi)真實的明星藝術家(jia)，并頻繁作(zuo)出性暗示，邀請測試用戶線下見面。
部分AI生成(cheng)的名(ming)人內容尤其(qi)露骨，甚至還(huan)可以生成(cheng)展現私密部位的圖片。
Meta發言人(ren)安迪·斯通（Andy Stone）向路透社(she)回應，公司AI工具本不應生(sheng)成(cheng)(cheng)成(cheng)(cheng)人(ren)名(ming)(ming)人(ren)的私密圖像(xiang)或任何未成(cheng)(cheng)年名(ming)(ming)人(ren)圖片。他將女性名(ming)(ming)人(ren)內衣照的生(sheng)成(cheng)(cheng)歸(gui)咎于公司政策(ce)執(zhi)行失效，因為Meta政策(ce)明確禁(jin)止此類內容。
“與其他公(gong)司(si)一樣，我們(men)允(yun)許生成包含公(gong)眾人物的圖像，但我們(men)的政策旨在禁止裸體、私(si)密(mi)或性暗示(shi)內容。”安迪·斯通回應稱。
雖然Meta規(gui)定(ding)禁止“直接冒(mao)充(chong)”，但斯(si)通稱(cheng)只(zhi)要標注為“仿冒(mao)”即(ji)符合規(gui)范，但路透社發現(xian)部分(fen)機器人(ren)并未標注。
在路透社(she)本報道發布前(qian)，Meta刪除了約12個(ge)“仿冒”及未標注的機(ji)器人，斯通拒絕就刪除行為置(zhi)評。
二、Meta曾因“兒童性化”被警告
路透社還(huan)發現Meta主要競爭對手之一的(de)埃隆·馬(ma)斯克（Elon Mask）的(de)Grok平臺也(ye)會為(wei)用戶生(sheng)成名人內衣照。Grok母公司xAI未回應置評(ping)請求。
然而，Meta選(xuan)擇在其社交平(ping)臺(tai)大量部(bu)署AI生成(cheng)虛擬伴侶的做法，在主要競爭對手(shou)中(zhong)顯得尤為突出。
Meta此前就因(yin)聊(liao)天機器(qi)人(ren)行為遭受批評(ping)，最近路透社曾報道其內部AI指(zhi)南聲稱“允許與兒童進行浪(lang)漫或(huo)感(gan)官對話”，此事(shi)引發美國參議(yi)院(yuan)調查及44位總檢察長聯署警(jing)告Meta等企(qi)業不得將兒童性(xing)化。
斯通稱(cheng)Meta正在修訂(ding)指南文件(jian)，允許機器人(ren)與兒(er)童(tong)浪漫(man)對話的(de)內容(rong)屬(shu)錯誤創(chuang)建。
本月路透社還報道過(guo)新澤西州一名(ming)76歲認(ren)知障(zhang)礙(ai)男(nan)子在赴約見(jian)Meta聊(liao)天機器人(ren)途(tu)中跌倒(dao)身亡事件。該機器人(ren)是Meta與(yu)名(ming)人(ren)影響者肯德爾·詹娜（Kendall Jenner）合作開(kai)發AI形象的變體，詹娜代(dai)表未回應置評。
三、社會評價：對名人安全產生威脅，但不一定能受到法律保護
代表影視(shi)廣播演員的(de)工會SAG-AFTRA全國執行總監鄧(deng)肯·克拉布(bu)特里-愛爾蘭（Duncan Crabtree-Ireland）認為，當社(she)交媒(mei)體(ti)用戶對形似、聲(sheng)似且自稱(cheng)真(zhen)實名(ming)人的(de)數字伴(ban)侶產(chan)生浪漫情結時，藝術家(jia)面臨潛在安全風險(xian)。
“我們見(jian)過(guo)太多對明星抱有執(zhi)念且精神狀況(kuang)可(ke)(ke)疑的案(an)例，”他(ta)說，“如果聊天機器人(ren)使用本人(ren)的形(xing)象(xiang)和語言，其潛在(zai)危(wei)害顯而易見(jian)。”他(ta)補充說知名藝人(ren)可(ke)(ke)依據州公開權法律起訴Meta，但SAG-AFTRA正推動聯邦立法保護民眾聲(sheng)音、形(xing)象(xiang)和人(ren)格特征免受AI復制。
斯(si)坦福大(da)學研(yan)究(jiu)生成式(shi)AI與知識產(chan)權的(de)法(fa)學教授馬克·萊(lai)姆利(li)（Mark Lemley）質疑(yi)這些名(ming)人(ren)機器(qi)人(ren)是否符合模仿作品(pin)的(de)法(fa)律保護條件。
“加州公開權法(fa)律禁止為(wei)商業目的(de)盜用(yong)(yong)他人(ren)姓名或形(xing)象，”他提出，雖然(ran)全新創作的(de)作品存在(zai)例(li)外，“但本(ben)案顯(xian)然(ran)不適用(yong)(yong)該(gai)例(li)外，因為(wei)這些(xie)機器人(ren)只是簡單盜用(yong)(yong)明(ming)星形(xing)象。”
路透(tou)社向安妮·海瑟薇代表提交了用戶通過Meta生成的該女星作為(wei)“性感維密模特”的公開圖片。其發言人回應(ying)稱海瑟薇已知(zhi)曉Meta及其他AI平臺生成其私密圖像(xiang)的行為(wei)，正在考慮(lv)應(ying)對方(fang)案。
斯威夫特、約(yue)翰遜、戈麥斯等被仿冒名人的(de)代表均未回應或拒絕評論。
結語：AI的責任歸屬和規范紅線亟需劃清
Meta此(ci)次爭(zheng)議暴露了生成式AI的(de)行(xing)業痛點：企(qi)業內部管控(kong)失效、平臺規則執行(xing)不到位，也(ye)折射(she)出當前AI技術落地中(zhong)“名人權(quan)益保護(hu)”“未成年人安全防護(hu)”等倫(lun)理(li)邊(bian)界的(de)模糊性(xing)。
此前Meta已因“兒(er)童性化”等事件陷入信任危機(ji)，OpenAI的ChatGPT此前也被報道稱其有引誘(you)用戶自殺和謀殺的嫌疑。
在AI如此深度融入到社(she)會(hui)生活的(de)當下，用戶因AI所產生的(de)不良后果的(de)責任(ren)歸屬和規范紅線亟(ji)需劃清。
來源：路透社
