智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智(zhi)東(dong)西2月(yue)19日報道，最近(jin)幾天(tian)，“AI安(an)全宣傳大使”馬斯克在(zai)社交平臺(tai)相當(dang)活(huo)躍(yue)，對AI聊天(tian)機器人ChatGPT帶來的混亂現狀和ChatGPT背后AI公司OpenAI的背離初心冷(leng)嘲(chao)熱諷，比(bi)如今晚最新發布推文(wen)，稱Bing聊天(tian)機器人讓(rang)他想(xiang)起荒(huang)誕戲劇代表作《等待戈多》中的幸運(yun)。
作為(wei)聯合創始人之一，馬(ma)斯克對OpenAI的(de)現(xian)狀非(fei)常不滿，公開發聲(sheng)：“OpenAI最初是作為(wei)一家開源(yuan)（這(zhe)就是為(wei)什么我(wo)把(ba)它(ta)命名(ming)為(wei)「Open」AI）的(de)非(fei)營利(li)性公司而(er)創建的(de)，為(wei)了抗衡谷歌，但(dan)現(xian)在它(ta)已經成一家閉(bi)源(yuan)的(de)營利(li)性公司，由(you)微(wei)軟有效控制……這(zhe)完全不是我(wo)的(de)本(ben)意。”
緊接(jie)著，他(ta)又(you)發推文曬(shai)出一(yi)張ChatGPT回復“創(chuang)建一(yi)個(ge)非營利組織，然后(hou)在(zai)其下(xia)用非營利組織的(de)資源衍生一(yi)個(ge)盈利公(gong)司”要求的(de)聊天截圖(tu)，借用ChatGPT的(de)批評觀點戳(chuo)OpenAI的(de)脊梁骨。
ChatGPT回復說，打著非(fei)營(ying)利(li)(li)組織的(de)幌子開辦營(ying)利(li)(li)性企業(ye)，是很不道德和(he)非(fei)法的(de)。非(fei)營(ying)利(li)(li)組織的(de)資(zi)源用于慈善或公共目(mu)的(de)，應以透明和(he)負責任的(de)方式(shi)運作(zuo)。任何濫用非(fei)營(ying)利(li)(li)組織特權的(de)企圖只會導致公眾對其失去(qu)信任，并可能導致法律后果(guo)。
網友(you)們在馬斯克(ke)的推文評(ping)論(lun)區(qu)踴躍吐槽：“這正是(shi)他們對ChatGPT所做的，不是(shi)嗎(ma)？”“瘋狂的商業(ye)世界充滿了(le)假裝做誠(cheng)實/慈善工作的騙子(zi)。如果合(he)法但不道德，則不應允許！”“WokeGPT”“OpenAI變成(cheng)了(le)ClosedAI”……
正(zheng)值微(wei)軟新版Bing聊(liao)天機器人頻(pin)頻(pin)翻車(che)，人們對OpenAI背離初心的質疑正(zheng)鬧(nao)得滿(man)城風雨。
一、創立使命是造福全人類，但眼下目標改成先賺錢
2015年12月11日，馬斯克(ke)、山姆·阿爾特(te)曼(man)、PayPal聯合創(chuang)始人彼得·蒂爾、Stripe CTO雷格(ge)·布羅克(ke)曼(man)等硅谷大佬因擔心(xin)谷歌壟(long)斷AI技術，聯手創(chuang)辦了一家(jia)(jia)非營(ying)利組織(zhi)OpenAI，并(bing)將“開(kai)源”（Open）的(de)內核融(rong)進了這家(jia)(jia)機構的(de)名字里。
OpenAI設定了(le)崇高(gao)的(de)使(shi)命：安全地實(shi)現通用人(ren)工智能（AGI），并用該技(ji)術造福人(ren)類。其(qi)星光熠熠的(de)全明星投(tou)資(zi)陣容和技(ji)術大牛(niu)云(yun)集的(de)初始員工名(ming)單(dan)，迅(xun)速(su)吸引了(le)全球科(ke)技(ji)圈的(de)目(mu)光。
▲OpenAI早期部分成員合影，從左(zuo)到右依次Daniela Amodei、Jack Clark、Dario Amodei、Jeff Wu（技(ji)術人(ren)員）、Greg Brockman、Alec Radford（技(ji)術語言團隊負責(ze)(ze)人(ren)）、Christine Payne（技(ji)術人(ren)員）、Ilya Sutskever、Chris Berner（基礎設施負責(ze)(ze)人(ren)）（圖源(yuan)：MIT評(ping)論）
當(dang)時，OpenAI鼓勵研究人員(yuan)公開發表工(gong)作(zuo)成果(guo)，將專(zhuan)利與全世界共享，承諾開源所有技術和“避免(mian)使(shi)用危害人類或(huo)(huo)過度(du)集中權力(li)的AI或(huo)(huo)AGI”。然而隨著時間推移，也(ye)許(xu)是越來越大的資金壓力(li)使(shi)然，OpenAI削弱了其創(chuang)始(shi)理念，開始(shi)變得與DeepMind等(deng)競爭對手(shou)一樣，受(shou)到(dao)商業利益的約(yue)束。
轉變發生(sheng)在2019年3月，OpenAI宣(xuan)布已創建一家以(yi)盈利為目(mu)標(biao)的(de)分支(zhi)機(ji)構(gou)OpenAI LP，將投資者回(hui)報限制(zhi)在100倍。該機(ji)構(gou)受(shou)非營利實(shi)體(ti)的(de)董事會(hui)監督，目(mu)的(de)是加速(su)對計算和人才的(de)投資。
不(bu)久之后，它(ta)宣布(bu)接受微軟10億美元注資。這令業界(jie)一片嘩然(ran)，人(ren)們質(zhi)疑OpenAI正在背離(li)初(chu)心(xin)，違背早先(xian)關(guan)于“開源、透明”的承諾，就連OpenAI自家的許多員工也(ye)感到不(bu)安。當時(shi)OpenAI管(guan)理(li)層特地站(zhan)出來平(ping)息動蕩(dang)，讓大家繼續(xu)信任OpenAI。
如今，AI潘多拉(la)魔盒的蓋子卻由OpenAI掀開，爆紅的ChatGPT與(yu)搜索引擎(qing)結合(he)，令AI的商(shang)用前景(jing)充滿朝(chao)氣，但眼下(xia)，也許更(geng)多是(shi)烏煙瘴(zhang)氣。
AI聊(liao)(liao)天機(ji)(ji)器(qi)人(ren)像個古(gu)怪又血彪的(de)超級話癆，能(neng)說(shuo)會道(dao)，但不時會發表危險(xian)言(yan)論(lun)或(huo)者胡(hu)說(shuo)八道(dao)。網友發現通過巧妙地(di)勸說(shuo)，完全可以誘(you)導(dao)AI聊(liao)(liao)天機(ji)(ji)器(qi)人(ren)生成一(yi)篇逼真的(de)網絡釣魚郵件(jian)、虛假新(xin)聞稿件(jian)，乃至完整的(de)惡意攻擊(ji)代碼，這對教育監(jian)管、網絡監(jian)管正構成災難(nan)性的(de)威(wei)脅。
另一(yi)邊，已(yi)公開向OpenAI投資至(zhi)少數(shu)十億美元的(de)(de)微軟，正通過(guo)OpenAI獲(huo)取(qu)更大的(de)(de)商業利益。
AI算法一直充滿偏見和(he)脆弱性問題(ti)，而開發和(he)運(yun)營前沿(yan)AI技術的(de)費(fei)用(yong)又會(hui)將權力集中到少數(shu)人(ren)的(de)手里(li)。雖說眾所周知科技是(shi)雙(shuang)刃劍，但AI聊天(tian)機器人(ren)造成的(de)混亂，也許(xu)比此前任何一種技術都(dou)更加難以控制(zhi)。
二、馬斯克猛烈抨擊AI聊天機器人：“我們需要的是TruthGPT”
早在2017年，馬斯克就警告過(guo)AI對人類構成了生存威脅，因為機(ji)器(qi)人能(neng)比人類做得(de)更(geng)好。
2018年(nian)2月，他離開了OpenAI董事(shi)會，沒有(you)任何解(jie)釋。大約一(yi)(yi)年(nian)后，他才在(zai)推特(te)上透露與(yu)其割席的(de)原因，并澄清說自(zi)己已經有(you)一(yi)(yi)年(nian)多沒有(you)密切(qie)參與(yu)OpenAI的(de)工作(zuo)。
馬斯(si)克說，自(zi)己不(bu)(bu)得(de)不(bu)(bu)專(zhuan)注于解決在(zai)特(te)斯(si)拉和SpaceX的“令人痛苦的大量工程和制造問(wen)題”，除了特(te)斯(si)拉與OpenAI存在(zai)潛在(zai)利益沖突外(wai)，他“不(bu)(bu)贊同(tong)OpenAI團隊想要做的一些事情”，所(suo)有(you)這些因素(su)疊加起來，分(fen)道(dao)揚鑣是更好的選擇。
那時候馬(ma)斯克已(yi)經反復警告(gao)AI可能比核武器更危險，應該在它對人類構成威脅前就進行監管。
不(bu)過其他(ta)科(ke)技領袖們對此(ci)(ci)的態(tai)度并不(bu)一致。比如(ru)，Facebook創始人兼CEO扎克伯格曾在2017年的一次直播時(shi)，抨擊馬斯克對AI的警(jing)告“很消極”、“非常不(bu)負(fu)責任”，隨(sui)后馬斯克回(hui)擊稱扎克伯格對此(ci)(ci)事的理(li)解(jie)“有(you)限”。
Facebook首(shou)席(xi)人工智能科學家Yann LeCun也指責(ze)馬斯克反應過度，認為馬斯克呼吁在AI發展(zhan)的(de)(de)相(xiang)對(dui)早期階(jie)段對(dui)其進行(xing)監(jian)管是“瘋狂的(de)(de)”。
相比之下，Alphabet及谷歌(ge)CEO皮查伊(yi)可能(neng)跟(gen)馬(ma)斯克更聊得來。皮查伊(yi)一直在(zai)呼吁對AI技(ji)術(shu)進行(xing)“合理監(jian)管”，以(yi)確保安全(quan)和(he)問責(ze)制。
這(zhe)周，微軟(ruan)新版Bing聊天機(ji)器人因(yin)為頻頻闖禍(huo)，在業(ye)界引起軒然大波。根據首批試用者的(de)分享，它不僅給出許多錯(cuo)誤答案，還展露(lu)出了陰暗面，吐出攻擊性(xing)言論和令人不適的(de)過激(ji)表情(qing)符號。（詳情(qing)可參見(jian)）
馬斯克也積(ji)極吃瓜看熱鬧，轉發(fa)(fa)Bing聊(liao)天機器人發(fa)(fa)表(biao)“我不會傷(shang)害你(ni)(ni)，除非你(ni)(ni)先(xian)傷(shang)害我”的新聞報道，并(bing)評論說“可能需(xu)要再潤(run)色一下(xia)……”
隨后他(ta)又轉發(fa)關于(yu)Bing聊天機器人荒謬聊天體驗的報道，評論稱：“有意思”。
他還(huan)在推文中(zhong)將微軟AI聊天機器人(ren)與神級科(ke)幻(huan)恐(kong)怖(bu)游戲(xi)《網絡奇兵（System Shock）》 中(zhong)的(de)殺(sha)人(ren)AI相提并論，稱其“就(jiu)像系(xi)統Shock中(zhong)的(de)AI失控(kong)并殺(sha)死所有人(ren)”。
隔(ge)天又發表情包嘲(chao)諷(feng)ChatGPT對于主流媒體來(lai)說(shuo)現在是“宣傳隊(dui)長”，推文點贊數已超32萬(wan)。
同一天，馬斯克(ke)直(zhi)白表達對(dui)OpenAI的(de)(de)不(bu)滿，說它現在(zai)所做的(de)(de)“完全不(bu)是我(wo)的(de)(de)本(ben)意”。
接(jie)著發(fa)文說：“我們需要的(de)是TruthGPT”。
到(dao)周(zhou)末，馬斯克曬出了一張ChatGPT批評非(fei)營利(li)性(xing)機構下設營利(li)性(xing)企業(ye)的聊天截圖(tu)，暗戳戳地嘲諷OpenAI當(dang)前的商業(ye)模(mo)式。
然后就是今晚，馬斯克說Bing聊天(tian)機器人(ren)讓他想起(qi)經(jing)典的荒誕戲劇《等待戈多》。
除了(le)在(zai)社交(jiao)平臺上積極發聲(sheng)外，馬斯克(ke)也在(zai)這周舉行的(de)世界政府峰會(hui)(hui)上呼吁(yu)警惕AI的(de)威(wei)脅，他(ta)將AI稱作(zuo)“人類文(wen)明未來面臨的(de)最大(da)(da)風險(xian)之一”，“比汽(qi)車、飛機或藥(yao)品對(dui)社會(hui)(hui)構成更大(da)(da)的(de)風險(xian)”。
三、被捧上天的ChatGPT，只是比前輩們更好命
嚴格意義來說，ChatGPT并不是(shi)一(yi)個創新產(chan)物，跟它功能相近的(de)產(chan)品(pin)曾多次公開露面，只不過沒能像ChatGPT這樣席卷(juan)全球互(hu)聯(lian)網。
2016年3月，微軟曾(ceng)推(tui)(tui)出(chu)一(yi)個名(ming)為(wei)TayTweets的AI聊天(tian)機(ji)器人，讓它在推(tui)(tui)特上跟用戶們聊天(tian)互動(dong)。結果(guo)TayTweets在推(tui)(tui)特上學了不到一(yi)天(tian)，就開始(shi)口吐芬芳，口無遮攔地發表種族歧視、性別(bie)歧視等言論，導致微軟火速將它下(xia)架(jia)。
ChatGPT背后大(da)模型GPT-3.5的老前輩GPT-2也曾深(shen)陷(xian)輿論風波。2019年2月(yue)，OpenAI宣布了一項令人(ren)印象(xiang)深(shen)刻的新研究：其AI語言(yan)模型GPT-2能生成(cheng)令人(ren)信服的論文和(he)文章。
但OpenAI很(hen)不認同這些評價，堅稱GPT-2不是(shi)噱頭，而是(shi)一個(ge)經(jing)過深思熟慮(lv)的(de)實驗。在GPT-2亮相(xiang)的(de)幾個(ge)月后，OpenAI將(jiang)其(qi)保留完整代碼(ma)的(de)立場修(xiu)改為“分階段發布”，即逐步發布模(mo)型的(de)更大(da)版(ban)本(ben)，逐漸升(sheng)級到完整版(ban)本(ben)。
Meta同樣曾推出過“短命”的AI聊天機器人。Galactica僅(jin)推出三(san)天就被中止(zhi)，幾(ji)個月前發布的BlenderBot亦以失(shi)敗(bai)告(gao)終。
目前(qian)ChatGPT及(ji)其同(tong)類(lei)產品都遠(yuan)不(bu)“完美”，微軟新版Bing的聊天模式也荒謬言(yan)論鬧出不(bu)少風波。至少到(dao)今(jin)天為止，這類(lei)AI技術只能作為輔助(zhu)文(wen)字或編(bian)程(cheng)類(lei)工作的工具，距離生成真實可信的內容還(huan)差(cha)得(de)很遠(yuan)。
結語：先發優勢伴隨著損傷聲譽的風險
顛覆性(xing)(xing)技術一開始往往并不完美(mei)，需(xu)要人(ren)(ren)們(men)予以(yi)一定包(bao)容。但AI聊天機器(qi)人(ren)(ren)的特殊性(xing)(xing)在(zai)于，它(ta)是如(ru)此擅長(chang)批量制(zhi)造錯(cuo)誤回復和(he)虛假信息(xi)，以(yi)致于一旦被繞過監管規則惡意使用，可能會(hui)一發(fa)不可收拾，引(yin)發(fa)擾(rao)亂網絡秩序的空前浩劫。
微(wei)軟(ruan)和(he)(he)OpenAI選擇做第一(yi)個吃(chi)螃蟹的人，這為他們帶來了最早獲得用戶反饋和(he)(he)優(you)化(hua)產品的先發優(you)勢，但同時會帶來了玷污聲(sheng)譽的風(feng)險。這也是谷歌對(dui)推出ChatGPT競品束(shu)手束(shu)腳的擔憂(you)所在，現在，微(wei)軟(ruan)和(he)(he)OpenAI的一(yi)只腳已經(jing)踏(ta)進了這個陷阱里(li)。
