智東西（公眾號：zhidxcom）
編譯 |? 吳浪娜
編輯 |? 漠影
智東西10月12日消息，據《華爾街日報》今天報道，圖靈獎得主、Meta首席AI科學家楊立昆接受了該媒體的采訪，他認為許多專家夸大了AI的力量和危險，他希望人們了解這一點。在采訪中，他稱有關(guan)AI這項(xiang)技(ji)術生存危機(ji)的(de)警告“完(wan)全(quan)是胡說八道（that’s complete B.S.）”。
楊(yang)(yang)立昆是(shi)引(yin)發當今的(de)AI熱潮的(de)重要人(ren)物之一(yi)。但當其他杰出的(de)技(ji)術專家(jia)告訴(su)我們(men)，我們(men)即將擁(yong)有超越人(ren)類智能的(de)計算(suan)機，甚(shen)至人(ren)類可能被(bei)其取代時，楊(yang)(yang)立昆卻堅定地成為了(le)AI熱潮中最有資歷(li)的(de)懷疑(yi)論者。
在社交媒體、演講和(he)辯論中(zhong)，這位(wei)紐約大學(xue)教授兼Meta的人工智能(neng)大師與那些鼓吹生成式(shi)AI具有超人潛力(li)的支(zhi)持(chi)者和(he)預(yu)言家們(men)展開了(le)爭(zheng)論，包括埃隆·馬斯克（Elon Musk）和(he)楊立昆(kun)的兩位(wei)同行先驅。杰(jie)弗里·辛(xin)頓（Geoffrey Hinton）和(he)約書(shu)亞·本吉奧（Yoshua Bengio）與楊立昆(kun)一(yi)起擁(yong)有“AI教父”的非官方頭銜，其(qi)中(zhong)辛(xin)頓是楊立昆(kun)近40年的朋(peng)友，在本周獲得(de)了(le)諾貝爾物理學(xue)獎(jiang)，他曾(ceng)多次就AI的生存威脅發(fa)出警告。
楊立昆認為，當今的AI模型雖然有用(yong)，但(dan)遠不能(neng)與我們的寵物的智力相媲美，更(geng)不用(yong)說與我們人(ren)類相比了(le)。當《華爾街日報》記(ji)者問(wen)他(ta)，我(wo)們是(shi)否應(ying)該擔心AI很快會變得非常強大(da)以至于(yu)對我(wo)們構(gou)成危險時(shi)，他(ta)打趣道：“請原諒我(wo)說臟話，但那完(wan)全是(shi)胡說八(ba)道。”
他的(de)工作成果以及(ji)他是在一(yi)家(jia)大型科(ke)技公司中成就(jiu)顯著的(de)AI研究(jiu)實驗(yan)室之一(yi)的(de)領導人，這(zhe)讓楊(yang)立昆的(de)觀點更有(you)分量。
楊(yang)立昆(kun)告訴記者，他對AI產生(sheng)興趣的(de)(de)部(bu)分原因是斯坦利·庫布里克（Stanley Kubrick）1968年(nian)的(de)(de)科(ke)幻(huan)經典電影《2001：太空漫游》中的(de)(de)流氓人(ren)工智能HAL 9000。他在巴黎(li)北部(bu)長大，在從索邦(bang)大學(xue)(xue)獲得博士學(xue)(xue)位后(hou)(hou)，他在傳奇的(de)(de)貝爾(er)實驗室工作，從晶體管到激光等許多(duo)發(fa)明都誕生(sheng)于此。2003年(nian)，他加入紐(niu)約大學(xue)(xue)擔任計(ji)算機科(ke)學(xue)(xue)教授，十年(nian)后(hou)(hou)，他成為當時的(de)(de)Facebook的(de)(de)AI研(yan)究主管。
2019年，楊立昆(kun)、辛頓和本吉奧一起獲得了圖靈(ling)獎，這是(shi)計(ji)算(suan)機(ji)科(ke)學的(de)(de)最高獎項(xiang)(xiang)。這個獎項(xiang)(xiang)使這三人被稱為“AI教父”，以(yi)表彰他們在神經(jing)(jing)網(wang)絡方(fang)面的(de)(de)基礎(chu)性工作，神經(jing)(jing)網(wang)絡是(shi)許多當今最強(qiang)大(da)的(de)(de)AI系統的(de)(de)基礎(chu)，從(cong)OpenAI的(de)(de)聊天(tian)機(ji)器人到自動駕駛汽車。
▲2019年，楊立昆（中間）與本吉奧（最左邊）和辛頓(dun)（最右邊）共同獲得(de)了計算機科學領域的最高獎項圖靈獎（圖源(yuan)：《華爾街(jie)日報》）
如今，楊立昆繼續在紐約(yue)大學(xue)與他的(de)博士生一起發(fa)表(biao)論文，同時他作為(wei)(wei)Meta的(de)首(shou)席AI科(ke)學(xue)家，領(ling)導著世界上(shang)資金雄厚的(de)AI研(yan)究組織之一。他經常(chang)與Meta CEO馬克·扎克伯(bo)格（Mark Zuckerberg）見面并通過WhatsApp聊天，扎克伯(bo)格正(zheng)將(jiang)Meta定位為(wei)(wei)AI熱潮(chao)中對抗蘋(pin)果和OpenAI等(deng)其他科(ke)技巨頭的(de)力(li)量(liang)。
在現(xian)實生活中(zhong)，楊立昆有一種讓人消(xiao)除戒心的(de)魅力(li)：調(diao)皮、機智(zhi)，隨(sui)時準(zhun)備(bei)說出(chu)他(ta)(ta)認為是自己領域(yu)的(de)殘酷真(zhen)相。64歲的(de)他(ta)(ta)看(kan)起(qi)來既時尚又有點邋(la)遢(ta)，這很(hen)適(shi)合(he)一位曾(ceng)經的(de)巴黎人，他(ta)(ta)的(de)眼(yan)鏡是經典(dian)的(de)黑色(se)雷朋鏡框。
坐在Meta位于紐約(yue)市(shi)的(de)一個衛星辦公室的(de)會議室里，他(ta)散(san)發著溫暖和親切的(de)自信(xin)，帶著那種讓你覺得自己也參與了這(zhe)個笑(xiao)話的(de)笑(xiao)容發表他(ta)的(de)尖銳觀點(dian)。
一、楊立昆否認AI威脅論，稱現有AI不如一只寵物貓
楊立昆(kun)與競爭對(dui)手和朋友都(dou)進行過爭論。今(jin)年(nian)春天，他在海外(wai)社交平臺X上(shang)與馬斯(si)克就(jiu)科學研究的本質(zhi)發生了激(ji)烈爭辯。
楊立昆還在公開場合與辛頓和本吉奧就他們反(fan)復發出的AI對人類構(gou)成危(wei)險的警告表示不(bu)同意。
本(ben)吉奧說(shuo)，他在(zai)很(hen)多(duo)問(wen)題(ti)上與楊立昆意(yi)見一致，但在(zai)公(gong)司是否可以(yi)被(bei)信任以(yi)確保未來(lai)的超人(ren)類(lei)人(ren)工智能（superhuman AIs）不會被(bei)人(ren)類(lei)惡(e)意(yi)使用，或(huo)者(zhe)超人(ren)類(lei)人(ren)工智能不會產(chan)生自己的惡(e)意(yi)意(yi)圖這一問(wen)題(ti)上存在(zai)分歧。
“我希望他是對的(de)，但我認為我們(men)不應該僅(jin)僅(jin)依(yi)靠(kao)公(gong)(gong)司之(zhi)間的(de)競爭和利潤(run)動機來保護公(gong)(gong)眾和民主，”本(ben)吉奧(ao)說(shuo)，“這就(jiu)是為什(shen)么我認為我們(men)需要政府的(de)參(can)與。”
楊立昆認為AI是(shi)一個(ge)(ge)強大的(de)工具。在(zai)整(zheng)個(ge)(ge)采訪中(zhong)，他列舉了許多AI在(zai)Meta變得極(ji)其重(zhong)要(yao)的(de)例子(zi)，并使Meta的(de)規模和收入(ru)達到了目前(qian)約(yue)1.5萬億(yi)美元的(de)價值(zhi)。AI是(shi)Meta工作(zuo)中(zhong)不(bu)可或缺的(de)一部分，從(cong)實時翻譯到內容審核，除了其基礎AI研(yan)究(jiu)團隊（稱為FAIR）之(zhi)外，Meta還(huan)有一個(ge)(ge)以產品為重(zhong)點(dian)的(de)AI小(xiao)組GenAI，正在(zai)追求其大型(xing)語言模型(xing)的(de)更好(hao)版本。
“這對Meta的(de)影響(xiang)確實非常巨大(da)。”他說。
同(tong)時(shi)，他(ta)確信當今的(de)AI在(zai)任何(he)有意(yi)義上都不是智能的(de)——而且(qie)該領域的(de)許多其他(ta)人(ren)，尤其是在(zai)AI初(chu)創(chuang)公司中，準備以他(ta)認為荒謬的(de)方式推(tui)斷(duan)其最(zui)近的(de)發展。
如(ru)果(guo)楊立昆的(de)觀(guan)點(dian)是正確的(de)，這(zhe)對當今(jin)一(yi)些最熱門(men)的(de)初創公(gong)司(si)來說(shuo)意味(wei)著麻煩，更不用說(shuo)那(nei)些向AI投入數百億美元的(de)科技巨頭了。他們中的(de)許多人(ren)都寄希望于這(zhe)樣一(yi)種想(xiang)法，即(ji)當今(jin)基于大語言模型的(de)AI，如(ru)OpenAI的(de)那(nei)些，正處于在短期內創造所謂(wei)的(de)“通用人(ren)工(gong)智(zhi)能”（AGI）的(de)道路上(shang)，這(zhe)種AI將遠(yuan)遠(yuan)超(chao)過人(ren)類水平的(de)智(zhi)能。
OpenAI的薩姆·阿爾特曼(man)（Sam Altman）上個(ge)月在(zai)一(yi)篇博客中(zhong)提(ti)到，我(wo)們(men)可能(neng)在(zai)“幾(ji)千天內”擁有AGI。馬(ma)斯克則認(ren)為(wei)可能(neng)在(zai)2026年實現。
楊立昆認為這樣的(de)說法可能(neng)為時過(guo)早(zao)。今年5月，一位即將(jiang)離職的(de)OpenAI研(yan)究人(ren)員談到(dao)需(xu)要(yao)學習如何(he)控制超智(zhi)能(neng)人(ren)工智(zhi)能(neng)時，楊立昆進行(xing)了反駁。“在(zai)我看(kan)來(lai)，在(zai)‘緊急弄清楚如何(he)控制比(bi)我們聰明得多的(de)AI系統’之(zhi)前，我們需(xu)要(yao)先設計(ji)一個比(bi)家貓更(geng)聰明的(de)系統。”他在(zai)X上回(hui)復道(dao)。
他喜歡貓的比喻。他說，畢竟貓科動物擁有物理世界的心理模型、持久的記憶、一些推理能力和計劃能力。而這些品質在當今的“前(qian)沿”AI中都不(bu)存在，包括Meta自己制造的AI。
自1986年(nian)就認識楊(yang)立昆的(de)萊昂·博(bo)圖（Léon Bottou）說(shuo)，楊(yang)立昆是(shi)一種“善意(yi)的(de)固執”，也(ye)就是(shi)說(shuo)，他(ta)愿意(yi)傾聽別人的(de)觀(guan)點，但會一心(xin)一意(yi)地追(zhui)求他(ta)認為(wei)構(gou)建AI的(de)正確(que)方法。
亞(ya)歷山大·里夫斯（Alexander Rives）曾是楊立昆的(de)(de)(de)博士生，后來創立了一家AI初創公司，他說(shuo)楊立昆的(de)(de)(de)挑釁是經過深思熟慮的(de)(de)(de)。“他有這(zhe)樣的(de)(de)(de)歷史，即真的(de)(de)(de)能夠(gou)看到該(gai)領域(yu)在思考問題方式(shi)上(shang)的(de)(de)(de)差距，并指出這(zhe)一點，”里夫斯說(shuo)。
二、楊立昆認為只是堆砌芯片和數據的規模并不能實現AGI
楊立昆認為(wei)真(zhen)正的(de)(de)AGI是一(yi)個(ge)有價值的(de)(de)目標——Meta也在努(nu)力實現這(zhe)個(ge)目標。
“在未(wei)來，當人(ren)們與他們的AI系統、智能眼(yan)鏡(jing)或其他任何東西交談時，我們需要這(zhe)些(xie)AI系統基本(ben)上(shang)具有(you)(you)人(ren)類水平(ping)的特征，真(zhen)正具有(you)(you)常識(shi)，并(bing)真(zhen)正像人(ren)類助手一樣表現。”他在采(cai)訪中說。
但他接著補充道，創造(zao)一(yi)個如此有能力的AI可能需(xu)要幾十年的時間——而(er)當今(jin)的主導方法(fa)(fa)無法(fa)(fa)讓(rang)我們實現這一(yi)目標。
生成式AI熱潮是由(you)大語言(yan)模(mo)型和類(lei)(lei)(lei)似的(de)系統(tong)(tong)推(tui)動的(de)，這些(xie)系統(tong)(tong)在(zai)海量數(shu)(shu)據上進行訓練以模(mo)仿人(ren)類(lei)(lei)(lei)表達。隨著(zhu)每(mei)一代模(mo)型變得(de)(de)(de)更(geng)加強大，一些(xie)專家得(de)(de)(de)出結論(lun)，只要將更(geng)多(duo)的(de)芯(xin)片和數(shu)(shu)據投入到開發未來(lai)的(de)AI中，就能使它們變得(de)(de)(de)更(geng)有能力，最(zui)終與(yu)人(ren)類(lei)(lei)(lei)智(zhi)能相(xiang)匹(pi)配或超越(yue)人(ren)類(lei)(lei)(lei)智(zhi)能。這就是在(zai)構建越(yue)來(lai)越(yue)多(duo)的(de)專用芯(xin)片池以訓練AI方面進行大量投資(zi)的(de)背后邏輯。
楊立昆認(ren)為(wei)當今AI系(xi)統的問題在于它們(men)的設計方式，而不(bu)(bu)是它們(men)的規模。他說，無論科(ke)技巨頭在全球的數(shu)據(ju)中心(xin)中塞進多少GPU，當今的AI都不(bu)(bu)會讓我們(men)實現AGI。
他的(de)(de)(de)(de)(de)(de)賭注是(shi)，對于以不(bu)同方(fang)(fang)式(shi)(shi)工作的(de)(de)(de)(de)(de)(de)AI的(de)(de)(de)(de)(de)(de)研究將(jiang)為(wei)我(wo)們開啟一(yi)條通(tong)往人類(lei)水平智能的(de)(de)(de)(de)(de)(de)道路。這(zhe)些假設(she)的(de)(de)(de)(de)(de)(de)未來AI可能有多種(zhong)形式(shi)(shi)，但目(mu)前讓楊立昆(kun)興奮的(de)(de)(de)(de)(de)(de)項目(mu)之一(yi)是(shi)在FAIR進行的(de)(de)(de)(de)(de)(de)從(cong)現實世界的(de)(de)(de)(de)(de)(de)視頻中(zhong)提取信息(xi)的(de)(de)(de)(de)(de)(de)工作。這(zhe)個(ge)想法是(shi)創建以類(lei)似于幼年動物的(de)(de)(de)(de)(de)(de)方(fang)(fang)式(shi)(shi)學(xue)習的(de)(de)(de)(de)(de)(de)模(mo)型，通(tong)過從(cong)其(qi)所接(jie)收(shou)的(de)(de)(de)(de)(de)(de)視覺信息(xi)中(zhong)構建一(yi)個(ge)世界模(mo)型。
用(yong)于(yu)ChatGPT和(he)其他(ta)聊天機器人(ren)的大語言模(mo)型將來(lai)可能(neng)在使用(yong)一系列其他(ta)技術和(he)算法(fa)構建的具有(you)常識和(he)類人(ren)類能(neng)力的系統中只發揮很(hen)小的作(zuo)用(yong)。
他說，當今(jin)的(de)(de)模型實際(ji)上(shang)只是在(zai)預測文本中的(de)(de)下一個單詞(ci)。但它(ta)們(men)在(zai)這(zhe)方面非(fei)常擅長(chang)，以至于(yu)欺騙了我們(men)。而且由(you)于(yu)它(ta)們(men)巨大的(de)(de)存儲容(rong)量，它(ta)們(men)似乎在(zai)進(jin)行推(tui)理，但實際(ji)上(shang)它(ta)們(men)只是在(zai)重復已經訓練(lian)過(guo)的(de)(de)信息。
“我們習(xi)慣(guan)于(yu)這樣的(de)(de)(de)想法，即(ji)能(neng)夠表達自己或操縱語言的(de)(de)(de)人或實體是聰明的(de)(de)(de)——但這不是真的(de)(de)(de)，”楊立昆說，“你可以操縱語言但并不聰明，而這基本上就是大語言模型所展示的(de)(de)(de)。”
結語：三位“AI教父”的對于AI威脅論持不同意見
曾經一同獲得2018年(nian)度圖靈獎的三位“AI教父”，如(ru)今對于AI的認識與思考逐漸產生了分歧。
楊立昆(kun)否認(ren)AI威脅論，認(ren)為(wei)此類(lei)言論是“胡說八道(dao)”，現有的AI沒有人類(lei)想象中強大，實現AGI也為(wei)時(shi)尚早，想要(yao)創造出超越(yue)人類(lei)的智能則有更長的路要(yao)走。
而(er)另外兩(liang)位科學家，辛頓和本(ben)吉(ji)奧，則不斷敲響警鐘，呼吁(yu)大眾、企業(ye)和政(zheng)府對AI背后的(de)道德和倫理進行深刻反思。
辛頓曾提出AI威脅論，他在諾貝爾獎頒獎典禮電話(hua)采訪中談道，很擔心AI會失去控制并取代人(ren)類(lei)，OpenAI應該(gai)把安全研究放在首位(wei)。他還曾說過，AI可能創(chuang)造出超越(yue)人(ren)類(lei)的智能，這可能會導致人(ren)類(lei)處于劣勢。
本吉奧在今天發布的(de)最新采(cai)訪視頻中說道：“我(wo)們不清楚如何(he)避免(mian)這些系(xi)(xi)統變得自主，并有自己的(de)保護(hu)目標，我(wo)們可能會失去對這些系(xi)(xi)統的(de)控制。所以我(wo)們可能正(zheng)在走上一條創造(zao)比我(wo)們更強大的(de)怪物的(de)道路(lu)。”
來源(yuan)：《華爾(er)街日報(bao)》、雅虎
