編譯 | 金碧輝
編輯 | 程茜
智東西4月28日消(xiao)息，昨日，據《時代》周刊報道，記者比(bi)利?佩里(li)戈(ge)（Billy Perrigo）獨家專(zhuan)訪了谷歌DeepMind CEO、2024年諾貝爾化學獎(jiang)得主德米斯?哈薩比(bi)斯（Demis Hassabis）。這位AI領域的領軍人(ren)物(wu)猜測，通(tong)用(yong)人(ren)工智能（AGI）可能會在(zai)未來十年內實現。
他(ta)指出(chu)，近(jin)年(nian)來(lai)AI研(yan)究進展顯著(zhu)，如(ru)(ru)今有(you)諸多不同路徑正助力實(shi)現AGI。并且，谷歌(ge)DeepMind的(de)模型Gemini已開始從理解世(shi)界(jie)邁向行動，能(neng)完成(cheng)如(ru)(ru)訂(ding)票(piao)、購物、操控機器(qi)人執(zhi)行復雜任務(wu)等(deng)(deng)操作(zuo)。哈(ha)薩比(bi)斯認為AGI若(ruo)發展得當，將幫助人類(lei)攻克疾(ji)病、能(neng)源危機等(deng)(deng)重大挑戰，但同時也(ye)可能(neng)被濫用為生物武(wu)器(qi)或脫離人類(lei)控制。
此次(ci)訪談中，他聊了不(bu)少AGI的可(ke)能(neng)性(xing)及(ji)最新進展，并坦言全(quan)(quan)球(qiu)地(di)緣政治變化可(ke)能(neng)迫使企業調整相關原(yuan)則同時，哈薩(sa)比斯呼吁(yu)國際社會(hui)合作制定AI安全(quan)(quan)標準(zhun)，他認為實現AGI需多(duo)領(ling)域(yu)研究者協同。
▲谷歌(ge)DeepMind CEO哈(ha)薩比斯
作為最早公開(kai)倡導AGI可行性(xing)的科學家(jia)，哈薩比(bi)斯在2022年行業普遍質(zhi)疑AGI可能性(xing)時(shi)，便將其(qi)定位為畢生科研目(mu)標。
薩(sa)姆(mu)?阿爾特曼（Sam Altman）和達里(li)奧?阿莫迪（Dari0 Amodei）預測(ce)AGI的實現時間在(zai)2026年。哈薩(sa)比斯稱，AGI實現時間在(zai)很(hen)大(da)程度上取決于(yu)對其的定(ding)義，當(dang)前不少定(ding)義因籌資(zi)等目的存在(zai)水分 。
他強調自己團(tuan)隊對AGI的(de)定義(yi)始終是(shi)具備人類(lei)所有(you)(you)認(ren)知能(neng)力，并提出(chu)(chu)以AI能(neng)否憑借(jie)愛因斯坦20世紀初的(de)同等信息量(liang)提出(chu)(chu)廣(guang)義(yi)相對論為測試標準，指出(chu)(chu)解決數(shu)(shu)學(xue)問題(ti)與(yu)提出(chu)(chu)有(you)(you)價值(zhi)的(de)猜想(xiang)是(shi)兩回事，即便(bian)很快會(hui)有(you)(you)能(neng)解決千禧年數(shu)(shu)學(xue)難題(ti)之一(yi)的(de)AI系統，但提出(chu)(chu)系列(lie)有(you)(you)趣猜想(xiang)仍頗具挑(tiao)戰。
以下是此次(ci)《時(shi)代(dai)》周刊資深記者佩里戈與(yu)哈薩比(bi)斯訪談全程內(nei)容的(de)(de)編譯（為提高可讀性(xing)，智東(dong)西(xi)在不違(wei)背(bei)原意的(de)(de)前提下進行了一定的(de)(de)增刪修改）：
一、AGI演進挑戰：掌控權、決策邏輯、安全防護
佩里戈：如果AGI得以實現，它將帶來深遠影響。能否請您展望最理想的發展前景？當人類成功研發AGI時，世界將呈現怎樣的圖景？
哈薩比斯：我(wo)(wo)畢生投身AI和(he)AGI研究，是因為(wei)(wei)我(wo)(wo)堅信只要(yao)以正確、負責任的(de)方(fang)(fang)式發展，它們(men)將(jiang)成(cheng)為(wei)(wei)人類(lei)史上最(zui)具變(bian)革(ge)(ge)性的(de)技術。展望未來十年，AI或將(jiang)幫助(zhu)我(wo)(wo)們(men)實現(xian)諸多(duo)突破：從攻克所有疾病，到開發核聚變(bian)、優化電池(chi)技術、研制新型(xing)超(chao)導體(ti)等革(ge)(ge)命性能源方(fang)(fang)案。
當前人類社會(hui)面臨的(de)氣候(hou)變化、疾病等重大挑戰，都將(jiang)(jiang)通(tong)過AI技術(shu)(shu)找到突(tu)破口。可以預見，十年后的(de)世界將(jiang)(jiang)因AI的(de)賦能而達到前所未有的(de)繁榮水平(ping)，人類不僅在(zai)地球上安居樂業，更將(jiang)(jiang)借助AI驅動的(de)技術(shu)(shu)開啟星際探(tan)索的(de)新紀元(yuan)。
以氣(qi)候(hou)變化為例。除了技術創(chuang)新，特別(bie)是AI賦能(neng)(neng)的清潔能(neng)(neng)源技術等突破性(xing)方(fang)案外，我(wo)們(men)很難指望通(tong)過集體行(xing)動在短期內取得實(shi)質(zhi)性(xing)進展。坦白說(shuo)，若不是預見AI即將(jiang)帶來的這場技術革命，我(wo)對人類(lei)當(dang)前的發展軌跡會深(shen)感(gan)憂慮。
正(zheng)(zheng)是由于(yu)確(que)信AI能幫助我們解決這些(xie)迫(po)在眉睫的危機，我才(cai)對(dui)今后50年的發展保持樂觀。就像及時趕到(dao)的援軍，AI正(zheng)(zheng)是當下人類(lei)最需(xu)要的工具之一。
佩里戈：您一直積極呼吁重視AI風險管控，能否具體說明最壞可能出現的局面？
哈薩比斯：當然，最壞的(de)情況在(zai)科幻(huan)作品中已有(you)諸(zhu)多描繪。我個(ge)人最為擔憂的(de)風險(xian)主要(yao)集中在(zai)兩個(ge)方面。
首先，AI雖然是一項前(qian)景廣闊的(de)(de)技(ji)術，但(dan)它(ta)具(ju)有典型的(de)(de)“雙刃劍(jian)”特性(xing)(xing)，且能(neng)力將超乎(hu)想象。AI具(ju)有的(de)(de)特性(xing)(xing)意味(wei)著心懷不軌者可能(neng)將其用(yong)(yong)于(yu)危(wei)害(hai)性(xing)(xing)用(yong)(yong)途。我們面臨的(de)(de)核心矛盾是如(ru)何在確保科研機構等善(shan)意使用(yong)(yong)者能(neng)利用(yong)(yong)AI攻克疑難(nan)疾病(bing)的(de)(de)同時(shi)，又能(neng)有效(xiao)防范個人(ren)乃至敵(di)對(dui)勢(shi)力濫用(yong)(yong)這項技(ji)術。這個平(ping)衡難(nan)題極(ji)具(ju)挑戰(zhan)性(xing)(xing)。
其(qi)次(ci)，是(shi)AGI自身演進帶來的(de)(de)風險(xian)。隨著技術(shu)向自主化(hua)(hua)、智能(neng)體(ti)化(hua)(hua)方向發展(zhan)（這將是(shi)未來幾年(nian)的(de)(de)必然趨勢），我們必須解(jie)決(jue)三大關鍵問題：如(ru)何維持人類對系(xi)統的(de)(de)掌控權，如(ru)何準確(que)理解(jie)和(he)預測AI的(de)(de)決(jue)策(ce)邏輯(ji)，以及如(ru)何建立牢(lao)不可破的(de)(de)安全防(fang)護機(ji)制使(shi)其(qi)不被具(ju)備自我優化(hua)(hua)能(neng)力(li)的(de)(de)超級系(xi)統突破，這都是(shi)極其(qi)復雜(za)的(de)(de)課(ke)題。
這兩類(lei)風險猶如懸在頭(tou)頂(ding)的(de)達摩克利斯之(zhi)劍。但若能妥善應對(dui)，人類(lei)終(zhong)將迎來(lai)理(li)想中(zhong)的(de)美好(hao)未來(lai)。
佩里戈：但這還不是最壞的情況，最壞的情形會是怎樣的？
哈薩比斯：我認為(wei)(wei)，AI技術失控可能會帶(dai)來災難性后果。若安(an)全防護(hu)體系存在重大漏洞(dong)，這些系統可能被全面(mian)逆向利用(yong)。原本用(yong)于藥(yao)物(wu)研發的AI模型，可能被惡意改造為(wei)(wei)生化武器設計工具。每個正向應用(yong)場景都可能被系統性轉化為(wei)(wei)攻擊(ji)性武器。
這解釋了為何我始(shi)終強調建立(li)全球(qiu)治理框架(jia)，AI技術的研發(fa)無國(guo)界(jie)特(te)性，決定(ding)了其影響必然突破地域限制(zhi)，最終波(bo)及世界(jie)每個個體。
同(tong)時，未來(lai)構建全球技(ji)術治理AI體系需(xu)聚焦三大核心要素。首先要建立統一的(de)系統架構安全標準來(lai)保(bao)證(zheng)研發規范，同(tong)時，嵌(qian)入不可(ke)篡改的(de)倫理目標約束機(ji)制(zhi)來(lai)管理AI技(ji)術，最后形成跨國界(jie)部署的(de)協同(tong)審查(cha)制(zhi)度同(tong)一進行應用監管。
二、因AI安全問題難眠，呼吁構建全球治理框架應對挑戰
佩里戈：AI安全學界正熱議系統行為的風險特征維度，包括自主權力擴張傾向、欺騙性策略實施、系統性削弱人類決策權及突破控制框架等潛在可能。您對此類風險性質有怎樣的研判：究竟屬于必然發展路徑，還是小概率事件？
哈薩比斯：我的(de)基本判(pan)斷是(shi)這(zhe)類風險仍處于不可(ke)測狀態。學界對(dui)(dui)此(ci)存在(zai)嚴重分歧(qi)，我的(de)同事中不乏圖靈獎得(de)主級別(bie)的(de)權威專家，但對(dui)(dui)這(zhe)類風險的(de)預測也是(shi)各執一詞。這(zhe)種認知對(dui)(dui)立恰恰表(biao)明，真理(li)往往存在(zai)于辯證認知中。
當我(wo)們深入觀察技(ji)(ji)術發展史，控制系統的難度或許會隨著系統進化呈指數(shu)(shu)級下(xia)降，現有技(ji)(ji)術軌跡已透露出(chu)這種可(ke)能性(xing)。實證數(shu)(shu)據表明(ming)，某些場景下(xia)的可(ke)控性(xing)已優于極(ji)端悲觀預測模(mo)型。
但(dan)這絕不意味(wei)著可(ke)以放松(song)警惕。我們(men)(men)亟需構建多維度風險評(ping)估體系，通過(guo)可(ke)控實驗建立(li)可(ke)靠的風險量化(hua)模型，在技術擴(kuo)散前完成預防性(xing)治理框架設計(ji)。對于(yu)具有技術奇點級(ji)創(chuang)新(xin)的領(ling)域，“被動響應”模式可(ke)能會(hui)帶(dai)來災難性(xing)后果，這正是我們(men)(men)堅持“預測性(xing)治理”原(yuan)則(ze)的根本原(yuan)因。
佩里戈：有什么事會讓你徹夜難眠？
哈薩比斯：對我(wo)來(lai)說，AI的(de)安全(quan)本質上關乎構建全(quan)球治(zhi)理(li)框架的(de)緊迫性，不(bu)僅需(xu)要國家間(jian)協同，更需(xu)形成技術(shu)治(zhi)理(li)共同體，特別是在接近AGI技術(shu)收斂的(de)關鍵階(jie)段。當前(qian)我(wo)們正處(chu)于(yu)技術(shu)奇點的(de)突(tu)破(po)前(qian)夜，時間(jian)窗口可能在5-10年區(qu)間(jian)內波動。部分前(qian)沿研究(jiu)者的(de)預測模(mo)型(xing)甚(shen)至指向更短周期。我(wo)不(bu)會感到驚訝，這就像一個概率分布。但無論如何，它很(hen)快就會到來(lai)。
而(er)我不確定社會是否已經為此做(zuo)好了充分準備。我們需要深入思(si)考這一點(dian)，同時(shi)也要考慮我之(zhi)前(qian)提到的(de)(de)那些問題(ti)，包括這些系統的(de)(de)可控(kong)性、對這些系統的(de)(de)訪問權(quan)限以及確保一切順利進行相關的(de)(de)問題(ti)。
佩里戈：你覺得自己更像是一名科學家，還是一名技術專家呢？你身處倫敦，離硅谷十分遙遠。你對自己有著怎樣的定位呢？?
哈薩比斯：我首(shou)先把自己定位為(wei)一(yi)名科(ke)學家。我這(zhe)一(yi)生所(suo)做的(de)一(yi)切(qie)，其根本原因都是為(wei)了(le)追求知識，努力(li)去(qu)理解我們(men)周圍的(de)世界。我從(cong)小就(jiu)對這(zhe)件事癡迷。
對我而言，研發AI是我探索(suo)問(wen)題的(de)(de)一種(zhong)方式，首先要打造(zao)出一個(ge)工具—這(zhe)本身就(jiu)相當引人入勝，而且(qie)它(ta)表(biao)明了關于智能、意(yi)識(shi)以及(ji)這(zhe)些本身就(jiu)堪稱最大謎團的(de)(de)事(shi)物(wu)的(de)(de)某種(zhong)觀點。同時，這(zhe)個(ge)工具能有雙(shuang)重用途，因為(wei)它(ta)也可(ke)以被(bei)用作(zuo)研究你周圍(wei)自然世(shi)界(jie)的(de)(de)工具，比如(ru)化學、物(wu)理和(he)生物(wu)學領域。還有什么比這(zhe)更激動人心的(de)(de)探索(suo)之旅和(he)追求目標呢？
所(suo)以，我(wo)首(shou)先把自己(ji)看作是一(yi)名科學家，其次(ci)可能會覺(jue)得自己(ji)是個企業家，主要是因為這是實現目(mu)標最快捷的(de)方式。最后(hou)，或(huo)許我(wo)還算是一(yi)名技術(shu)工程(cheng)師，因為說到底，你不會只想(xiang)在實驗(yan)室里進行(xing)理論推導、思考問題。你實際上是希望能給這個世界帶(dai)來實實在在的(de)改變。
三、阿爾特曼和阿莫迪預測AGI實現時間，哈薩比斯稱定義影響判斷
佩里戈：我想稍微談一談時間線方面的事情。阿爾特曼和阿莫迪最近都公開表態……?
哈薩比斯：那可能是超短(duan)的，對吧？
佩里戈：阿爾特曼認為，他預計AGI將在特朗普總統任期內實現。阿莫迪則表示，AGI最早可能2026年實現。
哈薩比斯：我覺得(de)在一(yi)(yi)(yi)定(ding)程(cheng)度(du)上，這(zhe)取決于你對AGI的定(ding)義(yi)。由于各(ge)種(zhong)各(ge)樣(yang)的原(yuan)因(yin)，這(zhe)個定(ding)義(yi)已經被大打折扣了(le)，比如為(wei)了(le)籌集資(zi)金，人們出(chu)于各(ge)種(zhong)原(yuan)因(yin)可能(neng)會這(zhe)么(me)做。而我們的定(ding)義(yi)自(zi)始至終(zhong)都保持得(de)非常一(yi)(yi)(yi)致(zhi)，即具(ju)備(bei)人類所(suo)擁有(you)的所(suo)有(you)認知能(neng)力的這(zhe)一(yi)(yi)(yi)概念。
實際上，我對此的測試標準是(shi)(shi)：一(yi)(yi)個AI能否憑(ping)借愛(ai)因(yin)斯坦(tan)20世(shi)紀初(chu)所(suo)擁有的同等信(xin)息量，提(ti)出(chu)(chu)(chu)廣(guang)義相(xiang)對論(lun)呢？所(suo)以(yi)這可不只是(shi)(shi)解決一(yi)(yi)個數學猜(cai)想的問(wen)題(ti)，你能否提(ti)出(chu)(chu)(chu)一(yi)(yi)個有價(jia)值(zhi)的猜(cai)想呢？所(suo)以(yi)我相(xiang)當確(que)定，我們(men)很快就會有能夠解決千禧(xi)年數學難題(ti)之一(yi)(yi)的系統(tong)，但(dan)你能提(ti)出(chu)(chu)(chu)一(yi)(yi)系列(lie)像千禧(xi)年數學難題(ti)那樣有趣的猜(cai)想嗎？
佩里戈：簡而言之，這聽起來就像是你所描述的科學家和技術專家之間的區別。所有的技術專家都在說：AGI是這樣一種系統，它能夠以比人類更出色或成本更低的方式，完成具有經濟價值的工作。
哈薩比斯：這(zhe)句(ju)話說(shuo)得真好。也(ye)許這(zhe)就是(shi)我如(ru)此(ci)著迷研發AGI的原因(yin)。我一直都特別佩服歷史上的科學(xue)家。在(zai)我看來(lai)，真正讓人類知(zhi)識不斷增(zeng)長、向前發展的是(shi)他們(men)，而(er)不是(shi)那些(xie)一門心思(si)把(ba)知(zhi)識用(yong)在(zai)實際生活里的人。可(ke)能，兩者對社會都很重要。工程領域和(he)科學(xue)領域都是(shi)如(ru)此(ci)。但我認為現有的AI缺(que)乏(fa)提出假設(she)的能力(li)。
佩里戈：咱們說得更具體些。你覺得距離出現那種能切實對AI研究作出有意義貢獻的自動化研究工具（或系統），我們還有多大差距呢？?
哈薩比斯：我覺得(de)距離實(shi)現(xian)目標(biao)還得(de)再(zai)過幾年(nian)(nian)時間。我認為當(dang)下的編程輔助(zhu)工具已經相當(dang)不(bu)錯了。而且我猜(cai)測，到了明年(nian)(nian)，它們的表現(xian)會極(ji)為出色。我們正全力以赴地推進這方(fang)面的工作(zuo)。
Anthropic公司主要聚焦在編程輔助工具的(de)研發(fa)上(shang)，而(er)我們一直以來更多地是在開展(zhan)科學(xue)領(ling)域的(de)研究工作(zuo)。就為操作(zuo)系統設計出(chu)精(jing)巧(qiao)合理的(de)架構這(zhe)一點而(er)言(yan)，AI仍(reng)然比不上(shang)那些最頂尖的(de)程序(xu)員(yuan)。
我(wo)(wo)認為在這一(yi)方面，AI還存在欠(qian)缺，所以我(wo)(wo)覺得要達到(dao)理想(xiang)狀態，還得再過幾年(nian)時(shi)間。
四、真正的智能建立在現實世界之上，大力投入通用助理、機器人研發
佩里戈：你在Gemini模型中極為重視多模態特性，而且不僅在語言領域構建基礎，還將其拓展至現實世界。你在這方面的關注度比其他實驗室更高。這是為什么呢？
哈薩比斯：有(you)幾個(ge)原因(yin)(yin)。其一，我認為真正的(de)智能必然要(yao)求對周圍的(de)時空(kong)世界有(you)所(suo)理解。這對于任何你(ni)想(xiang)要(yao)開展的(de)真正意義上的(de)科(ke)學(xue)研究而言(yan)，都是至關重(zhong)要(yao)的(de)。我還認為，這樣(yang)做實(shi)際上能夠讓(rang)語言(yan)模型(xing)得到提(ti)升(sheng)，而且我們也確實(shi)看到了一些成效，因(yin)(yin)為你(ni)切(qie)實(shi)地將模型(xing)建立在了現(xian)實(shi)世界的(de)情境之中。
盡管(guan)實際上，語言自身的發展程度已經遠超(chao)部(bu)分人(ren)以(yi)及我(wo)(wo)之(zhi)前的預期，甚至可以(yi)說，有些成果在之(zhi)前我(wo)(wo)都覺得不太可能實現。
最后，這(zhe)也(ye)與應用場景相關。因為我(wo)心中(zhong)有兩個(ge)我(wo)們正大力(li)投(tou)入研究的應用場景。第一個(ge)是通用數字助理的設(she)想(xiang)，它能在日常生(sheng)活中(zhong)為你提供幫助，提升(sheng)你的工(gong)作效率，豐富你的生(sheng)活體驗。
這(zhe)個(ge)數字助理(li)不只是存在于你的(de)(de)電腦里，還能(neng)(neng)(neng)與(yu)你形影不離，可(ke)能(neng)(neng)(neng)是在你的(de)(de)手(shou)機、智能(neng)(neng)(neng)眼鏡或(huo)者(zhe)其他設備上，并(bing)且時刻都能(neng)(neng)(neng)發揮極大的(de)(de)作(zuo)用。而要實(shi)現這(zhe)一點，它就必(bi)須(xu)理(li)解并(bing)處理(li)你周圍的(de)(de)世界。
其二(er)，對于(yu)機(ji)器人技術(shu)來(lai)說，這恰恰是(shi)現實世界中的(de)機(ji)器人正常運作(zuo)所(suo)不可或缺的(de)要素。機(ji)器人必須理解自身所(suo)處的(de)空間(jian)環境。人類本(ben)就是(shi)多(duo)模態的(de)，不是(shi)嗎？
我(wo)們在屏幕上操作(zuo)，擁有視(shi)覺感知(zhi)，喜(xi)歡觀看視(shi)頻，想(xiang)要創作(zuo)圖像(xiang)，也(ye)會聆聽音頻。所以我(wo)認為(wei)，AI系統需(xu)要具備類(lei)似的多模態特性，才能(neng)以最(zui)全面的方式(shi)與我(wo)們進(jin)行互(hu)動。
佩里戈：信號基金會的總裁梅雷迪斯?惠特克（Meredith Whittaker）對您剛剛所描述的AGI提出了頗為尖銳的批評，其觀點是這種幫助并非平白無故就能獲得的。你得拿出大量自己的數據來作為交換。為了讓這個智能體發揮作用，你得讓它能夠獲取你生活中的幾乎所有信息。谷歌是一家數字廣告公司，它收集個人信息以便投放定向廣告。您是如何看待智能體對隱私所產生的影響的呢？
哈薩比斯：梅(mei)雷迪斯指(zhi)出這(zhe)一點(dian)是正確的(de)(de)。我很欣賞她在信號公(gong)司（Signal）所做的(de)(de)工(gong)作。我認為，首(shou)先，所有這(zhe)些功能(neng)都應該是用戶(hu)可以選擇開啟或使用的(de)(de)，用戶(hu)要能(neng)夠自主決定是否(fou)(fou)參(can)與，是否(fou)(fou)提供(gong)相關數據等。
五、AGI引發哲學思考，呼喚新哲學家給答案
佩里戈：但我們會主動選擇參與各種各樣的事情，我們會主動選擇接受數字追蹤。
哈薩比斯：首(shou)先，這(zhe)是你(ni)的(de)選(xuan)擇(ze)，不過(guo)很明(ming)顯，人們會選(xuan)擇(ze)這(zhe)么做，因為它確實有用。我認為，只有當你(ni)完全(quan)相信那個(ge)(ge)智能助手是屬于你(ni)自(zi)己的(de)，這(zhe)個(ge)(ge)模式(shi)才會行得通，對吧？
它(ta)必須得(de)(de)讓(rang)(rang)你覺得(de)(de)值(zhi)得(de)(de)信賴，因(yin)為(wei)要讓(rang)(rang)它(ta)像現實生活中的人類助手一(yi)樣，一(yi)旦(dan)它(ta)了解了你，才能真正發(fa)揮作用。我的助手們對我的了解甚至(zhi)比我對自(zi)己的了解還要深(shen)，這就是為(wei)什么(me)我們作為(wei)一(yi)個團隊合作得(de)(de)如此默契(qi)。
我覺得這就是你(ni)希望(wang)從你(ni)的(de)(de)數字(zi)助手那(nei)里得到的(de)(de)那(nei)種實用性。但(dan)與此同時，你(ni)得確(que)(que)保它的(de)(de)信(xin)息是不(bu)會(hui)被泄(xie)露的(de)(de)。我們有世界上(shang)一些(xie)最優秀的(de)(de)安(an)全(quan)專家來處理(li)這些(xie)事情，以確(que)(que)保它能保護隱(yin)私，即(ji)使在我們的(de)(de)服務器上(shang)信(xin)息也是加密的(de)(de)。
我們正在全力(li)以(yi)赴地開展這些(xie)工作，以(yi)便當我們的“阿斯特拉計劃(hua)（Project Astra）”的智能(neng)助手項(xiang)目準備(bei)好正式投入使(shi)用時，這些(xie)安全保障(zhang)措施也(ye)能(neng)到(dao)位。
我認為這將是一個由消費者來(lai)做的(de)決定，他(ta)們會傾向于選擇那(nei)些能夠保護(hu)隱私的(de)系統。而(er)且我覺(jue)得邊緣(yuan)計算和邊緣(yuan)模型在這方面也會非(fei)常重(zhong)要(yao)，這也是我們如此關注那(nei)些性能卓越(yue)的(de)小型模型的(de)原因之一，這些小模型能夠在單(dan)個設備(bei)上運行。
佩里戈：我不知道你認為還要過多久，我們才會看到這類技術對勞動力市場產生重大影響。但如果這種情況發生時，它肯定會在政治層面上引起巨大的動蕩，對吧？對于應對這種動蕩，你有沒有什么計劃呢？
哈薩比斯：我(wo)和很多(duo)經(jing)濟(ji)學家(jia)(jia)探(tan)討過這(zhe)個問題。首先，這(zhe)個領域(yu)的專家(jia)(jia)—經(jing)濟(ji)學家(jia)(jia)和其他相關人士，需要做(zuo)更多(duo)深入嚴(yan)謹的研究(jiu)工作。當我(wo)和經(jing)濟(ji)學家(jia)(jia)交流時(shi)，我(wo)不確定在這(zhe)方面是否已經(jing)開展了(le)足夠多(duo)的研究(jiu)。
我們(men)正在(zai)開發智能(neng)體系統，因為(wei)它們(men)會更有用。而且我覺(jue)得(de)，這也會對就(jiu)業(ye)產(chan)生一(yi)定(ding)的影響，不(bu)過我猜測它也會催(cui)生其(qi)他一(yi)些目前還不(bu)存在(zai)的新工作崗位(wei)。
比(bi)如你可能(neng)會(hui)負責管理一組(zu)執(zhi)行日常(chang)瑣碎事務的智能(neng)體，它們(men)或許會(hui)做(zuo)一些背景(jing)研究(jiu)之類的工作(zuo)，但最終(zhong)的文章仍由你來(lai)撰寫，或者完(wan)成最終(zhong)的研究(jiu)報告，又或者提(ti)出研究(jiu)的思路，比(bi)如為什么(me)要(yao)研究(jiu)這些東(dong)西。
所(suo)以我認為，在下(xia)一個階段(duan)，假設你懂得(de)如何使(shi)用這些神奇的工具，人類將借助它們獲(huo)得(de)超能力，對吧？
因此，的確會有(you)(you)變革和沖擊(ji)，但總體而言，我認為(wei)情況(kuang)會變得更(geng)(geng)好，會出現更(geng)(geng)好、更(geng)(geng)有(you)(you)成(cheng)就感的工作(zuo)(zuo)，而那些更(geng)(geng)單調乏味的工作(zuo)(zuo)則(ze)會逐漸消失。過(guo)去，技術發展帶來的影響就是如此。
不(bu)過，當(dang)AGI能(neng)夠勝任(ren)眾多工作時，可能(neng)就會出(chu)現(xian)這(zhe)樣(yang)一個問(wen)(wen)題(ti)，我(wo)們(men)能(neng)否在全球(qiu)范圍(wei)內公平且廣泛地分(fen)配生產力(li)提升所帶來的(de)成果呢(ni)？在這(zhe)之(zhi)后(hou)，還有一個關于意義(yi)和目標的(de)問(wen)(wen)題(ti)。這(zhe)就是下一個哲(zhe)學層面的(de)問(wen)(wen)題(ti)，實際上如今(jin)我(wo)們(men)需要一些杰出(chu)的(de)新(xin)哲(zhe)學家(jia)來思考這(zhe)個問(wen)(wen)題(ti)。
六、AGI帶來極度富足，或需政治變革重新分配財富
佩里戈：我上次在2022年采訪你的時候，我們稍微談到過這個問題，當時你說：“如果你身處一個極度富足的世界，那么不平等的空間應該會更小，產生不平等的途徑也會更少。所以，如果AGI的美好愿景得以實現，這將是它所帶來的積極影響之一。”但在那樣的世界里，依然會有掌控財富的人和沒有財富的人，也會有那些可能不再有工作的勞動者。似乎要實現極度富足的愿景，就需要一場重大的政治變革，才能達到財富重新分配的目的。你能詳細闡述一下你認為這將如何實現嗎？
哈薩比斯：我個人(ren)在(zai)這方面并沒有花太(tai)多時間(jian)，不(bu)過也許我應(ying)該越來越多地(di)關(guan)注這個問題(ti)。而且，我覺得頂(ding)尖的經濟學家應(ying)該多多思考這個問題(ti)。極度富足真正意味著一(yi)些事情，比如你解決(jue)了核聚變問題(ti)，或者研(yan)發(fa)出(chu)了最優電池(chi)，又或者實現了超導技術。
假設(she)在AI的幫助下，你把這三件事都(dou)解決了。這就意味著能源成(cheng)本基(ji)本上會降(jiang)為零，而且是清潔可再生的，對吧？
這就(jiu)(jiu)意(yi)味著所有的用(yong)水問題都能(neng)迎(ying)刃而解，因(yin)為你可(ke)以(yi)建造(zao)海水淡化廠，這沒問題，因(yin)為這只需要能(neng)源和海水就(jiu)(jiu)行。這也意(yi)味著制造(zao)火(huo)箭燃料(liao)…… 你可(ke)以(yi)用(yong)類似的技(ji)術從海水中分離出氫和氧，對吧？
所以突然之間(jian)，許多(duo)支(zhi)撐資本主義世界的基(ji)礎(chu)要素(su)就不再成立了，因為其基(ji)礎(chu)是能源成本、資源成本以及(ji)(ji)資源稀(xi)缺(que)性。但如果你現在開拓了太空(kong)領域，并且能夠開采小行星以及(ji)(ji)做所有那些事情—這需要數十(shi)年時(shi)間(jian)來建(jian)設相關基(ji)礎(chu)設施(shi)—那么我(wo)們應該(gai)會進入(ru)一個全新的經濟時(shi)代。
佩里戈：我覺得這根本沒有解決不平等的問題，不是嗎？開采那些小行星仍然可以獲取和積累財富。而土地是有限的。
哈薩比斯：如今(jin)有很多東西都(dou)是(shi)(shi)有限的(de)，這就意味著最終這是(shi)(shi)一(yi)場零和(he)博弈(yi)。我所(suo)設(she)想的(de)是(shi)(shi)一(yi)個至(zhi)少(shao)從(cong)資源角(jiao)度來看不再是(shi)(shi)零和(he)博弈(yi)的(de)世(shi)界。所(suo)以(yi)，仍然(ran)存在其他問(wen)題，比如人們(men)是(shi)(shi)否依(yi)然(ran)渴望(wang)權力以(yi)及(ji)諸如此類的(de)東西呢？很可能是(shi)(shi)的(de)。
所以(yi)這(zhe)必須(xu)從政治層(ceng)面來加以(yi)解(jie)決(jue)。但(dan)至少你已經(jing)解(jie)決(jue)了一(yi)(yi)個主要問題，那就是在(zai)我們(men)目(mu)前所處(chu)的(de)這(zhe)個資源(yuan)有限的(de)世界里，事情最終會(hui)變(bian)成零和博(bo)弈。這(zhe)雖然不(bu)是不(bu)平等(deng)和沖(chong)(chong)突的(de)唯(wei)一(yi)(yi)根源(yuan)，但(dan)歸根結底，它是沖(chong)(chong)突的(de)一(yi)(yi)個主要根源(yuan)，也是不(bu)平等(deng)的(de)一(yi)(yi)個主要根源(yuan)。
這就是(shi)我(wo)所(suo)說的(de)“極度富足”的(de)含義。從實際意義上講，我(wo)們不再(zai)處于(yu)一個資(zi)源受限的(de)零和世界。但我(wo)非常確定(ding)，圍繞(rao)這一點可能需要一種全新的(de)政(zheng)治哲學。
佩里戈：西方世界通過啟蒙運動實現了民主，很大程度上是因為公民有能力拒絕提供勞動，并以推翻國家政權相威脅，不是嗎？如果我們真的實現了AGI，似乎我們會失去這兩種能力，而這可能對民主不利。
哈薩比斯：也(ye)許(xu)吧。我(wo)(wo)的(de)(de)意(yi)思是(shi)，也(ye)許(xu)我(wo)(wo)們(men)得發展出某種更(geng)好的(de)(de)東西，我(wo)(wo)也(ye)不確(que)定。畢竟，民主(zhu)本身(shen)也(ye)存(cun)在一(yi)些問題。它絕(jue)不是(shi)萬(wan)能的(de)(de)解(jie)決(jue)方案。我(wo)(wo)記得前英國首相溫(wen)斯頓·丘吉爾（Winston Churchill）曾說過類(lei)似(si)這樣的(de)(de)話：民主(zhu)是(shi)最不算(suan)糟糕(gao)的(de)(de)政府(fu)形(xing)式。也(ye)許(xu)存(cun)在更(geng)好的(de)(de)形(xing)式。
我(wo)(wo)(wo)可(ke)以告訴(su)你從(cong)技術層面將會發生(sheng)什么。如果我(wo)(wo)(wo)們(men)把(ba)事(shi)情做(zuo)好，最終(zhong)應該能實(shi)現極(ji)度(du)富足。前提是我(wo)(wo)(wo)們(men)解(jie)決了一些我(wo)(wo)(wo)稱之為 “根源性(xing)關鍵問(wen)題”的東西。然后就出(chu)現了政治哲學(xue)方面的問(wen)題。我(wo)(wo)(wo)覺(jue)得(de)這是人(ren)們(men)低估的問(wen)題之一。我(wo)(wo)(wo)覺(jue)得(de)我(wo)(wo)(wo)們(men)需要(yao)一種關于如何生(sheng)活的全新哲學(xue)理(li)念。
來源：《時代》周刊
