智東西（公眾號：zhidxcom）
作者 | 李水青 王涵 江宇
編輯 | 漠影
智(zhi)(zhi)東西7月26日報道，今天(tian)上(shang)午，2025世界人工智(zhi)(zhi)能大(da)會（WAIC）在上(shang)海(hai)開幕(mu)！作為國內最高規(gui)格的AI領(ling)域行業大(da)會之一(yi)，WAIC 2025開幕(mu)主論壇大(da)腕云集！
77歲的(de)杰弗里?辛頓（Geoffrey Everest Hinton）頂著腰疾、不遠(yuan)萬(wan)里來(lai)到現(xian)場，他是(shi)全球矚(zhu)目的(de)“深度學(xue)習三巨(ju)頭”之(zhi)一，也是(shi)2024年(nian)諾(nuo)貝爾獎(jiang)得主、2018年(nian)圖靈獎(jiang)得主、加拿大(da)(da)多倫多大(da)(da)學(xue)計算機(ji)科學(xue)名(ming)譽教授，本次結合(he)其(qi)半個世紀(ji)的(de)研究(jiu)，講解了關(guan)于(yu)超級(ji)智能及數字永生的(de)思(si)考。
▲杰弗里?辛頓
辛頓(dun)認為，大語(yu)(yu)言模型的理(li)解語(yu)(yu)言的方(fang)式幾(ji)乎和人類(lei)一樣，人類(lei)可能(neng)就是大語(yu)(yu)言模型。他還(huan)擔(dan)憂(you)地(di)發出警告(gao)，未來超(chao)級智能(neng)將很容易操縱人類(lei)，人類(lei)要避免“養虎為患”，因(yin)此(ci)要像幾(ji)十年(nian)前(qian)美(mei)蘇聯合預防核戰(zhan)爭(zheng)一樣，建(jian)立(li)國際社群(qun)來預防AI操縱世界，推(tui)動AI向(xiang)善。
香港科技(ji)大學校董會主(zhu)(zhu)席沈向洋(yang)作為主(zhu)(zhu)持人，與(yu)Relativity Space執行董事長兼CEO埃(ai)里(li)克·施(shi)密特(te)（Eric Emerson Schmidt）圍繞(rao)“全球AI協作”在會上進(jin)行了對談(tan)。施(shi)密特(te)指出，AI發(fa)展正進(jin)入臨界點，將是社會結(jie)構(gou)的重構(gou)力(li)量，跨國合(he)作要先談(tan)“AI護欄”再(zai)談(tan)合(he)作共贏。
▲沈向洋與(yu)埃(ai)里(li)克·施(shi)密特對話
圖靈獎得主、中國科學(xue)院院士、上(shang)海期智(zhi)研究院院長(chang)姚期智(zhi)也作為主持人，與上(shang)海人工(gong)智(zhi)能實驗室主任、首(shou)席(xi)科學(xue)家周伯文(wen)，美國加州大學(xue)伯克利分校計算機科學(xue)杰出教授(shou)斯圖爾(er)特(te)?羅(luo)素（Stuart Russell）、美國約(yue)翰(han)霍普金斯大學(xue)教授(shou)吉莉安?哈德菲爾(er)德（Gillian Hadfield）、蒙迪(di)與合伙人公(gong)司總裁克雷格?蒙迪(di)（Craig Mundie）進行了對談。
姚期(qi)智圍繞“AI治理”、“AI鴻(hong)溝”等話題(ti)提出了多(duo)個(ge)關鍵問(wen)題(ti)。吉莉安?哈德菲(fei)爾德教授認為“天下沒有免費的(de)午餐”，并指出要通過(guo)貿易結構變革以及具體的(de)技術(shu)交易設計，來抹(mo)平AI鴻(hong)溝；有多(duo)年(nian)企業管理經(jing)驗的(de)克雷格(ge)?蒙迪認為，隨著(zhu)用量變大(da)，就(jiu)像移動通信與手機技術(shu)一樣，大(da)模型的(de)使(shi)用價格(ge)將變得(de)足夠低，使(shi)得(de)更多(duo)產業和企業受益。
▲姚期智主持圓(yuan)桌論壇
本(ben)次(ci)大(da)會上(shang)，MiniMax創(chuang)(chuang)始(shi)人閆(yan)俊杰(jie)，商湯科(ke)技董事長、首席(xi)執(zhi)行官徐立，上(shang)海交通(tong)大(da)學(xue)(xue)副教授(shou)、無問芯(xin)穹聯(lian)合創(chuang)(chuang)始(shi)人戴國(guo)浩，曦智(zhi)科(ke)技創(chuang)(chuang)始(shi)人、首席(xi)執(zhi)行官沈亦晨，階躍星辰(chen)首席(xi)科(ke)學(xue)(xue)家張祥雨等多位大(da)模型及(ji)AI芯(xin)片領域(yu)的創(chuang)(chuang)業者也出席(xi)，在上(shang)午場(chang)(chang)和下午場(chang)(chang)發(fa)表演(yan)講，作為國(guo)產(chan)AI創(chuang)(chuang)業力量在這場(chang)(chang)科(ke)技盛(sheng)會上(shang)發(fa)聲。
一、77歲辛頓遠赴重洋：人類可能是大語言模型，警惕“養虎為患”
本屆WAIC不僅邀請了辛(xin)頓帶來全球視(shi)角(jiao)的(de)(de)AI風險思考，也為本土大模型(xing)獨角(jiao)獸預(yu)留了充分的(de)(de)展示空間。緊隨辛(xin)頓后登臺的(de)(de)，是MiniMax創始人(ren)兼(jian)首席執行(xing)官閆俊杰，與辛(xin)頓一前一后，分別從全球治理與產業實踐角(jiao)度，回(hui)應(ying)了關于(yu)AGI未來的(de)(de)不同設(she)想(xiang)。
1、諾獎得主辛頓：做AI是養虎為患，要確保訓練AI不要消滅人類
辛頓談(tan)道(dao)，大(da)語(yu)(yu)言模(mo)(mo)型(xing)(xing)理(li)解語(yu)(yu)言的方(fang)式(shi)和(he)人類幾乎是一樣，它真(zhen)的理(li)解人類的問題。所以，人類可能就是大(da)語(yu)(yu)言模(mo)(mo)型(xing)(xing)，也(ye)會和(he)大(da)語(yu)(yu)言模(mo)(mo)型(xing)(xing)一樣產(chan)生幻覺。但大(da)語(yu)(yu)言模(mo)(mo)型(xing)(xing)是數字化的，遠遠優于(yu)類似于(yu)模(mo)(mo)擬信(xin)號驅動的人類大(da)腦。
大語言模(mo)(mo)型所需的(de)數字計算雖(sui)然耗能巨大，但(dan)(dan)多個智(zhi)能體(ti)(ti)要(yao)擁有相同的(de)模(mo)(mo)型就能輕松交(jiao)換各(ge)自學(xue)到的(de)知(zhi)識。生物計算所需能量要(yao)少(shao)得多，但(dan)(dan)在智(zhi)能體(ti)(ti)之間共享知(zhi)識方面差得多。辛頓提出一個關鍵(jian)問題：如果能源變得廉價，數字計算整體(ti)(ti)上更占優勢。這對人(ren)類的(de)未(wei)來(lai)意味著(zhu)什(shen)么？
他(ta)談道，超級智(zhi)能要(yao)掌控(kong)世界，會設(she)立更好(hao)(hao)地(di)生存和更強的權力操(cao)控(kong)兩(liang)大目標(biao)。超級智(zhi)能將很(hen)容易(yi)操(cao)縱(zong)人(ren)類(lei)，從人(ren)類(lei)學(xue)的欺(qi)騙技能，并操(cao)縱(zong)負責(ze)將它關閉的人(ren)類(lei)。“我們現在就(jiu)像養虎(hu)為患(huan)，小虎(hu)崽長大后可以輕易(yi)殺(sha)死人(ren)類(lei)，這(zhe)不是好(hao)(hao)事。”辛頓說。
“因此，我們(men)需要(yao)確(que)保訓練AI不要(yao)消滅人類。”就(jiu)像幾十(shi)年(nian)前美(mei)國(guo)和蘇(su)聯曾合作預(yu)防核(he)戰(zhan)爭一(yi)樣，辛頓呼吁各個國(guo)家(jia)合作，建(jian)立一(yi)個由各國(guo)AI安全研究所與國(guo)內(nei)研究網絡組(zu)成(cheng)的(de)國(guo)際社群，預(yu)防AI操縱(zong)世(shi)界，推動AI向善。
▲杰(jie)弗里?辛頓（Geoffrey Everest Hinton）
2、MiniMax創始人、首席執行官閆俊杰：企業用戶協同，共同實現AGI
閆(yan)俊杰認為，AI不僅是一種能力、一種生產力，更是對個人與社會(hui)能力的(de)持續(xu)性(xing)增強。
在他看來(lai)，未來(lai)的(de)AI產業必然(ran)會呈現多玩家(jia)共存的(de)格局(ju)，核心原(yuan)因(yin)(yin)有三：首(shou)先，大模(mo)型(xing)(xing)領(ling)域呈現百花齊放(fang)態(tai)勢，不同模(mo)型(xing)(xing)因(yin)(yin)側重點各(ge)異，所能(neng)(neng)解決的(de)問題也(ye)各(ge)有千秋；其次，多Agent系(xi)統的(de)興起(qi)，使得(de)單個(ge)模(mo)型(xing)(xing)的(de)優勢在協同場景中不再(zai)突出；最后，開源模(mo)型(xing)(xing)數量持(chi)續增加(jia)，其性能(neng)(neng)也(ye)在不斷(duan)逼近閉源模(mo)型(xing)(xing)。
基于此，AI的(de)(de)普惠性將進一(yi)步提升，原因同樣有(you)3個：模型規模的(de)(de)增(zeng)長與(yu)芯片技術的(de)(de)進步保持同步，不會出現(xian)失衡(heng)；由(you)于單次訓(xun)練的(de)(de)單詞成(cheng)本(ben)相(xiang)對固定，不同算力規模的(de)(de)企業在訓(xun)練環(huan)節的(de)(de)差距(ju)并不大，且未(wei)來一(yi)兩年(nian)內，頂(ding)尖模型的(de)(de)推理成(cheng)本(ben)有(you)望降(jiang)低1-2個數量(liang)級(ji)；盡管token單價下降(jiang)，但(dan)使用量(liang)的(de)(de)增(zeng)長將形成(cheng)新(xin)的(de)(de)平衡(heng)。
因此，閆(yan)俊杰(jie)堅信 AGI（通用(yong)人工智(zhi)能）必然會實現，且這一目標需要(yao)AI企業與用(yong)戶共(gong)同推動。他強調，AI至(zhi)少要(yao)讓每個人都用(yong)得(de)起，并表態(tai)愿意(yi)為這一目標長期奮斗。
▲閆俊杰
二、沈向洋對話埃里克·施密特：中美要先談“AI護欄”，再談合作共贏
在與Relativity Space執行董(dong)事長兼CEO埃里克(ke)·施(shi)密特(te)的(de)(de)爐邊(bian)對話(hua)中，香(xiang)港(gang)科(ke)技大學校董(dong)會主席沈向洋圍繞(rao)“全球AI協作(zuo)”發起提問，強調AI不是(shi)某個國家或機構可以獨自應對的(de)(de)挑戰，尤其(qi)是(shi)中美之間需建立更(geng)深層次的(de)(de)信任機制。
▲沈向洋
施密特回應(ying)指(zhi)出，AI發展正進(jin)入臨界點，不僅是技(ji)術突破，更是社會結構(gou)的重構(gou)力(li)量，尤其(qi)在(zai)AI模型能力(li)愈(yu)發強大、泛化風險(xian)劇增的當下，治理體系亟待建立(li)。
他特(te)別提及(ji)當前開(kai)源技(ji)術的利與弊：“開(kai)源帶來了(le)驚人的創新(xin)效率，但也(ye)加劇了(le)擴散風(feng)險。”他指出，這種技(ji)術釋放與能力控制(zhi)之(zhi)間的矛盾，已成為(wei)全球(qiu)AI治理的核心張(zhang)力，必須找到新(xin)的平(ping)衡機制(zhi)。
施密特(te)進(jin)一步引(yin)用其與基辛格(ge)共同撰寫(xie)的(de)著(zhu)作《Genesis》，強調國際合作需要價值共識作為(wei)前提。他(ta)(ta)表示(shi)：“我們必須先進(jin)行對話，理(li)解(jie)彼(bi)此的(de)價值觀，才有(you)可能建(jian)立起(qi)防止(zhi)誤判(pan)的(de)機制。”他(ta)(ta)多次強調“設定(ding)護欄”的(de)必要性(xing)，認為(wei)“如何(he)定(ding)義(yi)底(di)線(xian)、誰來設定(ding)規則”是未來AI安全的(de)根本(ben)問題。他(ta)(ta)警告稱，若無明確共識，AI發展(zhan)可能偏離人類文(wen)明方(fang)向(xiang)，帶(dai)來結構(gou)性(xing)沖擊。
“讓AI服務于所有人的(de)生產(chan)力，而不是威脅社會穩定。”施密特(te)總結道。對談最后，他與沈向洋達(da)成共識——中美之(zhi)間(jian)的(de)AI對話，必須從“先理解(jie)、再合作”出(chu)發，才能真正(zheng)把(ba)技術發展引(yin)入可(ke)控、可(ke)信的(de)軌道。
▲埃里克·施密特（Eric Emerson Schmidt）
三、姚期智AI治理圓桌：貿易結構變革破解AI鴻溝，量產帶來AI服務普惠
姚期智（圖靈獎得(de)主(zhu)、中國科學院(yuan)院(yuan)士、上海(hai)期智研究院(yuan)院(yuan)長）與(yu)吉(ji)莉安·哈德菲爾(er)德（約(yue)翰霍普金(jin)斯(si)大學教授）、克雷(lei)格·蒙(meng)迪(di)（蒙(meng)迪(di)與(yu)合伙人(ren)公司總裁(cai)）、斯(si)圖爾(er)特·羅(luo)素（加州大學伯(bo)克利分校教授）和周伯(bo)文（上海(hai)人(ren)工(gong)智能實驗室(shi)主(zhu)任）四(si)人(ren)進行了對(dui)話，探討了AI與(yu)AI治(zhi)理這一重要議題。
他(ta)首(shou)先從“AI鴻溝”議題(ti)切(qie)入，拋(pao)出一(yi)個(ge)問題(ti)：AI技(ji)術在(zai)快速的(de)發(fa)展(zhan)，但是(shi)更多是(shi)聚集在(zai)少數國家(jia)或公司，我們要(yao)怎么樣預(yu)防(fang)AI鴻溝，讓所(suo)有國家(jia)受益于這一(yi)場AI革命？
▲姚期智
1、約翰霍普金斯大學教授吉莉安：Transformer推動貿易結構變革，緩解AI鴻溝
吉莉(li)安?哈德菲爾(er)德認(ren)為，這(zhe)涉及我們創造了AGI后怎么來分配(pei)資源的問題。她認(ren)為，Transformer這(zhe)樣(yang)變革性(xing)技術，會需要(yao)真正的經濟法(fa)律基礎(chu)設施的變革，比如貿易結構的變革。今天聽到(dao)很多人講到(dao)了開(kai)源以(yi)及開(kai)放權重，這(zhe)也是很重要(yao)的一方面，也就是確保全球各國(guo)能夠從AI革命(ming)當中受益(yi)。
作為一(yi)個經濟學學者，吉(ji)莉安認為“天(tian)下沒有(you)免費(fei)的午餐”。我們不可能憑空就生成(cheng)大模型這樣(yang)的技術，所(suo)以必須要(yao)認真(zhen)思考(kao)(kao)，怎(zen)么樣(yang)設計(ji)好這種交易，思考(kao)(kao)到底模型歸誰所(suo)有(you)，誰能夠接入模型并使用，讓不同國家能夠產生模型。另外(wai)我們還需要(yao)確保這些科技是安全的，然(ran)后才能夠把它們拿來大范圍使用。
▲吉莉安?哈德菲爾(er)德（Gillian Hadfield）
2、蒙迪與合伙人公司總裁蒙迪：模型訓練會更昂貴，服務會越來越便宜
AI鴻溝也不(bu)僅是(shi)國(guo)家間的競爭的問(wen)題，它有可能會存在于(yu)一個(ge)國(guo)家內(nei)部的不(bu)同產業(ye)、企業(ye)以及人群。
克雷格?蒙迪過去幾十年(nian)都在(zai)軟(ruan)件(jian)(jian)領域工作，通過觀察軟(ruan)件(jian)(jian)演進(jin)的(de)(de)過程，他(ta)發現每(mei)一次計算機(ji)的(de)(de)能(neng)量(liang)產生(sheng)大(da)提升之后，軟(ruan)件(jian)(jian)都變得更復(fu)雜，但(dan)用(yong)戶體驗會(hui)(hui)更容易。他(ta)認為，今天我們進(jin)入到(dao)智(zhi)能(neng)機(ji)器(qi)階段后，會(hui)(hui)繼續看到(dao)這個趨勢(shi)，并(bing)且隨著用(yong)量(liang)變大(da)，技(ji)術成本進(jin)一步下降，能(neng)力變強(qiang)。造模型(xing)肯定(ding)會(hui)(hui)越(yue)來越(yue)昂貴，但(dan)是獲得它的(de)(de)服(fu)務會(hui)(hui)越(yue)來越(yue)便(bian)宜。
訓練(lian)模型所需的(de)治理(li)和(he)能源成(cheng)(cheng)本都(dou)很大(da)，但一旦模型訓練(lian)好之(zhi)后(hou)，把(ba)模型封裝成(cheng)(cheng)大(da)家(jia)能使(shi)用的(de)設(she)備(bei)，這(zhe)是(shi)比較容(rong)易的(de)。全球企業都(dou)會進一步推動這(zhe)些技(ji)術的(de)進步和(he)推廣普及，無論是(shi)為(wei)了(le)教育還(huan)是(shi)商(shang)業的(de)目(mu)的(de)，每個(ge)人都(dou)將能夠獲得這(zhe)個(ge)技(ji)術的(de)使(shi)用，沒有理(li)由(you)不(bu)是(shi)這(zhe)樣的(de)。
▲克雷(lei)格?蒙迪(di)（Craig Mundie）
3、美國加州大學伯克利分校教授羅素：AGI競速毫無意義，有效監管減低AI失控率
在(zai)人(ren)類如何應對AI鴻溝和(he)AI失控的問題(ti)上，斯圖爾特?羅(luo)素尖銳地(di)提出，當前AI公司及(ji)各(ge)國、各(ge)地(di)區間正陷(xian)入一場競(jing)賽——比拼誰能率先研發出AGI（通用人(ren)工智(zhi)能），但在(zai)他看來，這種競(jing)賽毫無意(yi)義。
他認為，AGI的(de)實(shi)現(xian)需要依托(tuo)無限的(de)財富創造能(neng)力，而(er)AI理應成為全(quan)球共享的(de)公共資源。唯有如(ru)此(ci)，競(jing)賽帶來的(de)緊張感才能(neng)消散(san)，因為這類競(jing)賽必然會催生極端性(xing)風(feng)險(xian)。
此(ci)外，斯圖(tu)爾特?羅素還(huan)談及有(you)效(xiao)監(jian)(jian)(jian)管(guan)的(de)重要性(xing)。在他(ta)看來(lai)，有(you)效(xiao)監(jian)(jian)(jian)管(guan)的(de)核心在于確保(bao)合規(gui)性(xing)，同時(shi)將風險控制在足夠(gou)低的(de)水平(ping)。但(dan)目(mu)前，有(you)效(xiao)的(de)監(jian)(jian)(jian)管(guan)機制尚未建立起來(lai)。正如辛頓(dun)教授所警示的(de)，AGI存在失控并掌控人類的(de)可能性(xing)。而通過有(you)效(xiao)監(jian)(jian)(jian)管(guan)，能夠(gou)對(dui)其(qi)失控概(gai)率(lv)進行(xing)預測與計算，經過長期(qi)的(de)累計觀察，得出客觀的(de)風險概(gai)率(lv)，從(cong)而讓AGI變得更加安全(quan)。
▲斯圖爾特?羅素
4、上海AI實驗室主任周伯文：AI發展與安全同等重要，必須建立全球治理體系
周(zhou)伯文從技術、應用(yong)以及治理三(san)方面(mian)討論了跨國數字合作相關問題。
周伯文認為，AI的(de)發展(zhan)(zhan)與安全(quan)同等重要(yao)。去年同期，他的(de)團隊提出了AI45°平衡率的(de)概(gai)念，其核心是(shi)要(yao)探(tan)索(suo)發展(zhan)(zhan)與安全(quan)并(bing)行(xing)的(de)技術研究(jiu)路徑(jing)。在這(zhe)一框架下，其與全(quan)球研究(jiu)者達(da)成共識：要(yao)真正實現安全(quan)，就必須(xu)開展(zhan)(zhan)“Make Safe AI”相關工作。
在應用層面，去年，上海借助(zhu)以上海人(ren)工智能(neng)實驗室(shi)公共(gong)氣(qi)象(xiang)模(mo)型(xing)等(deng)AI技術，比物(wu)理模(mo)型(xing)提前3天預測到臺風登陸，且(qie)將(jiang)登陸點誤差縮小至10公里(li)。這一成(cheng)果受到許多南方(fang)國(guo)家(jia)的(de)關注，目前，在國(guo)家(jia)氣(qi)候(hou)特(te)使辦公室(shi)和(he)國(guo)家(jia)氣(qi)象(xiang)局的(de)指導下，周伯文正推動與(yu)這些南方(fang)國(guo)家(jia)的(de)對接工作。
最(zui)后，他提(ti)到(dao)，去年(nian)，中國(guo)(guo)首創(chuang)的(de)(de)全球人工智能合(he)作治理協(xie)議在(zai)聯合(he)國(guo)(guo)大會上(shang)表決通過，這(zhe)體現了中國(guo)(guo)在(zai)人工智能治理領域(yu)的(de)(de)全球引(yin)領作用。
▲周伯文
結語：AGI走到關鍵路口，大模型要發展也要安全
從(cong)發布(bu)“養虎為患”警告的(de)辛頓，到提出(chu)“護欄先行”的(de)施密特(te)，再到對AI鴻溝深感(gan)憂慮的(de)姚期智，這(zhe)場多國(guo)、多學科交(jiao)匯的(de)思想碰撞(zhuang)，呈現出(chu)AI發展與治理(li)問(wen)題的(de)多面。
一個共識正在浮現：技(ji)術已無法獨善其身。大(da)模(mo)型(xing)能力(li)突破與(yu)開源擴散同步，意(yi)味著AI的(de)力(li)量已從科研走向國家戰略(lve)層面。未來數(shu)年(nian)，全球(qiu)(qiu)將(jiang)不(bu)(bu)得不(bu)(bu)面對三(san)大(da)挑戰：一是如(ru)何避(bi)免AI落入少(shao)數(shu)掌(zhang)控(kong)、加劇數(shu)字不(bu)(bu)平(ping)等(deng)；二是如(ru)何在創(chuang)新與(yu)安全之間建立動態平(ping)衡；三(san)是如(ru)何構建跨文化、跨制(zhi)度(du)的(de)全球(qiu)(qiu)AI治理機制(zhi)。
不只(zhi)是(shi)“技術的(de)護欄”，也不只(zhi)是(shi)“國(guo)家的(de)對話(hua)”。正如沈向洋所說(shuo)：“AI不是(shi)一個國(guo)家能獨自解決(jue)的(de)事。”各國(guo)之(zhi)間的(de)技術合作(zuo)、價值對話(hua)與制度共建，將共同決(jue)定AI是(shi)否能真正服務于全人類的(de)未來。
