智東西(公眾號:zhidxcom)
作者 | 李水青 香草
編輯 | 云鵬

智東西7月(yue)4日報道,今天上午,2024世界人(ren)工(gong)智能大會(hui)(WAIC)在上海開幕(mu)!作為國內最高規(gui)格(ge)的AI領(ling)域(yu)行業大會(hui)之一(yi),WAIC 2024開幕(mu)主論壇不僅(jin)有高層參與(yu),同時匯聚了眾多(duo)產學研領(ling)域(yu)大佬。

開幕式請到了三大圖靈獎得主姚期智、羅杰·瑞迪(Raj Reddy)和曼紐爾·布盧姆(Manuel Blum)共同進行圓桌論壇交鋒,原微軟執行副總裁、美國國家工程院外籍院士沈向洋擔任圓桌主持人。

更有IEEE主席托馬斯·考夫林(Thomas Coughlin),清華大學蘇世民書院院長、清華大學人工智能國際治理硏究院院長薛瀾,上海人工智能實驗室主任兼首席科學家、清華大學惠妍講席教授周伯文,新思科技總裁兼首席執行官蓋思新(Sassine Ghazi)等重磅大咖演講。

開幕式上,沈向洋向三位(wei)圖(tu)靈(ling)獎(jiang)拋出了關(guan)于(yu)“AI發展及(ji)風險”、“有(you)意識(shi)的(de)AI”、“AI教育(yu)和人(ren)才培養”等眾多產學研關(guan)注(zhu)的(de)問題。

圖靈獎得主羅杰·瑞迪談道,AI風險確實應該得到高度關注,同時我們也不能因噎廢食。同時他認為當下的教育體系沒法培養了解AI的未來一代人。如果AI讓每個人(ren)的工(gong)作效(xiao)率提升(sheng)10倍,全球GDP將從100萬億美元(yuan)增長(chang)到(dao)1000萬億美元(yuan)。

圖靈獎得主曼紐爾·布盧姆解讀了其團隊意識圖靈機(CTM)成果,1000萬個處理器(qi)都(dou)是類似于意識模(mo)型,沒有一個中央決(jue)策(ce)者(zhe),而是讓每一個處理器(qi)參與(yu)決(jue)策(ce)。

圖靈獎得主姚期智談及了AI發展的網絡、社會和生存三大方面的風險,認為AI的風險比核問題更嚴峻,我(wo)們(men)創造了比(bi)我(wo)們(men)強大(da)很(hen)多倍的新物(wu)種(zhong),需要探(tan)討(tao)如何用AI控制AI避免重大(da)破壞(huai)。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡▲沈向洋對(dui)話(hua)三位圖靈獎得主

同樣談及AI治理的重要議題,薛瀾談(tan)道,巨量的基礎(chu)設(she)施已經使得全球25億人受益,但AI發展仍面臨AI技術鴻溝、治理鴻溝,阻礙全球AI的發展,需要多方一起攻(gong)克。

此外,黑石集團董事長、首席執行宮兼聯合創始人蘇世民(Stephen A. Schwarzman),索奈顧問及投資公司董事長、首席執行官喬舒亞·雷默(Joshua Ramo)也做了精彩分享。

此次WAIC 2024展(zhan)覽(lan)面積(ji)超5.2萬(wan)平方米(mi),共有500余家企業參展(zhan),展(zhan)品數量(liang)超1500項,覆蓋核(he)心技術、智能(neng)終端(duan)、應用賦(fu)能(neng)等三大板(ban)塊。

大會還公布了(le)“鎮館之寶(bao)”名(ming)單(dan),商(shang)湯科技首個面向C端(duan)用(yong)戶的可控人物視頻生成大模(mo)型Vimi、阿里云A編程助手通義靈碼(ma)、支付寶(bao)智能助理、智譜A基座大模(mo)型、特斯拉賽博越野旅行(xing)車等入選。

一、沈向洋對話三大圖靈獎得主:AI風險比核更嚴峻,但不能因噎廢食

在(zai)開幕式上(shang),三位圖(tu)靈獎得主羅杰·瑞迪、曼紐爾(er)·布盧姆和姚期智(zhi)進行了精彩(cai)的(de)圓桌對話,原微軟(ruan)執(zhi)行副總(zong)裁、美(mei)國國家(jia)工程院外籍(ji)院士沈向洋擔任(ren)主持人。

沈向洋(yang)向三位圖靈獎得主提出了多個問題,包括:如何看(kan)待(dai)AI發(fa)展及擔憂?為什么(me)我(wo)們(men)緊迫關注(zhu)AI治(zhi)理問題?如何看(kan)待(dai)有(you)意識的AI等等。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲原(yuan)微軟執行副總(zong)裁、美(mei)國國家工程院外(wai)籍院士沈向洋

1、靈獎得主羅杰·瑞迪:教育體系落后于AI時代,發展AI不能因噎廢食

羅杰(jie)在(zai)當年獲得圖(tu)靈獎時就提到(dao)(dao)要建立大型(xing)AI系統,他在(zai)圓桌中談道,很開心看到(dao)(dao)會場大家對AI治理和風險的探(tan)討(tao)(tao),沒有只是去探(tan)討(tao)(tao)怎么去用(yong)AI。大家沒有花(hua)太多(duo)時間(jian),探(tan)討(tao)(tao)我們如(ru)何(he)來用(yong)AI,需要做哪些(xie)研究和投資(zi)?我們現在(zai)還沒做到(dao)(dao)這一點(dian)。

在能力建設方面,羅杰認為(wei),目前我(wo)們的(de)教育體系沒辦(ban)法培養未來了解AI的(de)一代人,他(ta)們需要用AI做好自己的(de)工作,我(wo)們怎么讓每個人把自己的(de)工作做好?這個問題很關鍵(jian)。

談(tan)及接下來推進的研究,羅杰談(tan)道,每個(ge)領(ling)域都會出(chu)(chu)現(xian)新機會,也(ye)會出(chu)(chu)現(xian)新問題,比如汽(qi)車剛(gang)出(chu)(chu)現(xian)時,為人們(men)出(chu)(chu)行帶(dai)來便利,但交(jiao)通事故也(ye)帶(dai)來很(hen)多傷(shang)亡。因(yin)此對(dui)于AI我們(men)也(ye)不能(neng)因(yin)噎(ye)廢食。

每個工程師都能做更好的事,如何讓他們效率更高?這意味著要做很多投資和研究工作,我希望不要只想著負面,要想著未來的機會很多。他覺得最大的機會,以后每個人的工作效率會提升10倍,全球GDP將從100萬(wan)億(yi)到1000萬(wan)億(yi)美元(yuan)。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲圖靈(ling)獎得主羅杰·瑞(rui)迪(di)

2、圖靈獎得主曼紐爾·布盧姆:解讀圖靈機CTM意識模型,模擬人腦決策

曼(man)紐(niu)爾在現(xian)場解讀了有(you)意識的AI。他(ta)談道(dao),年少時他(ta)的父親曾告訴他(ta):“如果你(ni)知道(dao)你(ni)的這個大腦里在發生什么,那么你(ni)就會變(bian)得(de)更加聰明一些。”很幸運,他(ta)的工作是跟意識有(you)關的。意識可以(yi)給我們想法(fa),讓我們去建立AGI。

曼紐爾的團隊已經創立了一個意識模型——圖靈機CTM,以此向大(da)家解釋大(da)腦里(li)(li)在(zai)發(fa)生什么。如果我(wo)(wo)們(men)將大(da)腦里(li)(li)發(fa)生的事(shi)情(qing)想成一(yi)個(ge)劇場,有一(yi)些(xie)演(yan)講(jiang)者(zhe)在(zai)劇場中央講(jiang)話,我(wo)(wo)們(men)可(ke)以讓很多處理器同時工(gong)作,相(xiang)當于大(da)腦里(li)(li)的神經元,這些(xie)處理器會聽現(xian)場發(fa)生了(le)什么,告訴我(wo)(wo)們(men)怎么去做各種各樣的事(shi)情(qing)。

CTM意識模型(xing)特(te)別有意思(si),1000萬個處理器都是類似(si)于(yu)意識模型(xing),沒有一個中央決(jue)策者,而是讓(rang)每一個處理器參與決(jue)策。

曼紐(niu)爾的(de)學(xue)(xue)(xue)(xue)生眾多(duo)學(xue)(xue)(xue)(xue)生也拿到(dao)了圖靈獎,當(dang)沈向洋問(wen)及(ji)他有(you)什么為師之道?曼紐(niu)爾謙虛地(di)稱:“我(wo)的(de)學(xue)(xue)(xue)(xue)生都比我(wo)聰明,我(wo)從(cong)他們身上學(xue)(xue)(xue)(xue)到(dao)了很(hen)多(duo)。有(you)時候我(wo)不懂什么,我(wo)就直接說(shuo)我(wo)不懂。”

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲圖靈獎(jiang)得主曼(man)紐爾(er)·布盧姆

3、圖靈獎得主姚期智:AI治理警惕三大風險,比核風險更嚴峻

姚期智談及的自己對AI治理(li)的關注,從(cong)風(feng)險方面講解到自己作(zuo)為計算機科學(xue)家對AI治理(li)的見解。

他認為,AI風險主要來自三個方面:(1)它是網絡風(feng)(feng)險(xian)的(de)延(yan)伸和(he)(he)擴大(da),AI能(neng)(neng)力的(de)出現(xian)使得傳統的(de)網絡風(feng)(feng)險(xian)被放大(da)。我們(men)已(yi)經(jing)覺得管理數(shu)據很困難,現(xian)在難度會放大(da)100倍。(2)社會風(feng)(feng)險(xian),人們(men)可(ke)以用很多方(fang)式使用強(qiang)大(da)的(de)AI,可(ke)能(neng)(neng)對某些領域帶(dai)來顛覆式風(feng)(feng)險(xian),也(ye)可(ke)能(neng)(neng)帶(dai)來新的(de)失業問題。(3)生存(cun)和(he)(he)存(cun)在的(de)風(feng)(feng)險(xian),AI風(feng)(feng)向(xiang)相比于核風(feng)(feng)險(xian)可(ke)能(neng)(neng)更嚴峻,這都需(xu)要很多的(de)專(zhuan)家來一起解決,包括科學家、政府人士(shi)、律師及經(jing)濟(ji)學家都需(xu)要參與進來。

從計算機科學教角度,姚期智更關注第一類第三類風險。

面對(dui)第(di)一(yi)類(lei)風險(xian),AI有時無法(fa)解釋一(yi)些(xie)問題,使得(de)研(yan)究新的密碼(ma)學比較(jiao)困難,我(wo)們對(dui)網絡風險(xian)的應(ying)對(dui)還處在(zai)很早的階段。

而面向第三類風險,這(zhe)個和計(ji)算性(xing)有關,更大的(de)算力可(ke)以(yi)帶(dai)來更多(duo)的(de)知識(shi)和智慧,解(jie)決很(hen)多(duo)以(yi)前解(jie)決不了的(de)問題,這(zhe)也是(shi)(shi)讓人很(hen)恐懼的(de)。現(xian)在,我(wo)們(men)就(jiu)是(shi)(shi)突然發現(xian)了一個方式,能創(chuang)造比我(wo)們(men)強(qiang)大很(hen)多(duo)倍的(de)新物種,我(wo)們(men)需要確定能不能與它共存。

所(suo)以作為計算(suan)機科學(xue)家,姚期智看(kan)到最有(you)深度的問題,就(jiu)是(shi)我們怎么(me)把AI控制好,避免它帶來重大破壞,這是(shi)很難預測的。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲圖靈獎得主姚期智

二、清華大學蘇世民書院院長薛瀾:降低AI風險,縮小全球AI技術鴻溝

清(qing)華大(da)學蘇世民書(shu)院院長、清(qing)華大(da)學人(ren)工(gong)智能國際治理硏究院院長薛瀾探討了AI治理的(de)重要議題。

AI能為我們做什么?薛瀾談道(dao),大(da)家對(dui)(dui)(dui)AI給予了很高的(de)期(qi)望,根(gen)據SDG(可持(chi)續發(fa)展目(mu)標(biao)(biao))最(zui)新(xin)分析,AI總(zong)體(ti)來(lai)看會對(dui)(dui)(dui)可持(chi)續發(fa)展的(de)134個(79%)具體(ti)目(mu)標(biao)(biao)產生促進作用(yong),對(dui)(dui)(dui)59個(35%)目(mu)標(biao)(biao)產生阻(zu)礙作用(yong)。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲清(qing)華(hua)大學蘇世民書(shu)院(yuan)(yuan)院(yuan)(yuan)長、清(qing)華(hua)大學人工智能國(guo)際治理硏究院(yuan)(yuan)院(yuan)(yuan)長薛瀾

AI對這(zhe)些目標的阻礙(ai)作用(yong)(yong),代(dai)表AI可能帶來風險(xian)。這(zhe)些風險(xian)包括基(ji)于(yu)技術本(ben)身的風險(xian)、基(ji)于(yu)技術開(kai)發的風險(xian)和基(ji)于(yu)技術應用(yong)(yong)/濫用(yong)(yong)的風險(xian)等多個方(fang)面,都(dou)是不(bu)可忽視的。

如何(he)推(tui)動AI收益最大化、風險降到最低(di)?

薛瀾談道,首(shou)先在底層,我(wo)國在產業應用安全(quan)方面(mian)推(tui)出(chu)(chu)了(le)(le)一(yi)(yi)(yi)系列(lie)法律法規,推(tui)動AI的(de)(de)合理發(fa)展。我(wo)們針(zhen)對(dui)算法、算力、數(shu)據推(tui)出(chu)(chu)了(le)(le)一(yi)(yi)(yi)系列(lie)的(de)(de)治(zhi)理規則,針(zhen)對(dui)風險推(tui)出(chu)(chu)了(le)(le)一(yi)(yi)(yi)系列(lie)準則。針(zhen)對(dui)一(yi)(yi)(yi)些專項(xiang)問題,包括(kuo)具體(ti)場景的(de)(de)應用,我(wo)們也出(chu)(chu)臺了(le)(le)相應的(de)(de)一(yi)(yi)(yi)些治(zhi)理規則。此外,我(wo)國也在采取措施推(tui)動全(quan)民數(shu)字素養的(de)(de)提升。

從全(quan)(quan)(quan)球(qiu)角度(du)來(lai)講,AI發(fa)(fa)展也還面(mian)臨很(hen)多挑戰(zhan)。一方(fang)面(mian),巨量的(de)基礎設施(shi)已經使(shi)得25億人受益,但AI發(fa)(fa)展仍面(mian)臨技術鴻(hong)溝、治理鴻(hong)溝,阻礙全(quan)(quan)(quan)球(qiu)AI的(de)發(fa)(fa)展。當今社(she)會,一個國(guo)家帶來(lai)的(de)風(feng)險就是全(quan)(quan)(quan)球(qiu)風(feng)險。國(guo)際對安全(quan)(quan)(quan)問題日益重(zhong)視,同時對AI數智鴻(hong)溝關注仍不夠,需(xu)要全(quan)(quan)(quan)球(qiu)社(she)會一起(qi)努(nu)力攻克。

三、上海AI實驗室周伯文:AI性能與安全失衡,90%算力用在預訓練

以(yi)大模(mo)型為代(dai)表的深層次(ci)AI快速(su)發展,也(ye)帶來(lai)數(shu)據泄露(lu)、虛假信息、倫(lun)理問題(ti)(ti)等一(yi)系(xi)列(lie)風(feng)險、社會挑戰(zhan),如何建立一(yi)個(ge)全(quan)面的AI安(an)全(quan)治理體(ti)系(xi),成為全(quan)球范(fan)圍(wei)內的優(you)先議題(ti)(ti)。

為此,上海人工智能實驗室主任、首席科學家、清華大學慧妍講席教授周伯文提出了一個新的技術主張——AI的45度平衡律

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲上海(hai)人工智能實驗室主(zhu)任、首(shou)席科(ke)學(xue)(xue)家、清華大學(xue)(xue)慧(hui)妍講(jiang)席教授(shou)周伯文

這一(yi)定律指的是,從長期視角來看,AI安全與(yu)性能要大體沿著45度的路線(xian)平衡發展(zhan)。

現在AI發展的路線(xian)整體是低(di)于45度的,也就(jiu)(jiu)是性能發展快于安(an)全治理,也就(jiu)(jiu)帶來(lai)了各種風險;而(er)如果長(chang)期高于45度,則會阻礙技術和(he)產業應用的發展。如何找到(dao)兩者之間的平衡,是亟待解決的難題。

為了實現這一定律,上海人工智能實驗室提出了一條以因果為核心的路徑,即可信AGI的“因果之梯”。這一路徑將可(ke)信AGI的發展劃分為(wei)三個遞進階段,從“泛對齊(qi)”,到“可(ke)干(gan)預”,再(zai)到“能反(fan)思”。

“泛對(dui)齊(qi)(qi)”包含(han)當前(qian)最前(qian)沿的人類(lei)偏好技術,如機器反學習、監(jian)管式對(dui)齊(qi)(qi)、基(ji)于人類(lei)反饋對(dui)齊(qi)(qi)等。這些對(dui)齊(qi)(qi)技術目(mu)前(qian)僅依(yi)賴(lai)統一的相關性而(er)非真正的因果(guo)關系(xi),因此可能導致錯誤的推(tui)理和潛在危險。

“可(ke)干預”是第二層AI對齊技(ji)術,包含AI系統(tong)的對抗訓練(lian)、機械可(ke)解釋性等,其(qi)通過(guo)高(gao)可(ke)解釋性和(he)泛化性來提高(gao)安全性能,同時(shi)也提升AI能力(li)。

“能反思”則要(yao)求(qiu)AI系統不(bu)僅要(yao)追求(qiu)高效的(de)執行(xing)任務,還要(yao)審視自身行(xing)為的(de)外在影響和潛在風(feng)險,從(cong)而保證(zheng)在高性(xing)能的(de)前提下(xia)安(an)全和道德邊(bian)界(jie)不(bu)被突破。這個(ge)階段的(de)技術(shu)包括基于價值的(de)訓練、因果可解釋性(xing)、反事實推(tui)理等。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲可信AGI的“因果之梯”

周(zhou)伯文談道,目前(qian)全(quan)球(qiu)AI安(an)全(quan)和性(xing)能(neng)技術(shu)發展主要(yao)停留在第一(yi)階段,一(yi)部(bu)分(fen)開發者在嘗試第二階段。但要(yao)真正實(shi)現AI的(de)安(an)全(quan)與(yu)性(xing)能(neng)平衡,必須完善(shan)第二階段,并勇于攀登第三階段。

最后,他(ta)呼吁全(quan)球開發者(zhe)加強國際(ji)合作,這對于推動AI技術(shu)健(jian)康發展(zhan)至關重要,我(wo)們(men)的(de)共同目標是構(gou)建一個(ge)開放安全(quan)的(de)AI創新生態系(xi)統和人才培養環境。

四、新思科技CEO蓋思新:能耗減少30%,緩解人才緊缺

新(xin)思(si)科技(ji)總裁兼首席執行官蓋思(si)新(xin)認(ren)為,從商業和(he)企業的角度(du)來(lai)看,我(wo)們(men)要了解AI產業鏈(lian)是(shi)從半導(dao)體開(kai)始的,同(tong)時也離不(bu)開(kai)上(shang)層軟件(jian)。

回顧半導體行業(ye)歷(li)史,行業(ye)花了(le)60年才實現5000億(yi)美美元的銷售(shou)額,2020年翻了(le)1倍到1萬億(yi)美元,幾乎所有的這些增量(liang)都是由AI的增長所驅動的。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡▲新(xin)思科技(ji)總裁兼(jian)首席執行(xing)官蓋思新(xin)

AI是一個非(fei)常(chang)大的轉折點。蓋思新談道,新思公司為此提供軟(ruan)件,幫工程(cheng)師使用復(fu)雜的半(ban)導體芯片,盡可能用軟(ruan)件實(shi)現(xian)自動化。AI能幫我(wo)們改進芯片開發的過程(cheng),從而(er)實(shi)現(xian)更快的速度(du),在各方面實(shi)現(xian)優化。

“我們在(zai)(zai)AI上(shang)面有(you)很多共同的(de)原(yuan)則。”包括政府合規(gui)問題,芯片中每個(ge)部分的(de)材料都要保(bao)證安全,確(que)保(bao)芯片沒有(you)不合規(gui)成分且監管高效。同時(shi),如何使得半導體能耗消耗更高效,也是我們在(zai)(zai)半導體設計中需(xu)要考慮的(de)問題。

新思(si)科技有2萬(wan)多名工程師,如(ru)何用AI來(lai)助力業務?

新(xin)思(si)科技創辦(ban)了一個AI卓越中(zhong)心,以(yi)此(ci)教育(yu)自(zi)己的(de)工作人(ren)員(yuan),讓他們知道AI的(de)價值、倫理(li)及風險等(deng),并幫(bang)他們教育(yu)客戶(hu)來使用(yong)AI來開(kai)發芯片。

同(tong)時,新(xin)思(si)科(ke)技也對AI進行商(shang)業(ye)(ye)化,2017年開(kai)始(shi)就(jiu)在投資AI,在提(ti)供客戶的(de)方案里涉及(ji)AI,目前也已經(jing)包(bao)含很多生成式(shi)AI內(nei)容,比如用(yong)用(yong)生成式(shi)AI作(zuo)為知識(shi)基礎(chu),提(ti)升工程(cheng)師(shi)的(de)效率,緩解(jie)工程(cheng)師(shi)人才緊缺問(wen)題(ti),從而提(ti)高整個行業(ye)(ye)的(de)工作(zuo)效率。

在耗能方面,基于AI技術(shu)服(fu)務,能耗減少30%,涉(she)及更(geng)復雜的(de)問題時效率還(huan)能增長15倍。

五、全球治理高端對話:擁抱新技術,建立學術界新扶持方式

AI的快速(su)發展,對企業運營(ying)模式、價值(zhi)評估以及投資決(jue)策過程也產生了深遠影響,深刻改變了投資格局。

黑石集團董事長(chang)、首(shou)席執行官兼聯合創始人蘇世民(min)與(yu)索(suo)奈顧(gu)問及(ji)投資公司董事長(chang)、首(shou)席執行官喬舒亞·雷默就這一系列問題,展開了全球(qiu)治(zhi)理高(gao)端(duan)對話。

AI讓全球GDP翻10倍!但風險比核問題還嚴峻,三大圖靈獎大佬對話,WAIC干貨看盡

▲蘇世民與喬舒(shu)亞·雷默

從商(shang)業(ye)的(de)角度來看,AI是怎么改變(bian)一(yi)家企業(ye)現(xian)有的(de)價(jia)值認(ren)定的(de)?

蘇世民談道,自己在(zai)剛入行(xing)的(de)時候(hou)并不擅長做(zuo)模型,而現在(zai)出現了新的(de)AI應用(yong),可以(yi)幫助自己起草會議備忘錄等,帶來了很(hen)多驚喜。

在他看來,雖(sui)然對新的技術仍需保持一(yi)定警(jing)惕性,但不(bu)能(neng)“像鴕鳥一(yi)樣把頭(tou)埋在沙子里”充耳不(bu)聞(wen),也不(bu)能(neng)完全不(bu)關注(zhu)技術風險。

在AI領(ling)(ling)域(yu)中(zhong),蘇(su)世(shi)民是在學(xue)術研究方面慈善捐贈規模最大的人之一。當雷默問及(ji)為什么突然選(xuan)擇AI這(zhe)個(ge)領(ling)(ling)域(yu)時,蘇(su)世(shi)民有些感慨地回答:“我想并(bing)不(bu)是我選(xuan)擇了AI,而是AI選(xuan)擇了我。”

早(zao)些時(shi)候,他曾作為(wei)投(tou)資新(xin)人資助了牛(niu)津大學的(de)(de)(de)一個(ge)AI倫理(li)運(yun)營項目。之(zhi)所(suo)以(yi)這么做,是(shi)因為(wei)當時(shi)每個(ge)人都涌向純理(li)科投(tou)資的(de)(de)(de)時(shi)候,他覺得需要將(jiang)理(li)科研究和(he)人類情感上的(de)(de)(de)一些事情相結合,去進行思考和(he)研究,因為(wei)“這將(jiang)會影(ying)響(xiang)和(he)改變人類未來(lai)10-20年之(zhi)后的(de)(de)(de)一些行為(wei)”。

同(tong)時他(ta)也十分關注(zhu)監管方面的項目,在他(ta)看來,從事硬核(he)技術(shu)、理科技術(shu)的人(ren),在有(you)可(ke)能(neng)出錯的地方應(ying)心存敬畏。

相比于商(shang)業界,高校等學術(shu)機構(gou)現(xian)在在AI競爭方面處于劣勢,一些(xie)突破性的(de)進(jin)展(zhan)大多出現(xian)在商(shang)業領域。這是算力(li)等開(kai)發成本(ben)所導(dao)致的(de)結(jie)構(gou)性變化(hua)。蘇世民談道,隨著AI的(de)持續發展(zhan),必須對學術(shu)界建(jian)立(li)一種更有價(jia)值的(de)扶持方式,要(yao)做(zuo)一些(xie)比僅僅資助一位(wei)教授的(de)研(yan)究(jiu)項目來(lai)說,更有意義的(de)事情。

結語:生成式AI狂飆,風險管控成為重要議題

在去年的WAIC上,產學研大(da)佬(lao)們暢談(tan)大(da)模型浪潮,對下一階段(duan)發(fa)展方向、應用爆發(fa)領域展開深(shen)入探(tan)討和(he)積極展望。

而(er)到了(le)今(jin)年,AI風險與(yu)(yu)安全已成為最受關注的話題之一,無論是性能與(yu)(yu)安全的平衡,還(huan)是教育體系(xi)的落后,都是全球(qiu)范圍內共同探討的重要議題。

總的來看,AGI仍是科(ke)技行業(ye)共同(tong)期待的目標。我們期待看到各行各業(ye)能在安(an)全可信的指(zhi)導下,為AGI的發展注入(ru)新的生命力。