智東西（公眾號：zhidxcom）
作者 | ZeR0
編輯 | 漠影
智東西9月(yue)7日(ri)報道，2023Inclusion·外灘大(da)會9月(yue)7日(ri)在(zai)上海黃浦世博園正式(shi)開幕。這場以(yi)“科(ke)技(ji)·創造可持續未(wei)來”為主題的(de)大(da)會為期三天，設(she)有1場主論壇(tan)、36場見解論壇(tan)、8000平方米科(ke)技(ji)展(zhan)覽(lan)、3000平方米綠色集市，并首次舉辦科(ke)技(ji)人才(cai)招聘會。
在主論壇上(shang)，機器學習泰斗、三院(yuan)(yuan)院(yuan)(yuan)士(shi)Michael I.Jordan分享了(le)對(dui)解決人工智能（AI）系統中(zhong)不確定性的(de)(de)思考，中(zhong)國(guo)科(ke)學院(yuan)(yuan)院(yuan)(yuan)士(shi)張人禾談到科(ke)學智能已(yi)成AI重點(dian)(dian)發展方向，中(zhong)國(guo)科(ke)學院(yuan)(yuan)院(yuan)(yuan)士(shi)何積豐重點(dian)(dian)探討了(le)大模型時代的(de)(de)安(an)全與(yu)隱私問題。
包(bao)括他們在內，近20位(wei)“兩院(yuan)”院(yuan)士、諾貝(bei)爾獎(jiang)和圖靈獎(jiang)得主(zhu)，全(quan)球超500位(wei)有影響力的科技領軍企(qi)業(ye)(ye)和專家學者，以及(ji)(ji)來自孟加(jia)拉、馬來西亞、尼日利(li)亞等(deng)新興市場國家的科技創業(ye)(ye)者，聚焦(jiao)人(ren)工智能、大模型、抗量子密(mi)碼、隱私計(ji)算、圖計(ji)算、安(an)全(quan)智能、區塊鏈、Web3.0等(deng)前沿數字科技及(ji)(ji)產(chan)業(ye)(ye)實踐，展(zhan)開深度交流，并與(yu)會發布(bu)最(zui)新科技成(cheng)果(guo)。
本屆大會以“科技·創造可持續未來”為主題，展區面積達8000平米，參展單位包括英偉達、螞蟻集團、美國運通中國合資公司、眾安保險、復旦大學、同濟大學、泰康、萬事利等。6G、無人安全檢測實驗室、腦紋核身、蟻鑒2.0、城市鏈、AI大腦訓練、支付芯、寵物生物識別系統、區塊鏈溯源、數字人虛擬空間等十大黑(hei)科技在展區亮(liang)相(xiang)。
▲由(you)螞蟻安全(quan)實驗(yan)室聯合(he)信通(tong)院、腦(nao)機合(he)作生產廠(chang)商博瑞康共同推出的全(quan)球首個腦(nao)機頭戴核身技術互動
現場還有一支特(te)殊的(de)講解(jie)團(tuan)(tuan)——由螞蟻集(ji)團(tuan)(tuan)與(yu)上(shang)海老年(nian)大學共同打(da)造的(de)藍馬甲銀發宣講團(tuan)(tuan)，用通俗易懂(dong)的(de)語言，向參展觀眾(zhong)介紹隱私計算、圖計算、可(ke)信AI等，帶領大家感受科技(ji)力量(liang)。
本屆外(wai)灘大(da)會同時打造(zao)有線上(shang)虛擬(ni)(ni)空(kong)間，在支付寶上(shang)搜索“外(wai)灘大(da)會”進(jin)入(ru)官(guan)方小程序(xu)，即可創建(jian)屬于自己(ji)的虛擬(ni)(ni)數字人，在虛擬(ni)(ni)世界中體驗數字展廳、觀看(kan)外(wai)灘論壇直播。
一、機器學習泰斗Michael I.Jordan：AI的本質是集體，而不是個體
機器學習(xi)泰斗，美(mei)國科學院(yuan)、美(mei)國工程院(yuan)、美(mei)國藝術與科學院(yuan)三院(yuan)院(yuan)士Michael I.Jordan在演講(jiang)中談道，不確定性應(ying)對(dui)(dui)不好，不可能(neng)有非常好的金融科技技術。ChatGPT也沒有辦法(fa)對(dui)(dui)不確定性進行量化(hua)，所以我們需要去解決這個問(wen)題，找到一個可能(neng)的方法(fa)去應(ying)對(dui)(dui)這些挑戰。
怎么應對在一(yi)個協(xie)作式的、去(qu)中(zhong)心化的系統當中(zhong)來實(shi)現集(ji)體(ti)智(zhi)能？他分享說，可以設計一(yi)個集(ji)體(ti)智(zhi)能體(ti)，去(qu)解決AI系統中(zhong)不確(que)定(ding)性。
一(yi)個小(xiao)小(xiao)的個體錯誤，可(ke)能(neng)會產(chan)生(sheng)很(hen)大的系(xi)統(tong)(tong)性錯誤。以AI蛋白質結構預測系(xi)統(tong)(tong)AlphaFold為例，它的預測能(neng)力強于(yu)人(ren)類(lei)，但可(ke)能(neng)得(de)出完全錯誤的預測結果，如(ru)果不用AlphaFold，又(you)沒辦法(fa)很(hen)快做科學實(shi)驗。
對此，Michael I.Jordan提到一(yi)個叫預測驅動(dong)的(de)推理方法，能夠(gou)找到一(yi)個高可(ke)信的(de)值，可(ke)將置信區間做(zuo)修正，得出一(yi)個新的(de)可(ke)預測數字(zi)。
“我(wo)并沒有覺得AI會(hui)替代人，它(ta)(ta)只不(bu)過就是(shi)(shi)一(yi)個(ge)(ge)(ge)新(xin)(xin)的(de)工(gong)程系統(tong)，”Michael I.Jordan說，“科技就是(shi)(shi)一(yi)個(ge)(ge)(ge)非常很好的(de)新(xin)(xin)的(de)工(gong)程系統(tong)，因為每(mei)個(ge)(ge)(ge)人是(shi)(shi)普適，而(er)且(qie)是(shi)(shi)公平、公正、透明、穩定的(de)，這些特(te)性是(shi)(shi)整(zheng)個(ge)(ge)(ge)工(gong)程系統(tong)的(de)特(te)點，而(er)不(bu)是(shi)(shi)系統(tong)當中個(ge)(ge)(ge)體(ti)(ti)的(de)特(te)點。所以AI它(ta)(ta)是(shi)(shi)關(guan)于(yu)一(yi)個(ge)(ge)(ge)集體(ti)(ti)，而(er)不(bu)是(shi)(shi)關(guan)于(yu)一(yi)個(ge)(ge)(ge)個(ge)(ge)(ge)體(ti)(ti)。”
二、中科院院士張人禾：科學智能已成AI重點發展方向，要進行“有組織科研”
耗(hao)時3秒以內，擁有45億參數的伏羲氣象(xiang)大模型(xing)，即(ji)可預報未(wei)來(lai)15天的全(quan)球天氣。這便是AI和科學研究結合之后帶(dai)來(lai)的改變。
中(zhong)國科(ke)(ke)學(xue)(xue)院(yuan)院(yuan)士、復(fu)旦(dan)大(da)學(xue)(xue)副校(xiao)長張(zhang)人禾在演講時談道，科(ke)(ke)學(xue)(xue)智能(neng)（AI for Science）已經成為AI的重點發(fa)展方向，推動跨學(xue)(xue)科(ke)(ke)的交叉研(yan)究，激(ji)發(fa)創新(xin)(xin)突破；加速科(ke)(ke)技(ji)創新(xin)(xin)與產(chan)業(ye)變(bian)革的深度融合(he)，推動產(chan)業(ye)轉型升級。“科(ke)(ke)學(xue)(xue)智能(neng)是推動科(ke)(ke)學(xue)(xue)研(yan)究范式變(bian)革、實現科(ke)(ke)技(ji)原始(shi)創新(xin)(xin)策(ce)源的利器，擁(yong)有引爆產(chan)業(ye)創新(xin)(xin)核爆點的巨(ju)大(da)潛能(neng)。”
科學(xue)智(zhi)能的(de)發(fa)展正從部(bu)分機構的(de)探索變成產學(xue)研各界的(de)共(gong)識，從點狀突(tu)破轉變為系統(tong)布局(ju)。
近年來(lai)，國(guo)外加速布(bu)局，科(ke)學智(zhi)能發(fa)(fa)展進入快車道。2023年5月(yue)，美國(guo)能源(yuan)部發(fa)(fa)布(bu)《面向(xiang)科(ke)學、能源(yuan)和(he)安(an)全的(de)(de)人工智(zhi)能》報告指出AI將從底層推動科(ke)學、能源(yuan)和(he)安(an)全的(de)(de)發(fa)(fa)展，并展開布(bu)局。馬(ma)斯克近期成立(li)對標OpenAI的(de)(de)新公(gong)司xAI，旨在回答更深(shen)層次的(de)(de)科(ke)學問(wen)題(ti)，期望未來(lai)用AI去(qu)幫助(zhu)人們去(qu)解決(jue)復雜的(de)(de)科(ke)學和(he)數(shu)學問(wen)題(ti)并且“理解”宇(yu)宙。
在(zai)(zai)科(ke)研領(ling)域，斯坦福(fu)大(da)學、麻省理工學院等知名學府，谷歌、Meta等科(ke)技(ji)企業紛(fen)紛(fen)入局(ju)開(kai)展體系(xi)化研究。國內科(ke)學智能(neng)也在(zai)(zai)迅速(su)發(fa)展，相繼(ji)涌現出大(da)量的科(ke)學領(ling)域大(da)模型，但仍處在(zai)(zai)起(qi)步(bu)階段。張人禾說，隨著AI時代來臨，“單打(da)獨斗”已不適應大(da)科(ke)學時代的科(ke)技(ji)創(chuang)新，要進行(xing)“有組織科(ke)研”，最大(da)的優勢(shi)在(zai)(zai)于(yu)布局(ju)建設大(da)平臺(tai)。
他透露(lu)道，近年(nian)來，復(fu)旦(dan)大學(xue)(xue)在AI領(ling)域(yu)(yu)進行(xing)了頗有成(cheng)效的探索。截至2023年(nian)6月17日，復(fu)旦(dan)大學(xue)(xue)申請的有效法律狀態的發明(ming)專(zhuan)利(li)共6973件，其中(zhong)計算(suan)機科學(xue)(xue)技(ji)術領(ling)域(yu)(yu)2048件。此外，學(xue)(xue)校承擔“人工智能前沿基礎理論與關(guan)鍵技(ji)術”、“腦(nao)與類腦(nao)智能基礎轉化應用(yong)研究”兩個市級(ji)重大專(zhuan)項攻關(guan)國際首個全(quan)腦(nao)計算(suan)平臺。多個團隊在頂刊、頂級(ji)會議發表AI領(ling)域(yu)(yu)代表性論文成(cheng)果。
三、中科院院士何積豐：給大模型安全問題戴上“緊箍咒”
中國(guo)科(ke)學院院士何(he)積(ji)豐談道，大(da)模(mo)型存在一些安(an)全隱(yin)憂(you)：1、大(da)模(mo)型開啟了真正意義上的通用(yong)人(ren)工智能，人(ren)類(lei)如何(he)應對一個比(bi)自(zi)己更(geng)強大(da)的智能？2、大(da)模(mo)型的通用(yong)能力讓(rang)其能應用(yong)到人(ren)類(lei)生產(chan)生活的各個場景中，一旦AI出現安(an)全問題，其影響將難以預估。
大模型的安全問題包括(kuo)隱私與對齊。
隱私(si)問題主要是(shi)指未經同意(yi)的情況(kuang)下(xia)收集、使用和(he)泄露(lu)個人(ren)信(xin)息，可能(neng)(neng)發生(sheng)在訓練過程中，涉(she)(she)及大量用戶個人(ren)信(xin)息和(he)數據(ju)，也可能(neng)(neng)發生(sheng)在使用過程中，涉(she)(she)及很多用戶私(si)密(mi)信(xin)息。而大模型的生(sheng)成能(neng)(neng)力讓(rang)“隱私(si)泄露(lu)”的方式變得(de)多樣化，使得(de)隱私(si)保(bao)護(hu)更加困難。
應對這些問題，需要大模型對齊(qi)技術。
何積(ji)豐說，對(dui)齊是(shi)指系(xi)統的目標和人類價值觀(guan)一致，使其符(fu)合設計(ji)者的利益和預期不(bu)會產生意外(wai)的有害(hai)后果(guo)。“如(ru)果(guo)把人工智(zhi)能看作西游記里的孫悟空(kong)，對(dui)齊就(jiu)是(shi)唐僧(seng)的緊箍咒。有了緊箍咒，就(jiu)可以保證技術不(bu)會任意使用能力胡作非為。”
他分享了機(ji)器(qi)人(ren)學三定(ding)(ding)律(lv)：第(di)(di)(di)一(yi)定(ding)(ding)律(lv)是(shi)機(ji)器(qi)人(ren)不得傷(shang)害人(ren)類(lei)，或因不作為(wei)使人(ren)類(lei)受傷(shang)害；第(di)(di)(di)二定(ding)(ding)律(lv)是(shi)除(chu)非違背第(di)(di)(di)一(yi)定(ding)(ding)律(lv)，機(ji)器(qi)人(ren)必須(xu)服(fu)從(cong)人(ren)類(lei)的命令(ling)；第(di)(di)(di)三定(ding)(ding)律(lv)是(shi)除(chu)非違背第(di)(di)(di)一(yi)及(ji)第(di)(di)(di)二定(ding)(ding)律(lv)，機(ji)器(qi)人(ren)必須(xu)保護自(zi)己。
對齊的基礎是，“人(ren)類價(jia)值(zhi)觀”是多(duo)元且動(dong)態變(bian)化的。人(ren)類的價(jia)值(zhi)與判定系統本身充滿(man)偏見(jian)和(he)盲點(dian)，有很(hen)多(duo)互相(xiang)矛盾的地方和(he)沒有明確指(zhi)出的潛在條件。大(da)模(mo)型(xing)“有用性”和(he)“無(wu)害性”兩個目(mu)標不(bu)完全(quan)一致，如何(he)對錯(cuo)誤進行有效糾(jiu)正，設好(hao)大(da)模(mo)型(xing)的“緊箍咒”，給做好(hao)對齊帶來挑戰。
因此(ci)，對齊技術成(cheng)為一項令人(ren)眼花(hua)繚(liao)亂的跨學科研究(jiu)，不僅考(kao)驗技術，也在審視我們的文化。
何(he)積豐認為，反(fan)饋(kui)強化(hua)學習(xi)是(shi)(shi)實現對(dui)(dui)齊(qi)的(de)技(ji)術途徑，目前有(you)兩種方(fang)(fang)式，一是(shi)(shi)通過(guo)反(fan)饋(kui)給模(mo)型不(bu)同(tong)的(de)獎勵信號，引導模(mo)型高質(zhi)量(liang)輸出(chu)；二是(shi)(shi)基于給大模(mo)型提供(gong)明確的(de)原則(ze)，系統自動訓練模(mo)型對(dui)(dui)所有(you)生成的(de)輸出(chu)結果提供(gong)初(chu)始(shi)排序。“這意(yi)味著，不(bu)僅智能系統需要向(xiang)人(ren)類價(jia)值觀對(dui)(dui)齊(qi)，人(ren)類的(de)訓練方(fang)(fang)法(fa)也要向(xiang)價(jia)值觀對(dui)(dui)齊(qi)。”何(he)積豐說(shuo)。
四、麥肯錫中國區主席倪以理：生成式AI或為全球經濟增加數萬億美元
麥肯(ken)錫中(zhong)國區(qu)主席、麥肯(ken)錫全球資深董事合(he)伙人倪以理以《中(zhong)國下一個十年(nian)：中(zhong)國企業(ye)的制勝關鍵期》為(wei)主題(ti)發表演講。
他談道，生成(cheng)式AI可(ke)能會為(wei)全(quan)球經濟增加(jia)數萬億美(mei)元的價值，但這個時代才(cai)剛剛開(kai)始。
“我們做了一個測算，在未來的(de)(de)(de)AI對(dui)于(yu)全球經濟的(de)(de)(de)創(chuang)造(zao)的(de)(de)(de)收益，是(shi)9萬(wan)(wan)億美(mei)金，但(dan)是(shi)整(zheng)體(ti)廣泛的(de)(de)(de)AI可能是(shi)達到(dao)25萬(wan)(wan)億美(mei)元。”倪以理說，所(suo)有(you)的(de)(de)(de)行業(ye)多(duo)多(duo)少(shao)少(shao)都受到(dao)生(sheng)成式(shi)(shi)AI的(de)(de)(de)影(ying)響(xiang)，生(sheng)成式(shi)(shi)AI的(de)(de)(de)是(shi)2萬(wan)(wan)億到(dao)4萬(wan)(wan)億美(mei)金。
生(sheng)成式AI用例(li)可能(neng)大幅(fu)度促進生(sheng)產力提升(sheng)，并提供新(xin)的(de)(de)(de)(de)就業機會。2023年，生(sheng)成式AI對(dui)過去(qu)自動化潛力較(jiao)低的(de)(de)(de)(de)領域將產生(sheng)最大影(ying)響，對(dui)所(suo)有的(de)(de)(de)(de)決策跟協(xie)作的(de)(de)(de)(de)工作帶來(lai)的(de)(de)(de)(de)影(ying)響是加大的(de)(de)(de)(de)。
然而，關鍵是(shi)組(zu)織要(yao)改變(bian)、適應(ying)、重(zhong)新(xin)培訓員(yuan)工，從而使生成式AI和(he)其(qi)他(ta)創新(xin)在組(zu)織中落地——這需要(yao)領導(dao)力和(he)變(bian)革。
2023年(nian)(nian)是變革開(kai)啟的一年(nian)(nian)，倪以理認為中(zhong)國十(shi)年(nian)(nian)、二十(shi)年(nian)(nian)，中(zhong)國企業的商業模式須(xu)從過去的Beta走到Alpha。Beta是市場(chang)，Alpha是在市場(chang)當(dang)中(zhong)比(bi)人家做得好。
從(cong)Beta到Alpha年代的轉變中(zhong)，倪以理看(kan)到中(zhong)國企業大規(gui)模(mo)轉型面(mian)臨的關(guan)鍵(jian)挑戰有4個：
1、沿(yan)用(yong)固(gu)有戰法。中國企業過去20年取得了輝煌成就(jiu)，但未來20年的制勝(sheng)因(yin)素(su)與過去的成功因(yin)素(su)明顯不同。
2、人才和思維。部分高管(guan)白手(shou)起家(jia)，缺少面(mian)向未來作出改變的(de)(de)思維模(mo)式。“下命(ming)令、強管(guan)控”的(de)(de)領導(dao)風格在復雜(za)的(de)(de)行業環境下需要適應和調整。
3、創新成(cheng)果“規(gui)模效應(ying)”。新業務規(gui)模太(tai)小(xiao)，短期無法產(chan)生影響(xiang)。各項變革往(wang)往(wang)半途而(er)廢，或在(zai)阻力增大時(shi)被叫停。
4、變革(ge)的勇氣不足。任何轉型需(xu)要勇氣和企業文化深刻變革(ge)，漸進主義(yi)是變革(ge)大敵，關鍵是轉型知(zhi)易行難。
”時代新章即將開啟，下(xia)一個(ge)時代將是(shi)一個(ge)怎么樣(yang)的(de)(de)時代？最主要當然是(shi)科技(ji)，最主要當然是(shi)人工智能，還有很多其他的(de)(de)，讓(rang)我(wo)們覺得未(wei)來(lai)的(de)(de)十年，未(wei)來(lai)的(de)(de)年代，跟過去不一樣(yang)。”倪(ni)以(yi)理說，更重要的(de)(de)是(shi)企業本身，要具(ju)備這樣(yang)的(de)(de)條件、勇氣、抱負、愿(yuan)景，使其能戰勝下(xia)一個(ge)新的(de)(de)時代。
結語：集中展示前沿技術創新，注重人文、綠色、可持續發展
本屆外灘大會(hui)展(zhan)示了AI、區塊(kuai)鏈(lian)、隱私計算等(deng)前(qian)沿(yan)技術的創新(xin)突破(po)、產業實踐，同(tong)時也將(jiang)以沉浸式、場景化(hua)的方式讓與會(hui)者(zhe)體(ti)驗數字(zi)技術推動下(xia)城市、產業和生活的新(xin)可能。
“人文”這一關(guan)鍵詞貫(guan)穿(chuan)大(da)會始終，在(zai)技(ji)(ji)術發展(zhan)(zhan)的大(da)背景下(xia)，如何幫助社會更好地適應(ying)數(shu)字革(ge)命？對(dui)此(ci)，大(da)會設有“可持續發展(zhan)(zhan)篇(pian)章(zhang)”，重點關(guan)注(zhu)社會責任、風險應(ying)對(dui)、ESG、科技(ji)(ji)倫理、消費者權益保護(hu)、數(shu)據安全和隱私(si)保護(hu)、就(jiu)業(ye)和人才發展(zhan)(zhan)等話題(ti)，并將(jiang)舉(ju)辦40家科技(ji)(ji)企業(ye)聯合招聘(pin)會。
本屆大會的科技展覽和綠(lv)色(se)(se)集市(shi)，展示科技在(zai)金融服務、出(chu)行、政務辦事、安(an)全等領(ling)域的應(ying)用(yong)成果，更加貼近(jin)市(shi)民生(sheng)活(huo)；綠(lv)色(se)(se)集市(shi)設有荒漠、森林、海洋(yang)、城市(shi)四大主題體驗區，近(jin)30個綠(lv)色(se)(se)可持續品(pin)牌(pai)參與，展示新潮的綠(lv)色(se)(se)生(sheng)活(huo)方式、豐富的低碳(tan)商品(pin)、有趣的公益環保互動。
