智東西（公眾號：zhidxcom）
編譯 | 吳菲凝
編輯 | 李水青
智東(dong)西3月29日消息，在(zai)未來生命研(yan)究(jiu)所（Future of Life Institute）官網上，包括圖靈獎(jiang)得主約書亞·本吉奧（Yoshua Bengio）、特斯拉CEO埃隆·馬斯克（Elon Musk）、蘋果(guo)公司(si)聯合創始人(ren)史蒂(di)夫?沃茲(zi)尼亞克（Steve Wozniak）、DeepMind高級研(yan)究(jiu)科(ke)學家扎卡里(li)·肯(ken)頓（Zachary Kenton）等(deng)在(zai)內的數千名AI領域企(qi)業家、學者、高管發出了一封題為(wei)《暫停大型人(ren)工智能研(yan)究(jiu)》公開(kai)信。
這(zhe)些AI專(zhuan)家們(men)在信(xin)中(zhong)(zhong)強(qiang)烈呼(hu)吁：所有AI研(yan)究室(shi)立刻暫停訓練比GPT-4更加強(qiang)大(da)的(de)(de)AI系統，為期至(zhi)(zhi)少6個月，并建(jian)議各大(da)企(qi)業、機構(gou)共同開發(fa)一份適用(yong)于AI研(yan)發(fa)的(de)(de)安全協議，同時信(xin)中(zhong)(zhong)還提到各國(guo)政府應當(dang)在必要的(de)(de)時候介入其中(zhong)(zhong)。截至(zhi)(zhi)目(mu)前(qian)，已有1125人簽名支持這(zhe)封公開信(xin)。
▲目前的簽名名單
專家們在信中指(zhi)出(chu)，AI智(zhi)能系統在和(he)人類競(jing)爭的過(guo)程中可(ke)能會(hui)對社會(hui)和(he)人類造成巨大風險。
這封信(xin)尖銳發出四(si)大問(wen)：
1、我們是否(fou)應該(gai)讓機器用宣傳(chuan)和不實之詞充斥我們的信息渠道？
2、我們(men)是否(fou)應(ying)該使所(suo)有的(de)工作都自動(dong)化(hua)？
3、我們是否應該發展可(ke)能超(chao)過并取代(dai)我們的非人類思維(wei)？
4、我們是否應該去冒失去對(dui)自身文明控制的風險？
專家(jia)(jia)們在信中補充(chong)道，全球的AI實(shi)(shi)驗(yan)室(shi)和該領(ling)域專家(jia)(jia)應該利用(yong)這次暫停研究的機會，共同制定和實(shi)(shi)施(shi)一套全人類共享的安全協(xie)議，用(yong)于未來(lai)更加(jia)先(xian)進(jin)(jin)的AI設計(ji)和開發。這些協(xie)議需要由(you)外部專家(jia)(jia)進(jin)(jin)行嚴格的審計(ji)監(jian)督，來(lai)確保整個系統經受得住質疑。
但此次暫停并不意(yi)味著未來完全停止繼(ji)續研發人(ren)工(gong)智能(neng)，只是讓產業(ye)暫時從激(ji)進的(de)、危險(xian)的(de)AI競賽中(zhong)退一步，退到更具潛力的(de)新興(xing)科技的(de)蓄力準備(bei)當(dang)中(zhong)。
OpenAI此前發布的(de)(de)GPT-4是人工智能(neng)領域發展歷程中的(de)(de)一大重要里(li)程碑(bei)，專家認為(wei)，將在今年晚(wan)些(xie)時候發布的(de)(de)GPT-5將會在可靠(kao)性、創(chuang)造性和(he)對復雜任務(wu)的(de)(de)適應性上更上一層(ceng)樓，可能(neng)帶來更多新(xin)功能(neng)的(de)(de)升級，比如根據用(yong)戶的(de)(de)特定需求(qiu)和(he)輸入變量量身定制，提(ti)供更加(jia)個性化的(de)(de)體(ti)驗；增強AI以更像(xiang)人類的(de)(de)方式理解和(he)響應自然語言的(de)(de)能(neng)力；通過提(ti)供相關信息和(he)見解，幫助用(yong)戶做出明智的(de)(de)決策等(deng)。
GPT-5將會在各(ge)方(fang)面能力上遠超GPT-4，而這也是(shi)數千(qian)位AI專(zhuan)家們發起這封公開(kai)信的主要原因：進步(bu)伴隨著隱患。
以下(xia)為公開信(xin)全(quan)文內容(rong)：
正(zheng)如(ru)廣泛的(de)(de)(de)(de)(de)研究和(he)(he)頂級人(ren)工(gong)智(zhi)能(neng)實驗(yan)室所表明的(de)(de)(de)(de)(de)那樣，具有(you)人(ren)類競爭智(zhi)能(neng)思(si)維(wei)的(de)(de)(de)(de)(de)人(ren)工(gong)智(zhi)能(neng)系(xi)統可(ke)能(neng)會(hui)對社(she)會(hui)和(he)(he)人(ren)類構成深(shen)刻的(de)(de)(de)(de)(de)風險。正(zheng)如(ru)被廣泛認可(ke)的(de)(de)(de)(de)(de)《阿西(xi)洛(luo)馬人(ren)工(gong)智(zhi)能(neng)原則》中所說，高級人(ren)工(gong)智(zhi)能(neng)可(ke)能(neng)代表著地球上生命歷史的(de)(de)(de)(de)(de)深(shen)刻變(bian)化(hua)，應該以相應的(de)(de)(de)(de)(de)謹慎態度和(he)(he)資源(yuan)進行規(gui)劃和(he)(he)管理。不幸(xing)的(de)(de)(de)(de)(de)是，這種(zhong)級別的(de)(de)(de)(de)(de)規(gui)劃和(he)(he)管理并(bing)沒有(you)發(fa)生，盡管最近(jin)幾個(ge)月看到人(ren)工(gong)智(zhi)能(neng)實驗(yan)室陷入了一(yi)場(chang)失控的(de)(de)(de)(de)(de)競賽(sai)中，大家(jia)都在開(kai)發(fa)和(he)(he)部署(shu)越來越強大的(de)(de)(de)(de)(de)數字思(si)維(wei)，包括創造者在內的(de)(de)(de)(de)(de)所有(you)人(ren)都無(wu)法理解(jie)、預(yu)測甚至控制這些人(ren)工(gong)智(zhi)能(neng)的(de)(de)(de)(de)(de)繁衍(yan)。
當(dang)代人(ren)工智能系統在一些日常任務中(zhong)已經可以與人(ren)類相(xiang)匹敵。我們(men)需(xu)要捫(men)心自問：
我們(men)(men)(men)是否應(ying)該(gai)(gai)讓機器用宣傳和謊言充斥在(zai)我們(men)(men)(men)各種(zhong)信息渠(qu)道？我們(men)(men)(men)是否應(ying)該(gai)(gai)把所有(you)的(de)(de)(de)工作都自動化，包括那些給人帶來滿足感的(de)(de)(de)工作？我們(men)(men)(men)是否應(ying)該(gai)(gai)開發非人類的(de)(de)(de)大腦，使其最(zui)終超過我們(men)(men)(men)的(de)(de)(de)數量，勝(sheng)過我們(men)(men)(men)的(de)(de)(de)智慧，淘汰(tai)我們(men)(men)(men)并(bing)取代我們(men)(men)(men)？我們(men)(men)(men)是否要冒著失去對(dui)我們(men)(men)(men)文明(ming)控制(zhi)的(de)(de)(de)風險？
此(ci)類決(jue)策(ce)不得(de)委托給未經選(xuan)舉的(de)(de)技術領導者。這(zhe)種信(xin)心必(bi)須(xu)有(you)充(chong)分的(de)(de)理由(you)，并隨著(zhu)系統潛在影響(xiang)的(de)(de)大小(xiao)而增(zeng)加。OpenAI最(zui)近關于通用(yong)(yong)人工智能(neng)的(de)(de)聲明指出，“在某些時(shi)候，在開(kai)始訓練未來(lai)系統之前，獲得(de)獨立審查至關重要，而且必(bi)須(xu)限制用(yong)(yong)于創(chuang)建新模型的(de)(de)計算增(zeng)長率(lv)。我(wo)們無比(bi)同意這(zhe)一觀點，而且現在是時(shi)候這(zhe)樣做了。”
因此，我們呼吁所有(you)人(ren)工智能(neng)實(shi)驗室立即(ji)暫停比GPT-4更(geng)強大的(de)人(ren)工智能(neng)系統的(de)訓練，為期(qi)至少6個月。這種暫停應該是公開的(de)、可驗證的(de)，并(bing)(bing)包括所有(you)關鍵參與者(zhe)都應該在列。如果這種暫停不能(neng)迅(xun)速實(shi)施，政府(fu)應該介入并(bing)(bing)制定暫停令(ling)。
人(ren)工智能(neng)實驗(yan)室和(he)獨立(li)專家應利用這(zhe)次暫停(ting)期(qi)，共同(tong)制定和(he)實施一套先(xian)進的(de)(de)人(ren)工智能(neng)設計和(he)開發(fa)的(de)(de)共享(xiang)安全協議，并由獨立(li)的(de)(de)外(wai)部專家進行嚴(yan)格的(de)(de)審計和(he)監督。這(zhe)些協議應該確保遵守它們(men)的(de)(de)系統(tong)是(shi)安全的(de)(de)、無可(ke)置疑的(de)(de)。當然，這(zhe)一行動并不(bu)意味著暫停(ting)人(ren)工智能(neng)的(de)(de)總體(ti)發(fa)展，只是(shi)從越來(lai)越大且不(bu)可(ke)預(yu)測的(de)(de)黑盒模型的(de)(de)危(wei)險競賽(sai)中退后一步。
人工智能的(de)研究和開發應該重(zhong)新(xin)聚(ju)焦于使(shi)當今(jin)強大的(de)、最(zui)先進(jin)的(de)系統更加準確、安全、可解釋、透明(ming)、穩(wen)健、一致、值得信賴和忠誠。
同時，人(ren)工智能(neng)開發者必須與政(zheng)策(ce)制定者合作(zuo)，加(jia)快開發強大的人(ren)工智能(neng)治理系統的速(su)度(du)。至少應該包括(kuo)以(yi)下措施：
1、設立專(zhuan)門針(zhen)對(dui)人工智(zhi)能的(de)新的(de)且有(you)能力(li)的(de)監管機構(gou)；
2、監(jian)督和跟蹤高能力(li)的人工智能系統和大(da)型計算能力(li)池；
3、確定AI內容(rong)出處和加(jia)上水(shui)印系統，以幫助用戶(hu)區(qu)分真(zhen)實和合(he)成的內容(rong)，并跟蹤模(mo)型泄漏；
4、強(qiang)大的審計和(he)認證生(sheng)態(tai)系統；
5、對人工智能(neng)造(zao)成的傷害承(cheng)擔(dan)責任；
6、為(wei)人工智能安全技術研究提(ti)供(gong)強(qiang)大的(de)公共資金(jin)；
7、各機構保(bao)證有充足的(de)資源來(lai)應對(dui)人工智能(neng)(neng)可(ke)能(neng)(neng)導(dao)致的(de)巨(ju)大(da)經(jing)濟和(he)政治破(po)壞。
人(ren)(ren)類可以享受人(ren)(ren)工智(zhi)能帶來的(de)(de)繁(fan)榮未(wei)來。在成功(gong)創造出(chu)強大的(de)(de)AI系(xi)(xi)統(tong)之(zhi)(zhi)后(hou)，我們(men)現在可以享受一個“人(ren)(ren)工智(zhi)能之(zhi)(zhi)夏”，設(she)計這些系(xi)(xi)統(tong)以造福所有人(ren)(ren)，并為(wei)社會提供大量(liang)機會。讓我們(men)享受一個漫長(chang)的(de)(de)人(ren)(ren)工智(zhi)能夏季，而不是在毫無準備的(de)(de)情況(kuang)下(xia)匆(cong)忙進入秋天(tian)。
結語：千人呼吁停訓GPT-5，AI負面影響引關注
GPT-4剛出(chu)世(shi)不(bu)久，GPT-5已(yi)在(zai)狂飆而來的(de)(de)路上，但隨(sui)之而來的(de)(de)是不(bu)斷加(jia)(jia)劇的(de)(de)AI焦(jiao)慮(lv)和(he)潛在(zai)隱患：本(ben)就搶手的(de)(de)勞動崗位被AI取代、工(gong)作機會(hui)更加(jia)(jia)稀缺，加(jia)(jia)劇了(le)社會(hui)焦(jiao)慮(lv)情緒的(de)(de)蔓延，以及(ji)AI換(huan)臉知名演員(yuan)、AI生(sheng)成低俗圖片(pian)等負面新聞不(bu)斷涌現(xian)，這些便利和(he)智能(neng)伴隨(sui)而來的(de)(de)困擾(rao)和(he)隱患已(yi)經對人們的(de)(de)日常生(sheng)活(huo)產生(sheng)了(le)副(fu)作用。此次千(qian)名業內大佬叫停GPT-5的(de)(de)訓練意在(zai)及(ji)時剎(cha)車，讓愈演愈烈(lie)的(de)(de)AI競賽回到(dao)勻速發(fa)展的(de)(de)軌道。
但在(zai)外(wai)媒The Verge看(kan)來，這封信不太可能(neng)對當前的(de)人工(gong)智(zhi)能(neng)研究環境(jing)產生任何(he)影響，谷(gu)歌(ge)和微軟等(deng)科技公司(si)都急于(yu)部署(shu)新產品，經常忽(hu)視以前公開宣(xuan)稱(cheng)的(de)對安(an)全和道德(de)的(de)擔(dan)憂。
來源：未來生命研究所官網
