智東西（公眾號：zhidxcom）
編譯 | 香草
編輯 | 李水青
智東西11月(yue)(yue)2日(ri)消息，當地時間11月(yue)(yue)1日(ri)，英(ying)國(guo)主辦的首屆(jie)全球人工智能(neng)（AI）安(an)(an)全峰會在英(ying)國(guo)布(bu)萊(lai)切(qie)(qie)利公園(yuan)拉開帷幕。峰會第一天，包括(kuo)中國(guo)、美國(guo)、英(ying)國(guo)在內的28個國(guo)家及歐盟共同簽署了《布(bu)萊(lai)切(qie)(qie)利宣言》，承諾(nuo)以安(an)(an)全、以人為本、值得信(xin)賴和負責任(ren)的方(fang)式設計、開發、部署和使用(yong)AI。
宣言重(zhong)點關注兩個方面，一是識別共同關注的(de)(de)(de)(de)(de)AI安(an)(an)全風險，建立對(dui)這些風險的(de)(de)(de)(de)(de)共同科(ke)學和基于證據的(de)(de)(de)(de)(de)理解(jie)；二是各(ge)(ge)國(guo)制(zhi)定(ding)各(ge)(ge)自基于風險的(de)(de)(de)(de)(de)政策(ce)，以確保此類風險的(de)(de)(de)(de)(de)安(an)(an)全，酌情開展合(he)作。宣言提到，為(wei)推進這一議程，各(ge)(ge)國(guo)決定(ding)支(zhi)持一個具有(you)國(guo)際包(bao)容性(xing)的(de)(de)(de)(de)(de)前沿AI安(an)(an)全科(ke)學研(yan)究網(wang)絡，該網(wang)絡包(bao)含并(bing)補(bu)充(chong)現(xian)有(you)和新的(de)(de)(de)(de)(de)多邊(bian)、諸邊(bian)與雙邊(bian)合(he)作，包(bao)括通過(guo)現(xian)有(you)的(de)(de)(de)(de)(de)國(guo)際論壇和其他相關舉措(cuo)，為(wei)政策(ce)制(zhi)定(ding)和公(gong)共利益提供(gong)最佳(jia)的(de)(de)(de)(de)(de)科(ke)學支(zhi)持。
會議還(huan)確認了下一(yi)(yi)屆(jie)峰會的主辦(ban)(ban)方。英國數字(zi)部長(chang)米歇爾·唐蘭（Michelle Donelan）宣布之后將(jiang)再召開(kai)兩場AI安全峰會，一(yi)(yi)場于6個月后由(you)韓國主辦(ban)(ban)，另(ling)一(yi)(yi)場將(jiang)在一(yi)(yi)年(nian)內由(you)法(fa)國主辦(ban)(ban)。
據(ju)路(lu)透社報(bao)道，我國(guo)科技部副(fu)部長吳朝(chao)暉在(zai)開幕式(shi)上稱，中國(guo)政府愿意加(jia)強在(zai)AI安全方(fang)面(mian)的(de)(de)合作(zuo)，幫助建立一個國(guo)際治理框架，秉持相互尊重(zhong)、平(ping)等互利(li)的(de)(de)原則，“國(guo)家不分大小，都享(xiang)(xiang)有平(ping)等開發和(he)利(li)用人工(gong)智能(neng)的(de)(de)權利(li)……我們呼(hu)吁全球合作(zuo)，分享(xiang)(xiang)人工(gong)智能(neng)知識，并(bing)以(yi)開源方(fang)式(shi)向公眾提供(gong)人工(gong)智能(neng)技術。”
▲我國(guo)科技(ji)部副部長(chang)吳朝暉
美國商務部長(chang)吉娜·雷蒙(meng)多（Gina Marie Raimondo）稱(cheng)，美國將成立一個AI安全研究所(suo)，以評估(gu)所(suo)謂“前沿”AI模型的已知和(he)新(xin)出(chu)現的風(feng)險。她在(zai)會(hui)上(shang)發表演(yan)講時稱(cheng)：“我(wo)幾(ji)乎肯定會(hui)呼吁(yu)學術界和(he)工業界的許多觀眾加入這個聯盟(meng)……我(wo)們無法單(dan)獨做到這一點，私營部門必須(xu)挺身而(er)出(chu)。”
雷蒙多補充說(shuo)，她還將致力于推(tui)動美國(guo)研究(jiu)(jiu)(jiu)所與英國(guo)安(an)全(quan)研究(jiu)(jiu)(jiu)所建(jian)立正式(shi)的合作(zuo)伙伴(ban)關系，這項新工作(zuo)將由美國(guo)國(guo)家標準(zhun)與技術(shu)研究(jiu)(jiu)(jiu)院（NIST）負責。該(gai)部門稱(cheng)，此研究(jiu)(jiu)(jiu)所“將促進AI模型(xing)安(an)全(quan)、保障和測試標準(zhun)的制(zhi)定，制(zhi)定驗證(zheng)AI生成內容的標準(zhun)，并為研究(jiu)(jiu)(jiu)人員提供測試環(huan)境，以評估新興AI風險并解決已知影(ying)響”。
▲美國商務部長雷(lei)蒙多
美國副總統卡瑪拉·哈里(li)斯（Kamala Harris）當天在倫敦發(fa)表演講(jiang)，介紹美國政(zheng)府對(dui)AI的應對(dui)措施。她(ta)的演講(jiang)時機受到一(yi)些英(ying)國高管和(he)立法者的質疑，他們認為哈里(li)斯似乎搶了AI安全峰(feng)會的風頭。
據(ju)兩位消息(xi)人士透露(lu)，哈(ha)里(li)斯已邀請多個研究小(xiao)組與她一(yi)起參加周(zhou)三在(zai)倫(lun)敦大使(shi)館舉行(xing)的(de)閉門活動，這意味著(zhu)一(yi)些與會(hui)者可能不得不提前(qian)離開布萊切利公園(yuan)的(de)峰會(hui)。據(ju)報道，哈(ha)里(li)斯將在(zai)周(zhou)三晚些時(shi)候與蘇(su)納克會(hui)面共進(jin)晚餐，并(bing)將出席周(zhou)四第二天(tian)的(de)峰會(hui)。
▲美國副總統哈里斯
英國政府還在峰會上(shang)宣布(bu)，將投資(zi)3億英鎊（約合3.64億美(mei)元）用于(yu)構建新的(de)“AI研究(jiu)資(zi)源(yuan)”，以支持先(xian)進(jin)AI模型的(de)研究(jiu)。資(zi)金將主要用于(yu)建設兩臺新的(de)超級計(ji)算(suan)機，分別(bie)位于(yu)劍橋(qiao)和布(bu)里斯(si)托爾(er)，為研究(jiu)人員提供比(bi)英國目前最大(da)(da)的(de)公共AI計(ji)算(suan)工具容量(liang)大(da)(da)30倍以上(shang)的(de)資(zi)源(yuan)。
據稱，布里斯托爾(er)(er)的“Isambard-AI”超級(ji)計(ji)(ji)算機(ji)(ji)將(jiang)包括(kuo)來自英(ying)偉達的5000個(ge)先(xian)進AI芯片(pian)，由(you)惠普構(gou)建(jian)；而劍(jian)橋的“Dawn”超級(ji)計(ji)(ji)算機(ji)(ji)將(jiang)通(tong)過與戴爾(er)(er)和英(ying)國中小(xiao)企業StackHPC的合(he)作交付(fu)，并(bing)由(you)1000多個(ge)英(ying)特爾(er)(er)芯片(pian)提(ti)供動(dong)力。這些機(ji)(ji)器將(jiang)從明年夏天開始運行(xing)，將(jiang)用于分析先(xian)進的AI模(mo)型以測試(shi)安全功能，并(bing)推動(dong)藥物(wu)發(fa)現和清(qing)潔能源方面的突破。
英國(guo)(guo)首(shou)相里(li)希·蘇納克（Rishi Sunak）在社交媒體平臺X上(shang)稱(cheng)：“前沿AI模型的(de)(de)力量正在呈指數級增(zeng)長(chang)。這項投資將確保(bao)英國(guo)(guo)的(de)(de)科學人才擁有他(ta)們所需的(de)(de)工具，以(yi)確保(bao)最先進的(de)(de)AI模型的(de)(de)安(an)全。”
▲蘇(su)納克在社交媒體平臺(tai)X上(shang)評論
除了各(ge)國政府(fu)，一些科技頭部企業的(de)高管和研(yan)究人員也出席了峰會。
埃隆·馬斯(si)克（Elon Musk）稱，希望建立一(yi)個“第三方裁判(pan)”，能夠監(jian)督(du)AI開發公司并在出現問題時發出警報(bao)。他在接(jie)受記者采訪時說：“我(wo)不知道公平的規(gui)則是什么，但在進行(xing)監(jian)督(du)之前，你必須從洞察力開始。”
谷歌(ge)Deepmind聯合創(chuang)始(shi)人穆斯塔法·蘇萊曼（Mustafa Suleyman）告訴(su)記者，他并不認為目(mu)前(qian)的(de)AI前(qian)沿模(mo)型會造成任(ren)何(he) “重大災難(nan)性危害”，但他談道，隨著(zhu)AI行業(ye)訓練出越來越大的(de)模(mo)型，提前(qian)做好規劃是有(you)意義的(de)。
結語：28國簽署新宣言，推動AI風險管控議程
此(ci)次(ci)峰會(hui)是首屆(jie)全(quan)球性質的AI安全(quan)峰會(hui)，《布(bu)萊(lai)切(qie)利(li)宣言(yan)》的簽署有助于推動全(quan)球AI風險管理的進程。
前沿AI模型可能帶(dai)來的風險是不可忽視的，需(xu)要立法者、科技企業和(he)國際社會共同監督與合作(zuo)，確保這項(xiang)技術(shu)能夠負(fu)責任地造福于所有人。
《布萊切(qie)利宣言》原文(wen)地(di)址(zhi)：
//www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023
