芯東西（公眾號：aichip001）
編譯?| 王傲翔
編輯 | 程茜

芯(xin)東(dong)西4月3日消息，據(ju)路透社昨日報道(dao)，美國和(he)(he)英(ying)國于4月1日簽署了一份諒(liang)解(jie)備忘錄(lu)，正式(shi)宣布建立新的(de)合作(zuo)伙(huo)伴關系(xi)，在AI安全和(he)(he)測試方面開展合作(zuo)，共同致力于AI安全科學的(de)研(yan)究與發展。

隨著(zhu)AI技術(shu)的加速迭代及其在社會(hui)中(zhong)的普遍(bian)使用，AI暴露出來的潛(qian)在安全和(he)倫(lun)理問題也成(cheng)為社會(hui)熱議話題，民眾對即(ji)將到來的下(xia)一(yi)代AI版本(ben)的擔憂與(yu)(yu)日(ri)俱增。英美兩國(guo)計(ji)劃合作開發最先進AI模(mo)型測試技術(shu)，以兌現去年11月AI安全峰會(hui)上做(zuo)出的應對AI風險的承諾。此(ci)外，雙方還打算加強(qiang)兩國(guo)AI研(yan)究所的人員交流(liu)與(yu)(yu)協作，運用專業(ye)知識應對AI風險。

一、全球首個AI雙邊協議，趕在下一代模型之前合作

根據4月1日建立的(de)正(zheng)(zheng)式合作伙(huo)伴關(guan)系，英美兩(liang)國(guo)計劃在一個(ge)可公開(kai)訪問的(de)大(da)模型(xing)上進行至少一次聯合測試演練，并考慮探索兩(liang)機構之間(jian)的(de)人員(yuan)交流。據報道，兩(liang)國(guo)正(zheng)(zheng)與其他國(guo)家發展類似的(de)伙(huo)伴關(guan)系，以促進AI安全(quan)。

美國(guo)商務部(bu)部(bu)長吉娜·雷蒙多（Gina Raimondo）和英國(guo)技術大臣(chen)米歇爾(er)·唐蘭（Michelle Donelan）周一在接受路透社聯合采訪時(shi)表(biao)示(shi)，各國(guo)迫切需要(yao)采取聯合行動來應(ying)對AI風險。

在接受采訪(fang)時(shi)，雷蒙多說(shuo)：“我(wo)們都(dou)知道AI是我(wo)們這(zhe)一代人(ren)的決定性技術。兩國的此次合(he)作將加速美(mei)英兩家(jia)研究(jiu)所在各(ge)個領域的工作，以應對(dui)國家(jia)安全風險，并回應社會的廣(guang)泛關切。”此外，她稱(cheng)將在周(zhou)四于比利時(shi)舉行的美(mei)歐貿易(yi)和(he)技術委(wei)員(yuan)會（U.S.-EU Trade and Technology Council）上提出(chu)AI相(xiang)關問題，并透露美(mei)國政(zheng)府(fu)計劃很快宣(xuan)布AI研究(jiu)所的新增人(ren)員(yuan)。

“這是(shi)世(shi)界上的(de)首個此類(lei)協議。”唐蘭稱，“AI已經是(shi)我們社(she)會中一股非凡且有益的(de)力(li)量(liang)，在應(ying)對世(shi)界上一些最(zui)大的(de)挑戰方面有著巨大的(de)潛力(li)，但前提是(shi)我們必(bi)須能(neng)夠控(kong)制AI潛在的(de)風險。”

在采(cai)訪中(zhong)，唐(tang)蘭強調時間至(zhi)關重要，因(yin)為(wei)新的AI大模型即(ji)將(jiang)發布，其能力將(jiang)大大增強。她認為(wei)此次合(he)作的重點是(shi)美(mei)英兩(liang)國分工、掌握并將(jiang)其真正專(zhuan)業化(hua)的AI領(ling)域。

此外，兩國計劃分享與(yu)AI模(mo)型和系統相關的(de)能力和風險，以(yi)及AI安全和安保技(ji)術研(yan)究方面(mian)的(de)關鍵(jian)信息。

雷蒙(meng)多最(zui)后(hou)提到，她尤其擔心AI應用于生(sheng)物恐怖(bu)主義或模擬核戰爭的(de)威(wei)脅。她認(ren)為(wei)這些事情的(de)后(hou)果可能(neng)是災難性的(de)，因(yin)此(ci)必須對這種功能(neng)的(de)模型采(cai)取零容忍的(de)態度。

二、建立AI安全研究所，英美兌現《布萊切利宣言》承諾

去(qu)年11月1日，由英(ying)(ying)國倡(chang)議(yi)(yi)發起的首(shou)屆“全球AI安全峰會”在(zai)倫敦北部(bu)布萊切(qie)利園（Bletchley Park）舉行。會議(yi)(yi)首(shou)日，包括(kuo)中國、美國、英(ying)(ying)國在(zai)內的28個(ge)國家及歐盟共同簽署了《布萊切(qie)利宣言》，承諾加(jia)快(kuai)識別(bie)AI產生的風(feng)險，建立對風(feng)險的科(ke)學(xue)認知(zhi)，并制定跨國風(feng)險緩解政策(ce)。

會議當(dang)日，美國(guo)(guo)政府指示美國(guo)(guo)商(shang)務部成(cheng)立美國(guo)(guo)AI安全(quan)研(yan)究(jiu)所。今年2月8日，美國(guo)(guo)商(shang)務部部長吉娜(na)·雷蒙多（Gina Raimondo）宣布了(le)美國(guo)(guo)人工智能安全(quan)研(yan)究(jiu)所（AISI）執行領導團隊的主要成(cheng)員(yuan)。AISI專注(zhu)于(yu)評估(gu)前沿AI模(mo)型帶來的風險，并與(yu)200家(jia)公司和經(jing)濟(ji)實(shi)體建立了(le)合(he)作。

英國首相里(li)希(xi)·蘇(su)納克（Rishi Sunak）也于(yu)去年(nian)11月2日宣布(bu)成立全(quan)球首個AI安(an)全(quan)研究(jiu)所(suo)，以(yi)研究(jiu)、評(ping)估和(he)測(ce)試(shi)新型AI，并于(yu)今年(nian)2月宣布(bu)將(jiang)斥資超(chao)過1億(yi)英鎊（約合9.09億(yi)人民幣）啟(qi)動九個新的研究(jiu)中(zhong)心，并對(dui)監管機構(gou)進行AI技術培訓。

結語：加強AI治理，各國應合作共贏

生(sheng)成式AI可以根據開放式的提示創建(jian)文本、照片和視頻，引發了人們對AI的普遍關注(zhu)，同時也使許多人擔心它可能會讓一些(xie)工(gong)作(zuo)崗(gang)位被淘汰(tai)，并(bing)產生(sheng)用戶隱私泄露、數(shu)據篡改等安(an)全風險。此外，大模型的訓練數(shu)據如果存在誤導(dao)，可能會出現歧(qi)視性問題。

英美(mei)此次在(zai)AI領域的正(zheng)式合(he)作，使兩國能夠(gou)(gou)共享AI治理(li)技(ji)(ji)術(shu)，并在(zai)未來能夠(gou)(gou)相互(hu)借調研究人(ren)員(yuan)交流AI專業知(zhi)識，給全球AI治理(li)提供創新思考。另(ling)外，在(zai)技(ji)(ji)術(shu)之(zhi)外，各國政府正(zheng)在(zai)加強(qiang)合(he)作，建立監管機構以及(ji)加強(qiang)AI技(ji)(ji)術(shu)普及(ji)與(yu)宣傳，共同應對AI安(an)全風險，在(zai)保障AI技(ji)(ji)術(shu)的安(an)全與(yu)合(he)規基礎上，促(cu)進(jin)AI技(ji)(ji)術(shu)的發展和普遍應用。

來源：路透社