智東西（公眾號：zhidxcom）
編譯 | 楊蕊伃
編輯 |?漠影
智東西8月29日(ri)消息，據《紐(niu)約(yue)時報(bao)》報(bao)道，周三，美(mei)國加州立法者通過了(le)一項備受(shou)爭議的法案，旨在對人(ren)工智能（AI）設(she)立新(xin)的限制，確保AI技術既具有創新(xin)性，也(ye)具備安全性和可靠(kao)性。
SB-1047法案全稱“前沿AI模(mo)(mo)型安(an)全創新(xin)法案”。其目的(de)是(shi)為那(nei)些(xie)開(kai)發成本超過1億美元(yuan)或具備一(yi)定計算能力的(de)開(kai)發者建立(li)安(an)全準則，以保障大規模(mo)(mo)AI模(mo)(mo)型的(de)安(an)全性。
據悉，本(ben)周還需再進行一次程序投票，最后由美國加(jia)州州長加(jia)文·紐森（Gavin Newsom）于9月(yue)30日之前決定簽(qian)署還是否決。
盡管歐盟已經制定了AI法(fa)案，但美國尚未通過有關限制使用較高風險技(ji)術(shu)的(de)法(fa)律，如限制使用面部識別軟(ruan)件。
一、美國加州要求AI公司進行安全性測試
美國(guo)加州議會批(pi)準的SB-1047法案要求大型(xing)AI公司在向公眾(zhong)發布(bu)其系(xi)(xi)統(tong)之前，必須對系(xi)(xi)統(tong)進行(xing)安全性測(ce)試。
據路(lu)透社報道，SB-1047還要(yao)求開(kai)發(fa)人員聘請第(di)三方審計師來評估其(qi)安全實(shi)踐(jian)，并為(wei)公(gong)開(kai)反對(dui)AI濫用行為(wei)的舉報人提供(gong)額(e)外(wai)保護(hu)。
此(ci)外，加州(zhou)AI法案允許州(zhou)檢察(cha)長(chang)向造(zao)(zao)成重大傷害事(shi)故的AI制造(zao)(zao)商提起訴(su)訟，例如死亡或財產損失。
隨著類人(ren)機器(qi)人(ren)和(he)逼真的圖(tu)像、視頻生成器(qi)的引入，加(jia)州AI法(fa)案認為如(ru)果(guo)AI的發展沒有適當(dang)地受到人(ren)類控(kong)制(zhi)，未來這項(xiang)技術(shu)可能會對公共(gong)安全造成新的威脅。
“議會采取了歷史性(xing)的措施，主動確保這一令人(ren)興奮的新技術在發展過程中保護(hu)公眾利益，”加州AI法案的共同作者、民主黨(dang)參議員Scott Wiener在一份(fen)聲明(ming)中寫(xie)道。
然而，自(zi)2月提交以來，加州AI法案(an)一直飽(bao)受爭議。
美(mei)聯社(she)Juliana Yamada稱，美(mei)國加州立法(fa)的(de)通(tong)過引發了一場關于如何監管這(zhe)一新技(ji)術的(de)激烈辯論，AI因其潛(qian)在的(de)利益和危害而廣(guang)受關注(zhu)。
本月，Wiener又對法(fa)案進行(xing)了多項(xiang)修改(gai)，以安撫Anthropic、OpenAI、Meta和(he)谷歌等(deng)科技(ji)行(xing)業的批評者。
他(ta)將創建專注(zhu)AI安全的獨立機(ji)構的這(zhe)項提議(yi)刪除，并降低了公(gong)司(si)的責任(ren)標準(zhun)，僅在造成實際傷害時才追究責任(ren)。
新(xin)聞機構CalMatters關(guan)于SB-1047的總結記錄(lu)顯示，加州AI法案目前已修(xiu)正過十一版。
據《環球時(shi)報》報道，Wiener稱：“隨著(zhu)國(guo)會(hui)在AI監管問題上陷(xian)入僵局(ju)，美國(guo)加州必(bi)須采取(qu)行動，在AI帶來可預見(jian)的風險(xian)之前(qian)采取(qu)行動，同時(shi)促進創新也不能(neng)放。”
在他看來，AI安全與(yu)創(chuang)新并不互(hu)斥(chi)。
二、加州AI法案獲支持：確保AI發展與公共安全并行
目(mu)前(qian)，加州AI法案的最(zui)新(xin)修訂版已經解決了此(ci)前(qian)一(yi)些批(pi)評者的擔憂。
埃(ai)隆·馬斯克（Elon Musk）本周在(zai)他(ta)的社交網站發(fa)文稱，這是一個“艱難(nan)的決定”，但“綜合考(kao)慮所有因素(su)”，他(ta)支持對AI進行監管，支持通過加州AI法案，因為(wei)這項技術對公(gong)眾存(cun)在(zai)潛在(zai)風險。
SB-1047法案的其(qi)他支持者也認為，如果沒有保護措施，AI可(ke)能帶來災難性后果。它可(ke)能被用(yong)于(yu)生物(wu)戰(zhan)爭，或通過虛假信息運動(dong)推翻民(min)主選舉和(he)政府。
“政府現在就(jiu)如何開(kai)發和部署(shu)這些強大的(de)(de)AI系統所做(zuo)的(de)(de)選(xuan)擇可能會對(dui)當(dang)代(dai)(dai)和未來(lai)幾代(dai)(dai)美國加州人(ren)乃至世界各地(di)的(de)(de)人(ren)產生深遠的(de)(de)影響。”蒙特利爾大學計算機科學教授(shou)Yoshua Bengio和因AI安全問題辭(ci)去谷歌(ge)職務的(de)(de)Geoffrey Hinton在寫給紐(niu)森(sen)的(de)(de)信(xin)中談到(dao)。
三、弊大于利：行業擔憂美國加州AI法案可能抑制技術創新
加(jia)州AI法(fa)案雖(sui)然得到了部(bu)分科技界人士(shi)的支持(chi)，但仍面臨(lin)來自(zi)行業內的強烈反(fan)對(dui)，呼吁保(bao)護創新與發展(zhan)。
包括前眾議院議長南(nan)希(xi)·佩洛西（Nancy Pelosi）在內(nei)的(de)數名國會(hui)議員已(yi)致信紐(niu)森，警告他(ta)該立法可能會(hui)威脅(xie)到AI的(de)發展。他(ta)們認為(wei)(wei)這(zhe)項技術仍(reng)處(chu)于初期階段，現在就(jiu)要明確AI系統是否(fou)安全還為(wei)(wei)時(shi)過(guo)早。
佩洛(luo)西(xi)在上周發(fa)表的一封公開信(xin)中寫道：“我們國會中的許多(duo)人認(ren)為，SB-1047法案的初衷是(shi)好(hao)的，但缺乏(fa)充分了解。”
OpenAI日前也公(gong)開反對加州AI法案。
據《環球(qiu)時報》報道(dao)，OpenAI首(shou)席(xi)戰略(lve)官Jason Kwon在給Wiener的信中寫道(dao)，SB-1047法(fa)案威脅到“美國加州(zhou)作為AI全(quan)球(qiu)領導者的獨(du)特(te)地位(wei)”。他(ta)補充說，這可能(neng)“減緩創新步伐，并導致世界(jie)級(ji)工程師和企業家離開該(gai)州(zhou)到其他(ta)地方(fang)尋找機會”。
Wiener對(dui)此也作(zuo)出回應，他(ta)認為SB-1047是一項非常合理的(de)法(fa)案，它要求大型AI實驗室測試他(ta)們(men)(men)的(de)大型模型是否存(cun)在(zai)災難性的(de)安(an)全風險，“我們(men)(men)一整(zheng)年(nian)都在(zai)努力工作(zuo)，與開源倡導者、Anthropic和(he)其他(ta)組織一起完善和(he)改(gai)進SB-1047法(fa)案。”
SB-1047法案的(de)反對(dui)者擔(dan)心，這可能會扼(e)殺創新(xin)，阻礙初創公(gong)司(si)的(de)發展。他(ta)(ta)們(men)認為，這將(jiang)使科技(ji)巨頭不愿(yuan)意與其他(ta)(ta)企業和軟件(jian)開(kai)發者分享其AI的(de)底層軟件(jian)代碼，也就(jiu)是通常所說的(de)“開(kai)源”。
目(mu)前(qian)，紐森尚未(wei)對該立法(fa)表態。
結語：美國加州通過SB-1047法案，AI監管再邁出一步
隨著美(mei)國加(jia)州立法機關(guan)通過SB-1047法案，美(mei)國AI監管進入新(xin)階段(duan)。這項立法不(bu)僅(jin)為(wei)美(mei)國加(jia)州設定了新(xin)的技術標(biao)準，也可能影響全球范(fan)圍內對(dui)AI的監管政策。
通過(guo)立法(fa)來確(que)保技術的(de)安全性(xing)和可靠性(xing)，有助于增強(qiang)公眾對AI技術的(de)信任(ren)，促進AI在更廣泛領域(yu)的(de)應用。美國加州通過(guo)SB-1047法(fa)案，不僅(jin)對現(xian)有技術的(de)發展(zhan)提出(chu)了(le)挑戰，也為行(xing)業的(de)長期健康發展(zhan)奠定了(le)基(ji)礎。
美國(guo)(guo)空(kong)軍退(tui)役中將Lieutenant General John (Jack) Shanahan稱，SB-1047法案(an)(an)針對(dui)公民社會和國(guo)(guo)家安全(quan)面(mian)臨的(de)(de)近期潛在(zai)風險提供(gong)了務實的(de)(de)解決方案(an)(an)，同時也(ye)為科技行業與各級政府之間(jian)的(de)(de)進一(yi)步對(dui)話奠定了基(ji)礎。
如果加州(zhou)AI法案簽署(shu)成功，其具(ju)體(ti)效果及各方面的反饋(kui)也將成為國際社會關(guan)注(zhu)的熱點。AI技術(shu)的發展和監管將繼(ji)續(xu)在全球不(bu)斷的討論和探索中進(jin)化，以尋求(qiu)平衡創新與倫理、安全等多方面的需求(qiu)。
來(lai)源：《紐(niu)約時(shi)(shi)報》、《環(huan)球時(shi)(shi)報》、路透社(she)
