智東西（公眾號：zhidxcom）
編譯 | 尹明順
編輯 |?漠影
智東西9月30日消息，據路透社報道，美國加利福尼亞州參議員（Scott Wiene）于今年2月7日擬定的《SB-1047前沿AI大模型安全創新法案》（簡稱SB-1047法案）于今日凌晨，被加州州長Gavin Newsom徹底否決。其認為，該法案可能會將AI公(gong)司趕出加州，并對科技創(chuang)新造成阻礙。
據悉，SB-1047法案(an)主要用(yong)于增強(qiang)大模型安全性(xing)、透明性(xing)、完(wan)善AI使用(yong)規(gui)范條例，該法案(an)一經(jing)提出就引(yin)發極大爭議。
法案(an)要(yao)求對(dui)許(xu)多最先進的(de)(de)AI模(mo)(mo)型進行安(an)全(quan)測(ce)試(shi)，這些模(mo)(mo)型的(de)(de)開(kai)發成本超(chao)過1億(yi)美元，需要(yao)特定數量的(de)(de)計算(suan)能(neng)力。此外，法案(an)還(huan)將通過設立一(yi)個州級機構，負責(ze)監督所謂“前沿模(mo)(mo)型”的(de)(de)開(kai)發。
對(dui)此，多(duo)家(jia)科(ke)技公司對(dui)SB-1047法(fa)案(an)都表(biao)達了抗拒態度。Meta認為該(gai)法(fa)案(an)有(you)可能(neng)對(dui)AI在(zai)(zai)加州(zhou)的(de)(de)開(kai)發(fa)和部(bu)署產生不利作用。Facebook母公司的(de)(de)首席科(ke)學家(jia)Yann LeCun曾(ceng)在(zai)(zai)社交媒體X的(de)(de)一篇帖子(zi)中稱該(gai)法(fa)案(an)可能(neng)對(dui)研究工作產生負面影響。
OpenAI的(de)ChatGPT也認為AI應該(gai)由聯邦政(zheng)府(fu)監管，但SB-1047創(chuang)造了一個充滿(man)不確定的(de)法律環境。它認為該(gai)法案(an)將對AI發展構成威脅，并可能導(dao)致企業家(jia)和工程師(shi)離(li)開該(gai)州。
一、AI發展迅速，SB-1047法案提出利弊交加
生成式AI可(ke)以根(gen)據提示創建(jian)文(wen)本、照(zhao)片(pian)和視(shi)頻，這令人(ren)興奮，也(ye)讓人(ren)擔憂。因為AI的使(shi)用可(ke)能會使(shi)得一些(xie)工(gong)作崗(gang)位不那(nei)么被需要，會對選舉造成顛覆(fu)性影(ying)響，還可(ke)能在某些(xie)方面因超(chao)越(yue)人(ren)類(lei)而造成災難性影(ying)響。
Wiener稱，在AI的發展變(bian)得(de)難(nan)以駕馭或(huo)無(wu)法控制之前，有必要通過(guo)立法來保護公眾。
但一些領導(dao)人對此(ci)發出了質疑，如今AI產業(ye)在(zai)(zai)加(jia)利福尼亞州快速發展，如果(guo)該法案通過，確立為正式法律條(tiao)例，可能會使(shi)那些AI公司在(zai)(zai)該州未來的發展受到影響。
Newsom認為：“我們不(bu)能等到發生重大災難后才采取行動來保(bao)護公眾”，但(dan)他同樣(yang)覺得，該法案(an)目前(qian)尚待完(wan)善，將其正式立法可(ke)能會對(dui)AI公司在加州的(de)發展(zhan)造成阻力，不(bu)利于科技創新。
▲美國加州州長Gavin Newsom（圖源：X平臺個人(ren)社(she)交帳號）
科(ke)技(ji)行業聯盟“進步商會”（Chamber of Progress）對Newsom的(de)否(fou)決意(yi)見表達了贊賞(shang)，稱“加利(li)福尼亞州(zhou)的(de)科(ke)技(ji)與經(jing)濟一(yi)直依(yi)賴于競爭和開放的(de)環境才得以蓬勃發展。”
對于Newsom的否決，Wiener回應(ying)稱，此行(xing)會使得加利福尼亞州的安全(quan)性降(jiang)低，這意味著“那些(xie)想要創造極(ji)其強大技術的公司不(bu)會面臨任何強制性限制”。他補(bu)充說：“行(xing)業(ye)的自愿(yuan)承諾是缺少執行(xing)性的，對公眾來說幾乎沒什么(me)好結果(guo)。”
二、SB-1047“BUG”眾多，急需打造AI風險科學分析體系
Newsom出(chu)面徹底否決(jue)了該法(fa)案，除(chu)去認為(wei)該法(fa)案不(bu)利科技創(chuang)新與AI發展(zhan)外(wai)，他(ta)還給出(chu)了這(zhe)樣(yang)的(de)一(yi)個原因(yin)：“我并不(bu)認為(wei)我們應該遵循那些沒有基于AI系統和(he)能力的(de)實際(ji)發展(zhan)軌(gui)跡進行(xing)實證分(fen)析所得出(chu)的(de)解決(jue)方案。”
他補充道，該法案沒有考慮到AI模型是否部署在高風險環境中。這一點很關鍵，因為在低風險環境中并不需要如此嚴格的監管措施。
另外，Newsom還解釋稱，法案(an)對于(yu)AI對關(guan)鍵決策的影響也未(wei)進行(xing)說明(ming)，也沒有定義何為敏感(gan)數據。這(zhe)一(yi)點的模糊界定會使得法案(an)難以(yi)對隱私以(yi)及數據進行(xing)有效(xiao)保護(hu)。
Newsom稱自己(ji)已(yi)經請了生成式AI的領先專(zhuan)家幫助加州開發“護欄”，并將(jiang)專(zhuan)注于開發一種基(ji)于經驗與科(ke)學(xue)的AI軌跡分(fen)析(xi)模(mo)型。他還(huan)命令美國各州機(ji)構完善對(dui)與AI使(shi)用相關的潛在災難性事(shi)件的風險(xian)評估體系。
此處的(de)護(hu)欄，意指一(yi)套機制或者系統，主要是用于保護(hu)技術使用安(an)全并預(yu)防可能存在的(de)風險。而AI軌跡分析模型，則是對AI未(wei)來發展路徑進行(xing)預(yu)測的(de)一(yi)種科學(xue)分析手段。
Newsom還簽署了另一項法(fa)案，要(yao)求該州評估生成(cheng)式(shi)AI對加利福(fu)尼亞州關(guan)鍵(jian)基礎設(she)施構成(cheng)的潛在威脅。
Newsom說，他將在下一屆立(li)(li)法會議期間與立(li)(li)法機(ji)構(gou)合(he)作，推動(dong)AI立(li)(li)法。
這一行(xing)動(dong)恰好發生在這樣(yang)一個時刻，美國(guo)國(guo)會關(guan)于(yu)(yu)設(she)立人(ren)AI保(bao)障措施的(de)立法(fa)工作陷入了停滯狀(zhuang)態，而與此(ci)同時，拜登政府(fu)正在積極推動(dong)關(guan)于(yu)(yu)人(ren)工智能(neng)監(jian)管(guan)監(jian)督(du)的(de)提案(an)。
結語：SB-1047法案在過去的半年里爭議良多
眾多團體強烈反對SB-1047法案的提出與落實。其中包括谷歌(ge)（旗下(xia)的Alphabet）、微軟支(zhi)持的OpenAI和Meta Platforms在內(nei)(nei)的公司都在開發(fa)生成式AI模型，它們(men)都對(dui)該(gai)提案表(biao)達了擔憂。眾議院(yuan)議長(chang)南希(xi)·佩洛西（Nancy Pelosi）在內(nei)(nei)的一些美國(guo)國(guo)會民主黨(dang)人也反對(dui)過該(gai)法案。
但該法案也有很多的支持者，其中包括特斯拉首席執行官埃隆·馬斯克（Elon Musk），他(ta)經營著一家名為xAI的(de)AI公(gong)司(si)。亞(ya)馬遜(xun)支持的(de)Anthropic認為，該法(fa)案(an)的(de)益處可能(neng)大于(yu)成本，但也(ye)補(bu)充說，仍(reng)有一些方面含混不清，令人擔憂。
來源：路透社、X
