9月7日下(xia)午(wu)，在2023 inclusion·外灘(tan)大會舉行的《探索下(xia)一代安(an)全智(zhi)能》論壇(tan)上，世界(jie)權(quan)威國(guo)際產業組(zu)(zu)織“云安(an)全聯盟”（CSA）大中(zhong)華區宣布成立“AI安(an)全工作(zuo)組(zu)(zu)”，中(zhong)國(guo)電(dian)信、螞蟻集(ji)團、華為(wei)、百度、火山引擎、西(xi)安(an)電(dian)子科技大學、國(guo)家金融測評中(zhong)心(xin)等30余家機(ji)構成為(wei)首批發起單位(wei)。該組(zu)(zu)織致(zhi)力于共(gong)同解決AI技術快速發展所帶來的安(an)全難(nan)題。
與會的(de)(de)中(zhong)國科學院(yuan)院(yuan)士何積豐表(biao)示，“以人(ren)工智能為(wei)代表(biao)的(de)(de)數字(zi)技術正邁入從高速增(zeng)長(chang)向高質量增(zeng)長(chang)轉變的(de)(de)全新發(fa)展階段，這對其自(zi)身(shen)安(an)全性(xing)和可(ke)靠性(xing)提出(chu)更高要求，也衍(yan)生出(chu)新型風(feng)險與挑戰。這類風(feng)險更加(jia)復雜且(qie)隱蔽，只(zhi)有建(jian)設(she)數字(zi)安(an)全生態協作(zuo)系統，政、產、學、研各方緊密合(he)作(zuo)，共同建(jian)設(she)可(ke)信可(ke)控的(de)(de)數字(zi)安(an)全屏障。”
云安全聯(lian)(lian)盟大中華區AI安全工(gong)作(zuo)組(zu)將(jiang)由中國電信(xin)上海研究院、螞蟻集團擔任聯(lian)(lian)席組(zu)長單位，召集聯(lian)(lian)盟內人(ren)工(gong)智能相關的產(chan)線上下游企業、學校、研究機構(gou)、用戶單位等共(gong)同研究人(ren)工(gong)智能安全前沿技術(shu)。
記者從(cong)現場(chang)獲悉(xi)，AI安全(quan)(quan)(quan)工作組將(jiang)聚焦人(ren)工智能(neng)突出(chu)的(de)安全(quan)(quan)(quan)風險問(wen)題，輸出(chu)人(ren)工智能(neng)內生安全(quan)(quan)(quan)、衍(yan)生安全(quan)(quan)(quan)、助力安全(quan)(quan)(quan)等領域(yu)的(de)白皮書(shu)、產業知(zhi)識圖譜(pu)、團體(ti)標準、系統框架、解決方案等，為整個行業提(ti)供一個清晰、系統的(de)AI安全(quan)(quan)(quan)研(yan)究(jiu)框架。根據(ju)計劃，工作組先期(qi)將(jiang)輸出(chu)《AI安全(quan)(quan)(quan)白皮書(shu)》《大(da)模型安全(quan)(quan)(quan)研(yan)究(jiu)報告》《AI數據(ju)安全(quan)(quan)(quan)評估規范》等研(yan)究(jiu)成果。
CSA（云安全(quan)(quan)(quan)聯(lian)盟）創立(li)(li)于2009年，是(shi)世界領(ling)先的(de)(de)權威國(guo)際(ji)產業組織，共有成(cheng)(cheng)(cheng)員單(dan)位(wei)1000余家。CSA致力于定義和(he)提高業界對(dui)云計(ji)算(suan)和(he)下一代數字(zi)技術安全(quan)(quan)(quan)最佳實踐的(de)(de)認識和(he)全(quan)(quan)(quan)面發展(zhan)，憑借(jie)敏捷性(xing)、中立(li)(li)性(xing)、專業性(xing)被各界認可。CSA GCR（云安全(quan)(quan)(quan)聯(lian)盟大(da)(da)中華(hua)區(qu)(qu)(qu)）是(shi)CSA全(quan)(quan)(quan)球四(si)大(da)(da)區(qu)(qu)(qu)之一（其它三(san)大(da)(da)區(qu)(qu)(qu)分別為美洲(zhou)區(qu)(qu)(qu)、亞太(tai)區(qu)(qu)(qu)、歐非(fei)區(qu)(qu)(qu)），立(li)(li)足于中國(guo)，作為國(guo)際(ji)橋梁(liang)聯(lian)接世界，致力于構建國(guo)際(ji)數字(zi)安全(quan)(quan)(quan)的(de)(de)生態體系。此次(ci)AI安全(quan)(quan)(quan)工作組的(de)(de)成(cheng)(cheng)(cheng)立(li)(li)，也將發揮國(guo)際(ji)橋梁(liang)作用，使我國(guo)AI安全(quan)(quan)(quan)研究(jiu)成(cheng)(cheng)(cheng)果在全(quan)(quan)(quan)球范圍內產生影響(xiang)。
從(cong)安(an)全角度看，AI技(ji)術是(shi)把“雙刃劍”。它既會對(dui)數據、業(ye)務(wu)和(he)系統等層面(mian)構成威脅，也能為安(an)全科(ke)技(ji)發展(zhan)賦(fu)能。論壇與會嘉賓表達了(le)一致的觀點，并提出(chu)了(le)建(jian)設性(xing)意見。
中國網絡空間安(an)(an)全(quan)協會副秘書長徐倩華表示，“發(fa)展(zhan)的前提是安(an)(an)全(quan)。這(zhe)需要各(ge)行各(ge)業形成筑牢安(an)(an)全(quan)防護屏(ping)障的共(gong)識，注重培養(yang)頂(ding)尖(jian)安(an)(an)全(quan)技術人才，貫徹落(luo)實相關法律法規，共(gong)同提升數字(zi)安(an)(an)全(quan)防護能力，確保(bao)數字(zi)經(jing)濟健康可持(chi)續(xu)發(fa)展(zhan)。”
云(yun)安全聯盟(meng)大中華區主席李(li)雨航院士也表示，“發展與安全是數字(zi)經濟前進的雙(shuang)輪。人(ren)工(gong)智能(neng)技術的研發既不(bu)能(neng)因噎廢食，也不(bu)能(neng)坐視安全不(bu)顧。優秀的中國AI方案應該成為全球的樣(yang)板(ban)。”
中國電信(xin)研究院副(fu)院長、云網(wang)基礎(chu)設(she)施安全(quan)國家工(gong)程研究中心(xin)常務副(fu)主(zhu)任李(li)安民表示(shi)，面對日益復雜的云網(wang)安全(quan)威脅(xie)，積極探(tan)索AI安全(quan)、Web3框架下(xia)的安全(quan)技(ji)術及其創新(xin)應用，才能幫助數據隱私(si)、交易可信(xin)和網(wang)絡(luo)穩定。
金融是現(xian)代經(jing)濟(ji)的(de)核心，金融領域的(de)科技創(chuang)新與(yu)安全愈發重要(yao)。
國家金融(rong)與(yu)發(fa)展(zhan)實驗室副主任(ren)楊濤表示，“讓(rang)金融(rong)更安全地擁抱科技，一方(fang)面要解決科技企業與(yu)金融(rong)機構建立(li)‘各司其職、風(feng)險自擔’的合(he)作(zuo)邊界問題，另(ling)一方(fang)面完善金融(rong)科技生態與(yu)夯實基礎要素(su)。”
中國民生銀行首席信息官張(zhang)斌認為，“當(dang)前開放銀行、智慧銀行、場景金(jin)融等(deng)數字金(jin)融服(fu)務(wu)迅猛發展(zhan)，金(jin)融機構(gou)應盡快建立與之配套的數字安全(quan)防御體(ti)系，驅動金(jin)融業(ye)務(wu)更(geng)好、更(geng)快、更(geng)穩健發展(zhan)。”
作為互聯網(wang)科技(ji)(ji)企業，螞(ma)(ma)蟻(yi)(yi)集團機器智(zhi)能(neng)部總經理、螞(ma)(ma)蟻(yi)(yi)安全(quan)實驗室首席科學家王維強介(jie)紹，針對生成(cheng)式大(da)模(mo)型安全(quan)問題(ti)(ti)，螞(ma)(ma)蟻(yi)(yi)集團基于近10年可(ke)信AI沉淀，逐步構建(jian)“大(da)模(mo)型安全(quan)檢測與防(fang)御”的(de)(de)一體(ti)化(hua)解(jie)決方(fang)(fang)案，以保障大(da)模(mo)型在生產和使(shi)用過程中更(geng)加(jia)安全(quan)、可(ke)控、可(ke)靠(kao)。目前已發布“蟻(yi)(yi)鑒(jian)”AI安全(quan)檢測平(ping)臺。同時螞(ma)(ma)蟻(yi)(yi)集團基于安全(quan)基座模(mo)型能(neng)力，持續升(sheng)級全(quan)方(fang)(fang)位全(quan)鏈(lian)路的(de)(de)智(zhi)能(neng)風(feng)控防(fang)御體(ti)系，與生態伙伴(ban)們一起解(jie)決新AI時代的(de)(de)安全(quan)科技(ji)(ji)難題(ti)(ti)。
據了解，本次(ci)論壇(tan)由中(zhong)國網絡(luo)空間安(an)全協(xie)會(hui)指導(dao)，金融科(ke)技(ji)50人(ren)論壇(tan)、螞蟻集團聯合(he)主辦，多位重磅嘉賓參(can)會(hui)探討數實融合(he)發展中(zhong)的(de)新型風險與挑戰，分享時代脈(mo)搏(bo)下(xia)的(de)關鍵技(ji)術趨勢和安(an)全科(ke)技(ji)實踐成果。
