智東西（公眾號：zhidxcom）
作者|?徐珊
編輯|?云鵬
智東(dong)西7月31日消(xiao)息，據(ju)外媒Tech Xplore報道，康(kang)奈爾大學(xue)的研究人(ren)員發現惡意代碼很容易隱(yin)藏(zang)在AI的神經網絡系(xi)統中，并且人(ren)們難以(yi)察覺。
研(yan)究團隊嘗試(shi)將惡(e)意代(dai)(dai)碼(ma)(ma)嵌入到(dao)一個名為“AlexNet”AI的(de)神經網絡系統中，隨(sui)后他們(men)發(fa)(fa)現(xian)(xian)不(bu)僅常見的(de)殺(sha)毒軟件無法發(fa)(fa)現(xian)(xian)惡(e)意代(dai)(dai)碼(ma)(ma)件的(de)存(cun)在(zai)，而(er)且AI被惡(e)意代(dai)(dai)碼(ma)(ma)感染之(zhi)后，運行狀態也不(bu)會發(fa)(fa)生變化，人們(men)也更難以察覺系統中存(cun)在(zai)惡(e)意代(dai)(dai)碼(ma)(ma)。因此，如果不(bu)法分子(zi)利用這(zhe)樣(yang)的(de)方式入侵AI中，將會很容易盜竊系統里的(de)重(zhong)要(yao)數據。
研究人員(yuan)表示，在此次實驗中，他(ta)們將(jiang)惡意(yi)代碼添(tian)加到神經(jing)(jing)網絡(luo)系(xi)統(tong)中最容易入(ru)侵的(de)注入(ru)層（injection）。此外(wai)，他(ta)們選擇(ze)的(de)是已經(jing)(jing)訓練過的(de)AI系(xi)統(tong)，而不(bu)法(fa)分(fen)子(zi)們可能更愿意(yi)選擇(ze)一些從(cong)未經(jing)(jing)過訓練的(de)AI神經(jing)(jing)網絡(luo)系(xi)統(tong)，這(zhe)樣入(ru)侵起來會(hui)更加方便。
研究人員指出，如果簡單地向AI添(tian)加(jia)一段惡意(yi)代(dai)碼(ma)，AI模型(xing)并不會受到(dao)(dao)傷害，因(yin)為無論誰(shui)將代(dai)碼(ma)插入(ru)到(dao)(dao)AI模型(xing)中(zhong)，都需要找到(dao)(dao)該代(dai)碼(ma)的執行方式。但(dan)如果將惡意(yi)代(dai)碼(ma)入(ru)侵到(dao)(dao)AI的神經網(wang)絡(luo)系統(tong)中(zhong)，惡意(yi)代(dai)碼(ma)會模仿神經網(wang)絡(luo)的結(jie)構運作，悄無聲息地“融入(ru)”到(dao)(dao)AI的神經網(wang)絡(luo)系統(tong)中(zhong)。
他們表示，現在人們注(zhu)意(yi)到黑客(ke)可以將惡意(yi)代碼隱藏在AI的神(shen)經網(wang)絡系統中(zhong)后，可以設(she)計出更加(jia)全面的防病(bing)毒軟件，以免(mian)用戶損(sun)失。
結語：AI時代，技術與安全應并行
康奈爾大學的(de)(de)研究人員發(fa)現，惡意代碼入侵AI的(de)(de)神經網(wang)絡(luo)系統(tong)后，能在無(wu)聲無(wu)息中對用(yong)戶的(de)(de)數據安全以及財產造(zao)成(cheng)較(jiao)大的(de)(de)威(wei)脅。
隨(sui)著AI技(ji)術(shu)快速發展，AI已經(jing)逐漸滲入(ru)(ru)日(ri)常(chang)生活的(de)各個(ge)角落(luo)中，但(dan)我(wo)們也需要關注AI技(ji)術(shu)背后的(de)安全(quan)(quan)漏洞(dong)，因為這些安全(quan)(quan)漏洞(dong)可能會成為威脅到國(guo)家安全(quan)(quan)的(de)“武器”。近(jin)期，俄(e)羅斯黑客組(zu)織REvil在(zai)9個(ge)月內入(ru)(ru)侵了(le)近(jin)180家公司，300家組(zu)織，甚(shen)至(zhi)讓美國(guo)部分能源公司全(quan)(quan)面癱(tan)瘓(huan)。
因此，面對AI時(shi)代(dai)的(de)快速(su)發展(zhan)，AI時(shi)代(dai)的(de)安(an)全是不可避(bi)免(mian)的(de)重要(yao)話(hua)題，技術(shu)應與安(an)全并行。
來(lai)源(yuan)：Tech Xplore
