2020-04-17
10
4月17日消息，在論文《Weight Poisoning Attacks on Pre-trained Models》中，來自CMU的研究者證明了構造權重中毒攻擊是可能的，即預先訓練的權重被注入漏洞，在微調后暴露后門，使攻擊者能夠通過注入任意關鍵字來操縱模型預測。研究證明，通過應用正則化方法 和初始化過程，即使對數據集和微調過程的了解有限，這種攻擊也是可能的。論文在情感分類、毒性檢測、垃圾郵件檢測等方面的實驗表明，該攻擊具有廣泛的適用性和嚴重的威脅。
歡迎來智東西
登錄
免費注冊
我的訂閱
關注我們
智東西
車東西
芯東西
智猩猩
CMU
+訂閱CMU最新動態