隨著(zhu)云(yun)計(ji)算(suan)概(gai)念的(de)(de)誕生和人們在密(mi)(mi)(mi)(mi)文(wen)搜索、電子投票等(deng)多(duo)方面的(de)(de)需(xu)求增加(jia)(jia),同(tong)態(tai)加(jia)(jia)密(mi)(mi)(mi)(mi)(Homomorphic Encryption)變得日益重要(yao)。同(tong)態(tai)加(jia)(jia)密(mi)(mi)(mi)(mi)是(shi)一類(lei)具有特殊自然屬性的(de)(de)加(jia)(jia)密(mi)(mi)(mi)(mi)方法,與一般加(jia)(jia)密(mi)(mi)(mi)(mi)算(suan)法相比,同(tong)態(tai)加(jia)(jia)密(mi)(mi)(mi)(mi)除(chu)了(le)能實(shi)現基本的(de)(de)加(jia)(jia)密(mi)(mi)(mi)(mi)操作之外(wai),還(huan)能實(shi)現密(mi)(mi)(mi)(mi)文(wen)間的(de)(de)多(duo)種計(ji)算(suan)功(gong)能,即先(xian)計(ji)算(suan)后(hou)解密(mi)(mi)(mi)(mi)可(ke)(ke)等(deng)價(jia)于先(xian)解密(mi)(mi)(mi)(mi)后(hou)計(ji)算(suan)。同(tong)態(tai)加(jia)(jia)密(mi)(mi)(mi)(mi)技(ji)術可(ke)(ke)以(yi)先(xian)對(dui)(dui)多(duo)個密(mi)(mi)(mi)(mi)文(wen)進行計(ji)算(suan)之后(hou)再解密(mi)(mi)(mi)(mi),不需(xu)要(yao)對(dui)(dui)每一個密(mi)(mi)(mi)(mi)文(wen)解密(mi)(mi)(mi)(mi)而(er)花費高昂的(de)(de)計(ji)算(suan)代價(jia),對(dui)(dui)于保護信息的(de)(de)安全(quan)具有重要(yao)意義。

基于(yu)安全神經網(wang)絡(NNs)推理的(de)(de)(de)(de)(de)同(tong)態(tai)加密(mi)(mi)作為(wei)新興的(de)(de)(de)(de)(de)機器學習(xi)即服務(wu)(MLaaS),是最(zui)可靠(kao)的(de)(de)(de)(de)(de)安全解決方案(an)之一。在(zai)基于(yu)HE的(de)(de)(de)(de)(de)MLaaS設置(zhi)中(zhong),客(ke)戶(hu)端(duan)對(dui)敏感數(shu)據(ju)進(jin)行加密(mi)(mi),并將加密(mi)(mi)后的(de)(de)(de)(de)(de)數(shu)據(ju)上(shang)傳到服務(wu)器,服務(wu)器不(bu)用(yong)(yong)解密(mi)(mi),直接處理加密(mi)(mi)后的(de)(de)(de)(de)(de)數(shu)據(ju),并將加密(mi)(mi)結果返回給客(ke)戶(hu)端(duan)。由于(yu)只有(you)客(ke)戶(hu)端(duan)擁有(you)私(si)鑰,所以能夠保護客(ke)戶(hu)端(duan)的(de)(de)(de)(de)(de)數(shu)據(ju)隱私(si)。現有(you)的(de)(de)(de)(de)(de)基于(yu)HE的(de)(de)(de)(de)(de)神經網(wang)絡(HENNs)計(ji)算(suan)開(kai)銷很大,最(zui)先進(jin)的(de)(de)(de)(de)(de)HENNs采用(yong)(yong)密(mi)(mi)文打包技術,通過(guo)將多個消(xiao)息打包成(cheng)一個密(mi)(mi)文來減少(shao)同(tong)態(tai)乘法。然而,在(zai)這些HENNs中(zhong)需要旋(xuan)轉(zhuan)(zhuan)來實現同(tong)一密(mi)(mi)文中(zhong)元(yuan)素(su)的(de)(de)(de)(de)(de)和,HENNs必須在(zai)旋(xuan)轉(zhuan)(zhuan)上(shang)花費大量的(de)(de)(de)(de)(de)計(ji)算(suan)開(kai)銷。因此,大規模的(de)(de)(de)(de)(de)旋(xuan)轉(zhuan)(zhuan)已經成(cheng)為(wei)高(gao)效HENNs的(de)(de)(de)(de)(de)主要障礙。

在(zai)(zai)NeurIPS 2020會議上(shang)(shang),來自印第安納大學(xue)布魯明頓分校(xiao)的(de)(de)在(zai)(zai)讀博士婁錢團隊(dui)提出(chu)了一(yi)種用于(yu)加密數據快速推理(li)(li)的(de)(de)頻(pin)域深度神經網(wang)絡Falcon。Falcon包括一(yi)個同(tong)態(tai)離散傅(fu)立葉變換(HDFT),使用塊循環矩陣同(tong)態(tai)支持譜(pu)操作。婁博團隊(dui)還(huan)提出(chu)同(tong)態(tai)譜(pu)卷積(ji)和同(tong)態(tai)譜(pu)全連通(tong)運算(suan)(suan)來減少開(kai)銷巨大的(de)(de)同(tong)態(tai)運算(suan)(suan)。實(shi)驗結果表明,在(zai)(zai)MNIST和CIFAR-10上(shang)(shang),Falcon獲得了最先進的(de)(de)推理(li)(li)精度,并且比之前(qian)的(de)(de)HENNs減少了45.45% – 85.34%的(de)(de)推理(li)(li)延(yan)遲。

11月17日上午10點,智東(dong)西公開(kai)課邀請到印(yin)第(di)安納大(da)學布魯明頓(dun)分校在讀博士參與「機器學習前沿(yan)講座」第(di)10講,帶來主題(ti)為《如何使用同(tong)(tong)態(tai)加密(mi)在加密(mi)數據(ju)上高效(xiao)執(zhi)行神(shen)經網(wang)(wang)絡(luo)》的直播講解(jie)。婁錢博士將(jiang)從同(tong)(tong)態(tai)加密(mi)在加密(mi)數據(ju)中的挑戰出發,然后介紹基于(yu)同(tong)(tong)態(tai)加密(mi)的安全神(shen)經網(wang)(wang)絡(luo);最后詳(xiang)解(jie)加速數據(ju)推理(li)的頻域(yu)深度神(shen)經網(wang)(wang)絡(luo)Falcon和(he)基于(yu)同(tong)(tong)態(tai)譜的運(yun)算(suan)開(kai)銷降低算(suan)法。感興(xing)趣的朋友一(yi)定(ding)不要錯(cuo)過(guo)!

婁錢是印第安納大學(xue)布(bu)魯明頓分校(xiao)在讀博士,研(yan)究領域為深(shen)度學(xue)習(xi)加速和(he)隱私保護(hu)深(shen)度學(xue)習(xi)。他曾(ceng)在PACT會議上獲(huo)得了(le)DAC青年獎學(xue)金和(he)最(zui)佳(jia)論(lun)文提名。婁博現擔任ICML、NeurIPS和(he)AAAI會議的評(ping)審員或項(xiang)目委員會。

課程介紹
課程主題
《如何使(shi)用(yong)同態加密在加密數據上高效執行神(shen)經網(wang)絡》

課程提綱
1、同態加密在加密數據中的挑戰
2、HENNs:基于同態加密(HE)的安全神經網絡(NNS)
3、加速數據推理的頻域深度神經網絡Falcon
4、基(ji)于同態譜的運算開銷(xiao)降(jiang)低(di)算法詳解

講師介紹
婁錢,印第安納大(da)學(xue)布(bu)魯明頓分校在讀(du)博士,研究領域為深(shen)度學(xue)習加速(su)和隱私(si)保護(hu)深(shen)度學(xue)習;曾(ceng)在PACT會議上獲得了DAC青年獎(jiang)學(xue)金和最(zui)佳論文提名;現擔(dan)任ICML、NeurIPS和AAAI會議的評(ping)審員或(huo)項目委員會。

直播信息
直播時間:11月17日上午10點
直播地點:智東西公開課小程序(xu)

加入討論群
本次課程的講解分為主講和答疑兩部分,主講以視頻直播形式,答疑以語音或文字形式進行。
加入討論群,除了可以免費收看直播之外,還能認識講師,與更多同行和同學一起學習,并進行深度討論。
掃碼添(tian)加小助手曼(man)曼(man)(ID:zhidxclass006)即可申請,備注“姓(xing)名(ming)-公司(si)/學校/單位-職位/專業(ye)”的朋友將會優先(xian)審核通過哦~