芯東西（公眾號：aichip001）
編輯 | 韋世瑋
GTIC 2020全(quan)球AI芯片(pian)創新(xin)峰(feng)(feng)會(hui)剛(gang)剛(gang)在(zai)北京圓滿收(shou)官(guan)！在(zai)這場全(quan)天座無虛席、全(quan)網(wang)直播觀看人數逾150萬次的高規(gui)格AI芯片(pian)產(chan)業峰(feng)(feng)會(hui)上，19位產(chan)學(xue)界(jie)重磅嘉賓從不同維(wei)度分享了對(dui)中國AI芯片(pian)自(zi)主創新(xin)和應(ying)用落地的觀察與預判(pan)。
在峰(feng)會上(shang)午場，億(yi)智電子聯合創始人兼(jian)COO吳浪，發(fa)表了題為《拆解端(duan)側視覺AI芯片的落地難點與機遇》的演講。
▲億(yi)智電(dian)子聯(lian)合創始人兼COO吳浪
億智電子(zi)成立于2016年，作為(wei)端(duan)側視(shi)覺(jue)AI SoC芯片領(ling)域的新銳玩家，主要圍(wei)繞在視(shi)覺(jue)安防、汽車電子(zi)、智能硬(ying)件領(ling)域賦能AI 產品，并先(xian)后(hou)獲(huo)得了北(bei)極光，英(ying)特爾(er)資本(ben)和中建投(tou)等戰(zhan)略投(tou)資，實(shi)現AI系統級芯片量產。
在(zai)GTIC峰(feng)會上，吳浪向大家分享了億智電子在(zai)端側視覺(jue)AI芯片的(de)研發思路，同時就端側AI芯片的(de)產業賦(fu)能，以(yi)(yi)及(ji)在(zai)落(luo)地(di)進(jin)程中面臨的(de)挑戰與機遇進(jin)行了深(shen)入探(tan)討。 吳浪談(tan)到，目前億智電子已有超百萬顆芯片量產落(luo)地(di)，落(luo)地(di)的(de)場景也(ye)以(yi)(yi)人臉設備為主(zhu)，這也(ye)是(shi)當下AI落(luo)地(di)的(de)主(zhu)要場景。
但隨著(zhu)行業的(de)AI需求逐漸爆發，AI芯片(pian)也面(mian)臨著(zhu)人才稀缺(que)、應(ying)用碎片(pian)化(hua)(hua)、數據量大、缺(que)少(shao)統一(yi)的(de)軟硬(ying)件平臺等規模化(hua)(hua)落(luo)地的(de)難點。
以下為吳浪演講實錄整理：
一、專注三大研發方向，超百萬顆芯片量產落地
在(zai)吳浪看來，從2016年AlphaGo事件之后，人們對基于深度學習(xi)的人工智能算法及應用的關注重新回到(dao)新高潮，熱切關注人工智能從技術、產品到(dao)資本等方(fang)方(fang)面面。
在這一浪潮下成立的億智電子，是一家以AI機器視覺算法及AI SoC芯片設計為核心的系統級方案供應商，志(zhi)在賦予億萬(wan)設備智能化。
自成立以來，億智電子一直堅持AI加速、高清顯示、視頻編解碼、高速數模混合等方向的自研，圍繞視像安防、汽車電子、智能硬件三個方向賦能產業。
2019年(nian)7月，億智電子首顆基(ji)于(yu)自研(yan)神經網絡(luo)處理單元（NPU）的(de)AI SoC正式(shi)量(liang)產(chan)，緊(jin)接著在同年(nian)10月，進入客戶正式(shi)大(da)規模市(shi)場化量(liang)產(chan)階段。雖然受今(jin)年(nian)上半年(nian)疫情(qing)影(ying)響，如(ru)今(jin)億智電子仍已有超過百萬顆芯片量(liang)產(chan)落地。
目前(qian)，億智電(dian)子在北京(jing)、上(shang)海、深圳(zhen)和珠(zhu)海均(jun)設有辦公地(di)點(dian)。其中，珠(zhu)海總部是芯(xin)片設計和軟件研(yan)(yan)發(fa)中心(xin)，深圳(zhen)為行(xing)銷(xiao)(xiao)中心(xin)，上(shang)海為行(xing)銷(xiao)(xiao)及研(yan)(yan)發(fa)中心(xin)，北京(jing)為算法研(yan)(yan)究中心(xin)。
二、AI發展的三個階段，當下AI落地以人臉設備為主
吳(wu)浪談到，人工智(zhi)能并不是一(yi)項新的(de)技術，從50年代提出(chu)以來，伴(ban)隨著算法的(de)研究與發展，至(zhi)今經(jing)歷了(le)3個重要的(de)歷程(cheng)。
一是1950年，業(ye)界提出能夠模(mo)擬(ni)人(ren)(ren)(ren)(ren)的(de)思(si)維(wei)(wei)的(de)泛人(ren)(ren)(ren)(ren)工(gong)智(zhi)能；二是80年代基(ji)于機器(qi)學習——特別是以模(mo)式(shi)識(shi)別算法的(de)興起(qi)，逐漸有了語音、指紋識(shi)別、靜態人(ren)(ren)(ren)(ren)臉(lian)識(shi)別等行業(ye)應用；三是2010年以后，基(ji)于深度學習的(de)AI算法能夠更(geng)好模(mo)擬(ni)人(ren)(ren)(ren)(ren)腦的(de)思(si)維(wei)(wei)，這也(ye)是目前最(zui)接近人(ren)(ren)(ren)(ren)腦思(si)維(wei)(wei)的(de)算法，讓業(ye)界對(dui)AI的(de)關注(zhu)達到新高(gao)度。
從產品應用場景來看(kan)(kan)，早期的視(shi)(shi)覺產品實(shi)現(xian)了“讓設(she)備能(neng)(neng)夠看(kan)(kan)得(de)見(jian)”。從2000年(nian)手機拍照模糊，到(dao)今天(tian)的2K、4K、8K視(shi)(shi)頻技術，未來AI技術讓設(she)備從“看(kan)(kan)得(de)見(jian)”到(dao)“看(kan)(kan)得(de)更清晰”，再(zai)到(dao)“看(kan)(kan)得(de)懂”，還能(neng)(neng)實(shi)現(xian)機器和(he)人、機器和(he)機器之間的交(jiao)互。
吳浪認為，當下行業落地的AI產品主要以人臉設備為主。
2001年開(kai)(kai)始，人臉(lian)設備(bei)開(kai)(kai)始用于(yu)公安部的刑事(shi)偵查，早期(qi)的人臉(lian)設備(bei)主要依(yi)靠(kao)后臺(tai)的云端服務器來提供算力。
2016年起，基于(yu)安卓芯(xin)(xin)片的算(suan)(suan)(suan)力發展讓(rang)人臉(lian)設備(bei)實現了(le)(le)大規模應用(yong)，安卓芯(xin)(xin)片CPU為應用(yong)提供(gong)了(le)(le)算(suan)(suan)(suan)力，包(bao)括引入(ru)深度學習算(suan)(suan)(suan)法(fa)。但這時，行業(ye)也(ye)碰(peng)到(dao)了(le)(le)很多算(suan)(suan)(suan)力限制，設備(bei)除了(le)(le)做人臉(lian)識別外還有更廣泛(fan)的應用(yong)場景，這些都對(dui)芯(xin)(xin)片算(suan)(suan)(suan)力提出了(le)(le)更高要求。
2019年以后，專(zhuan)門基(ji)于AI的(de)SoC開始(shi)大規模商用(yong)，芯片(pian)的(de)發展(zhan)與產品的(de)需求(qiu)形(xing)成了(le)互相拉動的(de)關系。
三、三大領域的AI芯片落地趨勢，行業的AI需求正在爆發
吳浪提到，現階段在人臉方面的安防應用落地都較為相似，例如產品形(xing)態大小多為(wei)7-11寸的面板機，但每(mei)個具體應用中的實際算法卻大不(bu)相同。
例(li)如在(zai)工地(di)中(zhong)，除了(le)需(xu)要人臉識(shi)別(bie)外，還需(xu)要安全(quan)帽識(shi)別(bie)，同時由于(yu)工地(di)環境原因，人臉容易沾染灰塵或者(zhe)其它物質，這(zhe)個場(chang)景下(xia)又(you)需(xu)要基于(yu)人臉有(you)污(wu)漬(zi)情況下(xia)的識(shi)別(bie)。
在疫情影響下，辦公樓(lou)宇(yu)除(chu)了人臉(lian)(lian)識別(bie)，還(huan)需要(yao)活體(ti)、口罩、測溫的識別(bie)需求(qiu)。其中(zhong)，億(yi)智電子有一個客戶將人臉(lian)(lian)識別(bie)應用在酒店考(kao)勤(qin)中(zhong)，除(chu)了識別(bie)人臉(lian)(lian)外，還(huan)需要(yao)識別(bie)員工的笑臉(lian)(lian)，以(yi)評測員工的表情是否合格。也就(jiu)是說，依賴人臉(lian)(lian)識別(bie)擴展(zhan)出來(lai)的許(xu)多人臉(lian)(lian)周邊(bian)的識別(bie)場景正在慢慢深入(ru)應用。
在汽(qi)車(che)電(dian)子領域(yu)，2015年(nian)至2016年(nian)，許多國家(jia)及地區對汽(qi)車(che)安全提出較高需求。2018年(nian)，我(wo)國將ADAS（高級駕(jia)駛(shi)輔助(zhu)系(xi)(xi)統(tong)）納入安全法規(gui)，并(bing)在2019年(nian)對AEB（自(zi)動緊(jin)急制動系(xi)(xi)統(tong)）及商用車(che)的(de)部分場景(jing)提出了強裝試用的(de)要求。
現(xian)階段，該領域主(zhu)要(yao)以賦能輔助駕(jia)駛(shi)(shi)為主(zhu)，包括(kuo)疲勞(lao)檢測、駕(jia)駛(shi)(shi)員行為等相關服務。未來(lai)，行業除了(le)對(dui)(dui)汽車本身(shen)的安全性(xing)提(ti)出更高要(yao)求外，也(ye)會(hui)對(dui)(dui)汽車電子(zi)化發展(zhan)提(ti)出越(yue)來(lai)越(yue)多的AI需求。
在智能(neng)硬件(jian)領域，吳浪認為，當下越(yue)來(lai)越(yue)多(duo)好玩又實用(yong)的智能(neng)化產品正(zheng)在逐步落地，例如高(gao)爾(er)夫追蹤相機(ji)、室(shi)內番(fan)茄基地監控等。
在這一(yi)領(ling)域，億智電子基于自身的(de)SV806芯片開(kai)發了一(yi)個(ge)云(yun)臺商用方案，其(qi)真實大小比(bi)硬幣的(de)面積還要小。
在智能(neng)交(jiao)(jiao)互(hu)方面(mian)，人類信(xin)息化經(jing)歷了(le)PC時代、移(yi)動互(hu)聯(lian)網(wang)時代，接(jie)下來進(jin)入(ru)物聯(lian)網(wang)時代，每(mei)一次(ci)發展(zhan)都給交(jiao)(jiao)互(hu)帶來很大的改善(shan)或提升。
例如，人們(men)在PC時代(dai)(dai)的交互(hu)多采用(yong)鍵盤和(he)鼠(shu)標(biao)，移動互(hu)聯(lian)網時代(dai)(dai)則(ze)使用(yong)觸(chu)摸+指紋，隨著5G物聯(lian)網時代(dai)(dai)的到(dao)來，如今(jin)有(you)越來越多基于AI手(shou)(shou)勢(shi)的交互(hu)場景在落地。同時，智(zhi)(zhi)能音箱、智(zhi)(zhi)能機器人也實現了手(shou)(shou)勢(shi)交互(hu)的應用(yong)。
吳(wu)浪舉例了(le)比(bi)較典(dian)型的AI賦能智慧校(xiao)(xiao)園場景。從(cong)校(xiao)(xiao)車(che)考勤到校(xiao)(xiao)門人臉考勤，再到教室(shi)考勤、食堂(tang)刷(shua)臉支付、宿(su)舍門禁等，針(zhen)對學生(sheng)在(zai)學校(xiao)(xiao)中的各種(zhong)活動，都可以通(tong)過利用5G和AI進行落地。
不僅如此，隨著(zhu)AI賦能各種行業(ye)、各種場(chang)(chang)景，AI在to G、to B、to C非(fei)常多的場(chang)(chang)景都能實實在在地落(luo)地。
但吳浪認為，目前大部分AI產品都用于改善傳統工作流程，提高工作效率，減少標準化重復的一些體力或腦力勞動。
例(li)如，基(ji)于安防的(de)人臉(lian)識別，早期需要人工(gong)把所有視頻(pin)中的(de)各種(zhong)人臉(lian)進行比對，通過行為分析去做抓取，今天則通過AI來大大提升(sheng)這些(xie)工(gong)作(zuo)效(xiao)率。
與此同時，以前AI創業公司常常需要教育客戶，告訴客戶AI技術能做什么產品，能幫助客戶改善什么體驗，但現在這個方式已開始發生變化，客戶已開始主動提出越來越多的AI產品需求，意味著行業的AI需求正在慢慢爆發。
四、AI芯片規模化落地的四大難點，端側發展潛力巨大
吳浪(lang)談到，如今(jin)億智電子落地(di)的芯片(pian)產品(pin)已達百萬，但在落地(di)過程(cheng)中也遇到了AI難(nan)(nan)落地(di)、難(nan)(nan)大規模落地(di)等難(nan)(nan)點。
吳浪總結了四個AI芯片規模化落地的難點：
一是人才稀缺。今天大部分(fen)人(ren)(ren)(ren)才(cai)(cai)還是(shi)基于早(zao)期做圖像、智能算法(fa)(fa)的人(ren)(ren)(ren)，沒有專門基于深度學習的教育人(ren)(ren)(ren)才(cai)(cai)，尤其是(shi)基礎(chu)算法(fa)(fa)、應用算法(fa)(fa)和場(chang)景(jing)算法(fa)(fa)的人(ren)(ren)(ren)才(cai)(cai)。
盡管在2019年我國有35所(suo)高(gao)校(xiao)獲批設立(li)人工智能專業，但當下各種場景的算法人才(cai)仍非常缺乏(fa)。
二是應用碎片化。這(zhe)個碎片化不單指場景特別(bie)多(duo)。例如，人臉識別(bie)應用在俯(fu)視(shi)(shi)、平視(shi)(shi)和仰視(shi)(shi)等不同(tong)的(de)角度，都需要重新做數據訓練(lian)和算法(fa)優(you)化。
這(zhe)(zhe)意味著沒有(you)辦法(fa)用一個或者(zhe)幾(ji)個算法(fa)來滿足所有(you)或大部分(fen)規模化(hua)的場景，哪(na)怕是同一類算法(fa)都無法(fa)適配各種(zhong)各樣(yang)的場景，這(zhe)(zhe)也(ye)是端側(ce)AI落地(di)非常(chang)難的原(yuan)因(yin)之一。
三是數據量大。由于數(shu)據量的(de)龐大(da)，如何從(cong)大(da)數(shu)據里找到適(shi)合(he)場景(jing)并適(shi)合(he)算法的(de)數(shu)據，這一獲取難度(du)非常大(da)。
據(ju)(ju)統計(ji)，過去十(shi)年(nian)行業產生的(de)數據(ju)(ju)量(liang)遠超(chao)過去五千(qian)年(nian)的(de)數據(ju)(ju)量(liang)，未來的(de)數據(ju)(ju)化(hua)也將成倍(bei)數增(zeng)長，把握(wo)基于場(chang)景的(de)數據(ju)(ju)，到后期(qi)數據(ju)(ju)就是(shi)生產力(li)。
四是缺少統一的軟硬件平臺。如何將開(kai)發(fa)人員在PC端或服務器上(shang)訓練好的東西(xi)，以最快的速度適配到設備端，這也是AI芯(xin)片在落地過程中需要思考的問題(ti)。
與此同時，統一的平臺除了解決硬件問題，還需要考慮三個問題。
一(yi)是如何讓規模市場的(de)(de)算(suan)法(fa)進行(xing)標準化(hua)的(de)(de)交付(fu)，如果很多場景(jing)沒有做好標準化(hua)，很難實現規模化(hua)的(de)(de)量產；二(er)是如何讓其它算(suan)法(fa)公(gong)司(si)或終端廠商算(suan)法(fa)，能夠快速移(yi)植到自身AI芯片上(shang)，這需要交付(fu)比較好的(de)(de)整套(tao)移(yi)植工(gong)具；三是產品整體(ti)的(de)(de)成本(ben)，根據不同(tong)的(de)(de)應用場景(jing)來定制不同(tong)的(de)(de)基于算(suan)力的(de)(de)芯片。
總的(de)(de)來說，AI芯(xin)片的(de)(de)發展經歷了從早期基于CPU解決方案的(de)(de)AI產品(pin)，到GPU、FPGA、DSP、NPU等不同的(de)(de)算力(li)及技術架構，整個產品(pin)化打(da)磨的(de)(de)過程(cheng)是非常(chang)困難和復雜的(de)(de)。
吳浪談到(dao)，億智電子作為一家自(zi)研NPU的SoC芯(xin)片廠商，有能力(li)將(jiang)算法(fa)和NPU做到(dao)更好(hao)的深度結合，并為客戶(hu)提供產(chan)品(pin)在制(zhi)造(zao)性、可(ke)量產(chan)性、算法(fa)移植、產(chan)品(pin)一致性、穩定(ding)性等方(fang)面(mian)完整解(jie)決方(fang)案。
回看今天的整(zheng)個(ge)AI生態(tai)，從硬件到算(suan)(suan)法，再(zai)從產業到產品形態(tai)，其中的發(fa)(fa)展(zhan)潛力非常巨大。尤其在當下(xia)算(suan)(suan)法和(he)算(suan)(suan)力本身結合(he)仍十分(fen)不足的情況下(xia)，隨(sui)著未來落地場景更加的復(fu)雜(za)和(he)多(duo)樣化，希望更多(duo)小公司或(huo)者創業者能抓住(zhu)這個(ge)機會(hui)快速發(fa)(fa)展(zhan)。
以上是吳浪演講內容的完整整理。除吳浪外，在本屆GTIC 2020 AI芯片創新峰會期間，清華大學微納電子系尹首一教授，比特大陸、地平線、黑芝麻智能、燧原科技、壁仞科技、光子算數、知存科技、豪微科技等芯片創企，全球FPGA領先玩家賽靈思，Imagination、安謀中國等知名IP供應商，全球EDA巨頭Cadence，以及北極光創投、中芯聚源等知名投資機構，分別分享了對AI芯片產業的觀察與思考。如感興趣更多嘉賓演講的核心干貨，歡迎關注芯東西后續推送內容。
