
隨著(zhu)大(da)模(mo)型訓(xun)練與推理需求(qiu)的爆發式(shi)增長(chang),AI算(suan)力已成(cheng)為(wei)支撐大(da)模(mo)型時(shi)代的核心基礎設施。
然而,在算(suan)力規模快(kuai)速(su)(su)擴張(zhang)的同時,“存算(suan)力失衡”這(zhe)一結構性矛(mao)盾日益(yi)凸顯(xian)。算(suan)力芯片不斷(duan)迭代,性能持(chi)續提升,但數據存儲(chu)、訪問與(yu)傳輸的速(su)(su)度卻難以(yi)與(yu)之有效匹配(pei),導(dao)致寶貴(gui)的算(suan)力資(zi)源難以(yi)充分利用,已成為阻礙AI創新和應用落地(di)的關鍵瓶(ping)頸。
以AI Rack和(he)超節點為(wei)代表的(de)高密度算(suan)(suan)力基(ji)礎設施,通過系統級(ji)架構創新,實現了(le)計(ji)算(suan)(suan)、存儲與高速互(hu)聯(lian)網(wang)絡的(de)高度整合(he)與協同優(you)化,被視(shi)為(wei)解(jie)決存算(suan)(suan)運力失衡、提升(sheng)算(suan)(suan)力效(xiao)率的(de)關鍵路徑。
8月20日19點,綠算技術聯合創始人、首席科學家孟坤博士將以《存算運力失衡下,高密度算力的底座構建》為主(zhu)題,在智猩猩公開(kai)課以視(shi)頻(pin)直播形式進行超節(jie)點(dian)與智算集群系列(lie)第9期的(de)講解(jie)。
本次公開(kai)課中(zhong),孟坤博士將(jiang)(jiang)首先介紹國內外算(suan)力的(de)發展(zhan)現(xian)狀,剖析存(cun)算(suan)運(yun)力失衡問(wen)(wen)題(ti),并展(zhan)望未(wei)來(lai)算(suan)力發展(zhan)趨(qu)勢。隨后(hou),他將(jiang)(jiang)從多資源協同(tong)、集(ji)中(zhong)調度(du)調配、軟硬(ying)件層(ceng)資源優化等多個維度(du),給出解決算(suan)力問(wen)(wen)題(ti)的(de)建議。最(zui)后(hou),孟博士將(jiang)(jiang)系統講解高密(mi)度(du)算(suan)力底座(zuo)的(de)構(gou)(gou)建思路,涵蓋算(suan)力結(jie)構(gou)(gou)、硬(ying)件層(ceng)構(gou)(gou)成、GPU互(hu)聯、網絡互(hu)聯、存(cun)力與算(suan)力的(de)有(you)效匹(pi)配以及軟件層(ceng)優化等核心要(yao)素,并深入分析算(suan)力集(ji)約化、模(mo)塊化、模(mo)組(zu)化設計(ji)帶來(lai)的(de)價值。
公開課內容
主題:存算運力失衡下,高密度算力的底座構建
提綱:
1、國內外算力現狀及存算運力失衡問題
2、國內外算力的未來發展方向
3、解決算力問題的五個建議
4、高密度算力的底座構建
5、算力集約化(hua)、模(mo)塊化(hua)、模(mo)組化(hua)的價值
主講人
孟坤博士(shi),綠(lv)算(suan)技術聯合創始人(ren)、首席(xi)科學家(jia),北京(jing)信(xin)息科技大學副(fu)教授,電子數據司法鑒(jian)定(ding)人(ren),國家(jia)網信(xin)辦(ban)項目評審(shen)專家(jia);主(zhu)持研(yan)發超100Gb NVMe-OF高(gao)性能全(quan)閃(shan)存儲設(she)備,已在超算(suan)、AI計(ji)算(suan)及全(quan)流量線速分析等(deng)場景成功應用;主(zhu)持研(yan)發物理特性(PUF)驅(qu)動(dong)去中心身份(fen)標識與認證機(ji)制,應用于數據全(quan)生命(ming)周(zhou)期安全(quan)保障。
直播時間
8月(yue)20日19:00