
智東西(公眾號:zhidxcom)
作者 | ZeR0
編輯 | 漠影
智東西5月16日報道,NVIDIA本(ben)周在國際超(chao)算大會ISC 2024上公(gong)布了(le)多項科(ke)學計(ji)算、量(liang)子計(ji)算相關進展(zhan),包括(kuo)科(ke)研人員(yuan)利(li)用NVIDIA技術(shu)將生(sheng)成式AI應用于(yu)代碼生(sheng)成、天(tian)氣預(yu)報、遺傳學和材料(liao)科(ke)學領域的(de)高性能計(ji)算(HPC)工作,以(yi)及通過開源(yuan)的(de)NVIDIA CUDA-Q量(liang)子計(ji)算平臺助(zhu)力國家級超(chao)算中心加(jia)快(kuai)量(liang)子計(ji)算的(de)研究發展(zhan)。
加速計算和AI能夠降低能源成本。據介紹,相較于基于傳統CPU的系統和其他系統,天氣模擬的成本和能耗分別降至其1/200和1/300,數字孿生模擬的成本和能耗則分別降至其1/65和1/58。?
全(quan)球9臺(tai)新(xin)型超級(ji)(ji)計算(suan)機正在(zai)通(tong)過使用(yong)NVIDIA Grace Hopper超級(ji)(ji)芯片加快科(ke)學研究(jiu),這些系統(tong)可提供200EFLOPS的(de)高能(neng)效AI處理能(neng)力。在(zai)Green500榜單(dan)上,排名前(qian)50的(de)超級(ji)(ji)計算(suan)機中(zhong),有39臺(tai)都使用(yong)了(le)NVIDIA GPU。
例如,在(zai)(zai)科學應用方面,美國國家能源(yuan)研究(jiu)科學計(ji)算(suan)中心(xin)的(de)Perlmutter超級計(ji)算(suan)機(ji)利(li)用加(jia)速計(ji)算(suan)將能效(xiao)平均提高了5倍。布(bu)里斯托大學高性能計(ji)算(suan)教授Simon McIntosh-Smith談道(dao):“通過與NVIDIA合作,我們(men)在(zai)(zai)破(po)紀錄的(de)時間內完(wan)成了項目(mu)的(de)第一(yi)階段。等到(dao)今年夏(xia)天整個項目(mu)完(wan)工(gong)后,其性能將得到(dao)大幅提升,能夠(gou)進一(yi)步推動數據(ju)分析、新藥研發、氣候(hou)研究(jiu)等領(ling)域(yu)的(de)發展。”
一、生成式AI落地科學計算,加速代碼生成、天氣預報、新藥研發
許(xu)多國家實(shi)驗室和企(qi)業實(shi)驗室正在使(shi)用生成式AI加速商業和科(ke)學領域的HPC發展(zhan),用于代碼生成、天氣(qi)預測、生成基因、新(xin)藥研發、新(xin)型材料開(kai)發等。
在代碼生成方面,桑迪亞國(guo)家實(shi)驗室正在構(gou)建一(yi)個(ge)大語言模型智(zhi)能助手(shou)Kokkos,用來自動(dong)生成并(bing)行(xing)計(ji)算代碼(ma)。這個(ge)專門的編程語言由多個(ge)國(guo)家實(shi)驗室的研究人員開發(fa),可處理(li)在超級計(ji)算機的數萬(wan)個(ge)處理(li)器上運行(xing)任務時出現的細微差別。
桑迪亞實驗室正利(li)用(yong)(yong)(yong)檢(jian)索增強生成(cheng)(RAG)技術創建Kokkos數據庫,將(jiang)其與AI模型集成(cheng)。其采用(yong)(yong)(yong)的不(bu)同RAG方法已經自主生成(cheng)了用(yong)(yong)(yong)于并行計算(suan)應用(yong)(yong)(yong)的Kokkos代(dai)碼(ma),將(jiang)要評估的RAG選項包括NeMo Retriever等云服務。
在天氣預測方面,一些天(tian)氣預報領域的研究(jiu)人員和企(qi)業采用了NVIDIA Earth-2的生(sheng)成式(shi)AI模型(xing)CorrDiff。CorrDiff可以(yi)(yi)將傳(chuan)統大(da)氣模型(xing)的25公里(li)分辨(bian)率降至2公里(li),并將可合并的預報數量擴(kuo)大(da)100倍以(yi)(yi)上,從而提高預測的可信度。
Spire公司通(tong)過自己的(de)(de)(de)(de)微(wei)型衛星網絡采集數(shu)據,其機器學習(xi)和(he)建模負責人Tom Gowan在近期(qi)的(de)(de)(de)(de)一次(ci)采訪(fang)中談(tan)道,生(sheng)成式(shi)AI可以(yi)實現更加快速、準確的(de)(de)(de)(de)預(yu)測,這是(shi)氣象學領域的(de)(de)(de)(de)一次(ci)巨大飛躍。
瑞士Meteomatics公司近日也宣布計劃將NVIDIA生(sheng)成式AI平臺用于天氣預報業(ye)務,以幫助能源公司實現最(zui)大限度的(de)可再(zai)生(sheng)能源利(li)用,并通過快速、準確的(de)天氣波動洞察提高(gao)盈利(li)能力。
在醫學研究方面,阿貢國家實驗室的(de)(de)科學(xue)家正在生(sheng)成式AI技術生(sheng)成基因序列,以(yi)便更好地(di)了解COVID-19背后的(de)(de)病毒。他們一(yi)項獲(huo)獎的(de)(de)模(mo)型GenSLMs所生(sheng)成的(de)(de)模(mo)擬(ni)結果(guo)與現實世(shi)界中的(de)(de)SARS-CoV-2變體非常相似(si)。GenSLMs使用超(chao)過(guo)1.1億個基因組序列,在多(duo)臺搭載NVIDIA Tensor Core GPU的(de)(de)超(chao)級計算機上訓練而(er)成。
在材料科學方面,微(wei)軟研(yan)究院在(zai)Azure AI基礎架構上(shang)使用NVIDIA Tensor Core GPU上(shang)訓練出MatterGen模(mo)(mo)型(xing)。這款模(mo)(mo)型(xing)可生成(cheng)具有所需特性(xing)的新(xin)型(xing)穩定材料,并能(neng)夠指(zhi)定想(xiang)要(yao)開發材料的化學、磁性(xing)、電子(zi)、機械等(deng)特性(xing)。Carbon3D等(deng)公司(si)也在(zai)探(tan)索將(jiang)生成(cheng)式(shi)AI應用于商業3D打印中的材料科學研(yan)究。
NVIDIA Quantum-X800 InfiniBand網絡平臺,包含NVIDIA Quantum Q3400和(he)Q3200交換機,以及NVIDIA ConnectX-8 SuperNIC,二者組合在帶寬上(shang)可達(da)上(shang)一代(dai)產(chan)品的2倍,可為科(ke)學計算(suan)基礎設施(shi)提供(gong)最高吞(tun)吐(tu)量。
Q3400平臺的(de)(de)帶(dai)寬容量提(ti)高了(le)(le)5倍(bei),并且借助NVIDIA的(de)(de)SHARPv4(可擴展分層聚合和(he)歸約(yue)協(xie)議)技術實現了(le)(le)14.4TFLOPS的(de)(de)網絡計算能(neng)力,較上一代(dai)產(chan)品(pin)提(ti)高了(le)(le)9倍(bei)。
二、CUDA-Q與QPU雙劍合璧,推動量子計算研究與應用
量子(zi)計(ji)算(suan)為聚變能、氣候研(yan)究(jiu)、新藥研(yan)發等(deng)領域(yu)帶來(lai)了大幅加速。因此研(yan)究(jiu)人員正努力在基于NVIDIA GPU的(de)系統和軟件(jian)上模擬(ni)未(wei)來(lai)的(de)量子(zi)計(ji)算(suan)機。
德國(guo)、日本(ben)、波(bo)蘭的(de)超算(suan)中心將(jiang)使用(yong)NVIDIA CUDA-Q量(liang)(liang)子計算(suan)平(ping)臺,來支持其(qi)由NVIDIA加速的(de)高性(xing)能計算(suan)系統中的(de)量(liang)(liang)子處理器(QPU)。
QPU是(shi)量子(zi)計(ji)算(suan)(suan)機(ji)的(de)大腦,通(tong)過利(li)用電子(zi)或光子(zi)等(deng)粒(li)子(zi)行(xing)為(wei)進行(xing)計(ji)算(suan)(suan),計(ji)算(suan)(suan)方式(shi)與(yu)傳統處理器不(bu)同(tong),可能使某些(xie)類(lei)型的(de)計(ji)算(suan)(suan)速度更快。
NVIDIA CUDA-Q平(ping)臺是一個(ge)開源的QPU無關的量子(zi)-經典加速超算(suan)平(ping)臺,通過一個(ge)實(shi)(shi)現CPU、GPU、QPU協(xie)同工作的統一編(bian)程模型(xing),實(shi)(shi)現量子(zi)計(ji)算(suan)機模擬和(he)混(hun)合(he)應用開發。
通過將量子計(ji)算(suan)(suan)機與超級(ji)計(ji)算(suan)(suan)機緊密集(ji)成,CUDA-Q還能夠(gou)將AI與量子計(ji)算(suan)(suan)結(jie)合(he),以(yi)解決有噪聲的(de)量子比(bi)特等問題,并開發高效的(de)算(suan)(suan)法。
德(de)國(guo)于(yu)利希研究中心(xin)的(de)(de)(de)于(yu)利希超(chao)(chao)算(suan)中心(xin)(JSC)正在安(an)裝1顆由IQM Quantum Computers公(gong)司制(zhi)造的(de)(de)(de)QPU,以支持JUPITER超(chao)(chao)級計(ji)(ji)算(suan)機。該QPU是使(shi)用超(chao)(chao)導(dao)量(liang)(liang)子(zi)比特或電子(zi)諧振電路制(zhi)造的(de)(de)(de),在低溫下的(de)(de)(de)行為像(xiang)人(ren)造原子(zi),使(shi)JSC研究人(ren)員能開發針(zhen)對(dui)化(hua)學模擬和優(you)化(hua)問題的(de)(de)(de)量(liang)(liang)子(zi)應用,并展示量(liang)(liang)子(zi)計(ji)(ji)算(suan)機如何(he)加(jia)速經(jing)典超(chao)(chao)級計(ji)(ji)算(suan)機。
日(ri)本產業技術綜合研(yan)究(jiu)所(suo)(AIST)采用了NVIDIA Hopper架構的ABCI-Q超級(ji)計算機也將(jiang)增加(jia)1顆來自QuEra的QPU。這(zhe)顆QPU將(jiang)使AIST的研(yan)究(jiu)人員能利用激光控制的銣原子(zi)作為(wei)量子(zi)比特進行計算,用以研(yan)究(jiu)AI、能源和生物學領(ling)域的量子(zi)應用。這(zhe)些原子(zi)與(yu)精密原子(zi)鐘中使用的原子(zi)類型相同。每個原子(zi)都完全相同,為(wei)實現大規模(mo)高保真量子(zi)處理器提供了一種很有前景的方法。
波蘭波茲南超級計算與網絡(luo)中心(PSNC)近期(qi)安裝了2顆(ke)由ORCA Computing公司制造(zao)的光(guang)(guang)子(zi)QPU。PSNC的QPU將(jiang)使研究人員能夠使用(yong)兩個PT-1量子(zi)光(guang)(guang)子(zi)系(xi)統(tong)來探索生物學(xue)、化學(xue)和機(ji)器學(xue)習。這兩個系(xi)統(tong)使用(yong)電(dian)信頻(pin)率下的單(dan)個光(guang)(guang)子(zi)或光(guang)(guang)包(bao)用(yong)作量子(zi)比特,由此(ci)可(ke)使用(yong)標準的現成電(dian)信組(zu)件實(shi)現分(fen)布式、可(ke)擴展和模塊化的量子(zi)架構。
結語:算力基礎設施進化,助攻科學計算與量子計算研究效率提升
生成(cheng)式AI時代產生了暴漲的算(suan)力需(xu)求(qiu),要求(qiu)算(suan)力基礎(chu)設施進一步(bu)升(sheng)級(ji),以提升(sheng)超級(ji)計算(suan)和數據(ju)中心的性能和能效,從而使科(ke)學計算(suan)的工(gong)作(zuo)負載完成(cheng)時間與能耗顯著減少。
生成式AI、量子計(ji)算等技術進步正(zheng)推動基(ji)于物理模(mo)擬的科學計(ji)算發(fa)展(zhan),加(jia)速氣候(hou)變化研(yan)(yan)(yan)究、聚變能(neng)源、新藥(yao)研(yan)(yan)(yan)發(fa)等突(tu)破性科學計(ji)算研(yan)(yan)(yan)究。NVIDIA提供的豐(feng)富工具和(he)先進技術,正(zheng)在幫助這些領域的先行者(zhe)們大大加(jia)快工作速度,突(tu)破研(yan)(yan)(yan)究邊界。