
智東西(公眾號:zhidxcom)
作者 | ZeR0
編輯 | 漠影
智東西(xi)5月21日報道(dao),阿里云今日宣(xuan)布,通義千問GPT-4級(ji)主(zhu)力模型Qwen-Long的(de)API輸入價格從0.02元/千tokens降至0.0005元/千tokens,直降97%。
這意味著1塊錢可(ke)以買200萬tokens,相當于5本《新(xin)華字典》的文字量。
Qwen-Long是通義(yi)千(qian)問的(de)長文(wen)本增強(qiang)版模型,性能對(dui)標GPT-4,最高支持1000萬tokens長文(wen)本輸入,降價后約(yue)為GPT-4價格的(de)1/400,擊穿全球底價。
除了輸入價(jia)格降至(zhi)0.0005元/千tokens,Qwen-Long輸出價(jia)格也直降90%至(zhi)0.002元/千tokens。
相比之(zhi)下,國內外廠商(shang)GPT-4、Gemini1.5 Pro、Claude 3 Sonnet及Ernie-4.0每千tokens輸(shu)入價格(ge)分別為0.22元、0.025元、0.022元及0.12元,均遠高于Qwen-Long。
通(tong)義千(qian)(qian)問(wen)本次(ci)降價(jia)共覆蓋(gai)9款商業化及(ji)開源系列模(mo)型(xing)。不久前發布的通(tong)義千(qian)(qian)問(wen)旗艦款大模(mo)型(xing)Qwen-Max,API輸入價(jia)格降至(zhi)0.04元/千(qian)(qian)tokens,降幅(fu)達67%。
Qwen-Max是業界表(biao)現最(zui)好的中(zhong)文大模型之一(yi),在(zai)權威(wei)基準OpenCompass上性能追平GPT-4-Turbo,并在(zai)大模型競技(ji)場(chang)Chatbot Arena中(zhong)躋身全球前15。
不(bu)久前,OpenAI的Sam Altman轉(zhuan)發了(le)Chatbot Arena榜單(dan)來印證GPT-4o的能力(li),其(qi)中(zhong)全球排名前20的模(mo)型中(zhong),僅有(you)的3款中(zhong)國模(mo)型都是通義千問出品。
在武漢AI智領者峰(feng)會現場,阿(a)里(li)云智能(neng)集(ji)團資深副總裁、公共云事業部總裁劉(liu)偉光(guang)表示:“作為中(zhong)國第一(yi)大(da)云計(ji)算公司(si),阿(a)里(li)云這次大(da)幅(fu)降(jiang)低大(da)模型推理價格,就是希望加(jia)速AI應(ying)用(yong)的(de)爆發。我(wo)們預計(ji)未來大(da)模型API的(de)調用(yong)量會有成千上萬倍的(de)增長。”
劉偉光認為,不管是開源模型還是商業化模型,公共云+API將成為企業使用大模型的主流方式,主要有三點原因:
一是公共云的技術紅利和規模效應,帶來巨大的成本和性能優勢。阿里云可(ke)以從模型(xing)自(zi)身和AI基礎設施兩個層面不斷優化,追求極致的(de)推(tui)(tui)(tui)理(li)成(cheng)本和性能。阿里云基于自(zi)研(yan)的(de)異構(gou)芯片互聯、高(gao)性能網絡HPN7.0、高(gao)性能存儲(chu)CPFS、AI平臺PAI等核心技術和產(chan)品(pin),構(gou)建(jian)了(le)極致彈性的(de)AI算力(li)調度系(xi)統,結合百煉分布式推(tui)(tui)(tui)理(li)加(jia)速引擎,大幅壓縮了(le)模型(xing)推(tui)(tui)(tui)理(li)成(cheng)本,并加(jia)快模型(xing)推(tui)(tui)(tui)理(li)速度。
即便是同樣的開源模型,在公共云上的調用價格也遠遠低于私有化部署。以使用Qwen-72B開源模型、每月1億tokens用量為例,在阿里云百煉上直接調用API每月僅需600元,私有化部署的成本平均每月超1萬元。
二是云上更方便進行多模型調用,并提供企業級的數據安全保障。阿里云可(ke)以(yi)為每個(ge)企業提供專屬(shu)VPC環境,做到(dao)計算隔離、存儲隔離、網絡(luo)隔離、數據加密,充分保障數據安全。目(mu)前,阿里云已主導或(huo)深度(du)參與10多項(xiang)大模型安全相關(guan)國(guo)際國(guo)內技術標準的(de)制定。
三是云廠商天然的開放性,能為開發者提供最豐富的模型和工具鏈。阿里云(yun)百煉平臺上匯(hui)聚通義、百川、ChatGLM、Llama系列(lie)等上百款國內(nei)外優質模(mo)(mo)型(xing),內(nei)置大(da)模(mo)(mo)型(xing)定制與應用開(kai)發(fa)工具鏈,開(kai)發(fa)者(zhe)可便捷(jie)測試比較不(bu)同(tong)模(mo)(mo)型(xing),開(kai)發(fa)專屬大(da)模(mo)(mo)型(xing),并輕(qing)松搭(da)建RAG等應用,從選模(mo)(mo)型(xing)、調模(mo)(mo)型(xing)、搭(da)應用到對外服務,一站(zhan)式搞(gao)定。