
2024年(nian)已行進尾聲,但對于生(sheng)成(cheng)式(shi)AI而言,這(zhe)又(you)是(shi)波瀾(lan)壯闊的一年(nian)。
Sora掀起視(shi)頻生成(cheng)熱(re)(re)潮,多(duo)模態世界模型的(de)(de)研究熱(re)(re)度漸起。更(geng)具革命性的(de)(de)推(tui)理模型o1悄然出世,帶來的(de)(de)思維(wei)鏈CoT+強化(hua)學習這(zhe)一新范式,正(zheng)推(tui)動(dong)生成(cheng)式AI邁入新的(de)(de)階段。
基座大語言模型不(bu)再持續(xu)狂飆,不(bu)僅價格戰(zhan)、營銷戰(zhan)硝(xiao)煙燃(ran)起,融(rong)資熱度降(jiang)溫,Scaling Law是否撞墻更是在年底引發熱議。不(bu)過行業賦能(neng)持續(xu)進行,包括智能(neng)體在內的應用層(ceng)的興(xing)起仍然備受(shou)期待。同(tong)時,大模型向邊端下沉的趨勢日(ri)趨明顯,AI手機、AI PC等AI硬件(jian)紛紛站上風(feng)口。
GPT-4o的出現(xian),將輕量化(hua)模型(xing)和端側大(da)模型(xing)推(tui)向新高度之余,端側設備的交互革(ge)新也有了前(qian)進方向。不止AI硬件,大(da)模型(xing)驅動下的具(ju)身智(zhi)能(neng)更是熱度空前(qian),人形機器人正(zheng)開啟星(xing)辰大(da)海(hai)。
而(er)作(zuo)為支撐大模型(xing)運行以及生成式(shi)AI應(ying)用開發(fa)的關(guan)鍵,AI Infra也走到了臺(tai)前,從智算集(ji)群到基(ji)礎(chu)軟件,發(fa)展勢頭(tou)強勁,但挑(tiao)戰不(bu)少。
在上述背景下,2024中國生成式AI大會(上海站)「GenAICon 2024」將于12月5-6日在上海中星鉑爾曼大酒店盛大(da)舉辦。中國生成式(shi)AI大(da)會已成功舉辦兩屆(jie),迅速成長為國內(nei)生成式(shi)AI領域最具影響(xiang)力的產業峰會之一。
此次也是中國生成式AI大會首次登陸上海舉辦。大會由智一科技旗下智能產業第一媒體智東西、AI與硬科技知識分享社區智猩猩共同發起主辦。上海市人工智能行業協會為大會的指導單位。
大會上海站以“智能躍進 創造無限”為主(zhu)題,50+位嘉賓將帶(dai)來(lai)致辭、演講、報(bao)告和對話討論(lun),基于前瞻性視(shi)角解(jie)構和把(ba)脈生成式AI的技術產品創新、商業落地解(jie)法、未來(lai)趨(qu)勢(shi)走向與前沿研(yan)究(jiu)焦點。
上海站由“主會場峰會+分會場研討會+展覽區”組(zu)成(cheng)(cheng)。主會場將進行(xing)大模型峰會、AI Infra峰會,分會場將進行(xing)端側生(sheng)成(cheng)(cheng)式AI技(ji)(ji)術(shu)研(yan)討會、AI視頻生(sheng)成(cheng)(cheng)技(ji)(ji)術(shu)研(yan)討會和具身智能技(ji)(ji)術(shu)研(yan)討會。展(zhan)覽區則緊鄰會場門口設置(zhi),14家(jia)企業(ye)將進行(xing)技(ji)(ji)術(shu)產品展(zhan)示。
大(da)會(hui)(hui)主會(hui)(hui)場將(jiang)進行「大(da)模型峰會(hui)(hui)」和「AI Infra峰會(hui)(hui)」。主會(hui)(hui)場邀請(qing)到30+位來自學術(shu)界和工業(ye)界的(de)知名學者、公司創始人及技術(shu)決(jue)策者參加,他們將(jiang)以主題演(yan)講、高端(duan)對話、圓桌討論(lun)等不(bu)同形式(shi),分享在大(da)模型和AI Infra上的(de)技術(shu)突(tu)破、產品創新、應用實踐和前沿探索。
今(jin)天為大家正(zheng)式揭曉(xiao)主會(hui)場(chang)峰會(hui)的完整議程。
一、主會場峰會完整議程
二、大模型峰會演講介紹
大模型峰會將于12月5日進行,將由上海市人工智能行業協會黨支部書記、副秘書長徐琦進行大會致辭,智一科技聯合創始人、CEO龔倫常代表主辦方致辭。復旦大學計算機科學技術學院教授、上海市智能信息處理實驗室副主任張奇將以(yi)《大(da)語言模型的(de)能力(li)邊(bian)界與(yu)發展思考(kao)》為主題,帶來開場報(bao)告。
MiniMax副總裁劉華,銀河通用機器人合伙人、大模型負責人、北京智源人工智能研究院具身智能PI張直政,北京大學(臨港)大模型對齊中心執行主任、北京阿萊門科技有限公司首席執行官徐驊,西湖大學助理教授張馳將圍繞多模態大(da)模型開放平臺、具身智能(neng)、多模態對(dui)齊、通用圖像(xiang)單目深度估計大(da)模型在上午帶來主題演講(jiang)。
同時,大模型峰會上午場將進行高端對話,由智一科技聯合創始人、智車芯產媒矩陣總編輯張國仁主持,華映資本海外合伙人邱諄、BV百度風投執行董事溫永騰、達晨財智晨云子基金合伙人朱翔參與共同探討《大模型時代,資(zi)本市場的新風向》。
在大模型峰會下午場,聯匯科技CEO兼首席科學家趙天成,VAST CTO梁鼎,騰訊優圖實驗室天衍研究中心負責人、專家研究員吳賢,西湖心辰CEO、西湖大學深度學習實驗室成果轉化負責人醒辰,RockAI CTO楊華,趣丸科技副總裁賈朔,螞蟻集團資深算法專家李龍飛,WeMeet 薈神創始人顧學斌,華院計算大模型和知識推理算法負責人蔡華9位(wei)大咖將參與,深入分享他們在3D生成、醫學(xue)、情感、音樂生成、金融、法律等不同領域的大模型探索和(he)應用實踐。
演講嘉賓:復旦大學計算機科學技術學院教授、上海市智能信息處理重點實驗室副主任 張奇
演講主題:《大語言模型的能力邊界與發展思考》
內容概要:2023年大型(xing)語言(yan)(yan)模(mo)型(xing)迎(ying)來了(le)迅(xun)猛(meng)的(de)發(fa)展(zhan),在自然語言(yan)(yan)處(chu)理、智(zhi)能問(wen)答、文本創作等(deng)多個領域展(zhan)現出了(le)前(qian)所未有的(de)能力。這一系列令(ling)人(ren)矚目的(de)成(cheng)果,使得各(ge)界對于(yu)通(tong)用人(ren)工智(zhi)能(AGI)的(de)實(shi)現滿(man)懷憧憬與(yu)(yu)期待,甚(shen)至有不少(shao)樂觀的(de)預測認為,基于(yu)大模(mo)型(xing)構建的(de)通(tong)用人(ren)工智(zhi)能在短時間內便會成(cheng)為觸手(shou)可及的(de)現實(shi)。然而,在這一片樂觀的(de)喧(xuan)囂背后,我們更需冷靜(jing)思考(kao):大語言(yan)(yan)模(mo)型(xing)那令(ling)人(ren)驚嘆的(de)能力究竟源(yuan)自何處(chu)?其(qi)能力的(de)拓展(zhan)是(shi)否存在著(zhu)無法逾越的(de)邊(bian)界?大語言(yan)(yan)模(mo)型(xing)未來又將沿著(zhu)怎樣(yang)的(de)路徑持(chi)續演進與(yu)(yu)發(fa)展(zhan)?本次(ci)介紹就將圍繞上述這些問(wen)題展(zhan)開初步的(de)深入探討,以(yi)期拋磚(zhuan)引玉,讓大家對大語言(yan)(yan)模(mo)型(xing)有更為透(tou)徹(che)與(yu)(yu)清晰的(de)認知。
演講嘉賓:MiniMax副總裁 劉華
演講主題:《多模態大模型開放平臺探索與實踐》
內容概要:多(duo)模態(tai)大(da)模型(xing)正(zheng)在(zai)(zai)重新(xin)定義人工智能的(de)應用邊界。通過整(zheng)合文本、圖像、音頻、視頻等多(duo)種形(xing)(xing)式的(de)數(shu)據,多(duo)模態(tai)大(da)模型(xing)在(zai)(zai)許多(duo)領域展現(xian)了強(qiang)大(da)的(de)理解和生(sheng)成能力。隨著(zhu)模型(xing)能力的(de)不(bu)斷提升,多(duo)模態(tai)大(da)模型(xing)不(bu)僅正(zheng)在(zai)(zai)助(zhu)力形(xing)(xing)成新(xin)質生(sheng)產力,還(huan)在(zai)(zai)多(duo)個行業場景中展現(xian)出巨大(da)的(de)潛力。
此(ci)次演講(jiang)MiniMax將分(fen)享如(ru)何在多模(mo)態大(da)模(mo)型(xing)研發中不(bu)斷創(chuang)新,并實現大(da)模(mo)型(xing)技術的快速落地。通(tong)過不(bu)同的實際案(an)例,MiniMax將向大(da)家(jia)展示如(ru)何利用多模(mo)態大(da)模(mo)型(xing)技術解決不(bu)同行業場景的復雜問題。
演講嘉賓:銀河通用機器人合伙人、大模型負責人,北京智源人工智能研究院具身智能 PI 張直政
演講主題:《具身智能從“專”到“通”之路》
內容概要:機(ji)器(qi)(qi)人從(cong)“專(zhuan)用(yong)(yong)”到(dao)“通(tong)(tong)用(yong)(yong)”的(de)(de)發(fa)展是具身智能的(de)(de)使命(ming),而大(da)模型技術是推動這(zhe)一發(fa)展的(de)(de)關鍵。本(ben)報(bao)告(gao)將(jiang)首先(xian)從(cong)數(shu)據、模型、系統的(de)(de)角度介紹對于具身智能的(de)(de)Scaling Law探索(suo),并介紹這(zhe)一探索(suo)的(de)(de)重大(da)意義。其次,報(bao)告(gao)將(jiang)深入剖析(xi)機(ji)器(qi)(qi)人從(cong)“專(zhuan)用(yong)(yong)抓取”到(dao)“通(tong)(tong)用(yong)(yong)抓取”,從(cong)“通(tong)(tong)用(yong)(yong)抓取”到(dao)“通(tong)(tong)用(yong)(yong)操作”,再到(dao)面(mian)向(xiang)終局(ju)的(de)(de)端到(dao)端具身大(da)模型的(de)(de)科研思(si)路(lu)和最新成果(guo)。最后,報(bao)告(gao)將(jiang)討論這(zhe)一系列前沿探索(suo)在相關產業中(zhong)形成新質(zhi)生產力的(de)(de)諸多機(ji)會和可能性。
高端對話嘉賓:華映資本海外合伙人 邱諄
邱(qiu)諄(zhun),現任(ren)華映資本海外合(he)伙(huo)人,加入(ru)華映前(qian)歷任(ren)德迅、云九、復星、弘毅等雙幣VC合(he)伙(huo)人;硅谷(gu)工作20多(duo)年,歷任(ren)Cisco、Brocade硅谷(gu)總(zong)部技術高(gao)管,騰訊云計算(suan)早期(qi)T4專(zhuan)(zhuan)家架(jia)構師兼(jian)技術總(zong)監;北京大(da)學計算(suan)機本科,美國南加州大(da)學USC人工智能多(duo)Agent博士方(fang)向,機器人世(shi)界杯(bei)RoboCup冠軍隊成(cheng)員,擁有多(duo)項專(zhuan)(zhuan)利(li)和AI頂會論文。
高端對話嘉賓:BV百度風投執行董事 溫永騰
溫永(yong)騰先生(sheng)(sheng)現(xian)負(fu)責(ze)BV百度風投(tou)(tou)人工(gong)智能應用賽道,關注生(sheng)(sheng)成式AI技術及應用的(de)投(tou)(tou)資(zi)機會。他從(cong)事科技領域投(tou)(tou)資(zi)多年,曾主導投(tou)(tou)資(zi)了西(xi)湖心辰、生(sheng)(sheng)數(shu)科技、詩云科技、云舶科技、數(shu)字力場、粒界科技等科技公(gong)司。
高端對話嘉賓:達晨財智晨云子基金合伙人 朱翔
朱翔,達晨財智晨云子基(ji)金合伙人,同濟大學(xue)軟(ruan)件工(gong)程碩士(shi),中(zhong)歐商學(xue)院(yuan)MBA ,主要覆(fu)蓋AI和具(ju)身(shen)智能(neng)方向。
演講嘉賓:北京大學(臨港)大模型對齊中心執行主任、北京阿萊門科技有限公司首席執行官 徐驊
演講主題:《破解大模型安全與實用性矛盾:多模態對齊的探索與實踐》
內容概要:本次演講將(jiang)(jiang)首先(xian)介(jie)紹當前(qian)大(da)模(mo)型(xing)面臨著(zhu)兩難(nan)境地(di),過于(yu)安(an)全可(ke)能(neng)致其無用(yong),而安(an)全性不足(zu)則(ze)可(ke)能(neng)引發隱患,亟需找(zhao)到安(an)全與實(shi)用(yong)的(de)(de)(de)(de)動(dong)態平(ping)衡。之后,將(jiang)(jiang)重點介(jie)紹北大(da)研究團(tuan)隊(dui)探索的(de)(de)(de)(de)對(dui)(dui)齊(qi)(qi)技(ji)術的(de)(de)(de)(de)多樣(yang)化框架(jia)。包括基于(yu)人(ren)類(lei)反(fan)饋的(de)(de)(de)(de)強化學習RLHF;針對(dui)(dui)復雜(za)場(chang)(chang)景的(de)(de)(de)(de)靈活(huo)對(dui)(dui)齊(qi)(qi)工Aligner;多模(mo)態對(dui)(dui)齊(qi)(qi)技(ji)術,實(shi)現語言、圖像、視(shi)頻等(deng)信息的(de)(de)(de)(de)高效融(rong)合(he);以及Inference Time對(dui)(dui)齊(qi)(qi)實(shi)現推理階段實(shi)時調整(zheng)輸(shu)出(chu)。接著(zhu)會分(fen)享多模(mo)態對(dui)(dui)齊(qi)(qi)技(ji)術的(de)(de)(de)(de)實(shi)踐案例,多模(mo)態對(dui)(dui)齊(qi)(qi)目(mu)前(qian)已應用(yong)于(yu)醫(yi)(yi)療(liao)影(ying)像分(fen)析和處方檢查,RLHF+Aligner能(neng)夠(gou)提升法律問(wen)答(da)準確性,多模(mo)態對(dui)(dui)齊(qi)(qi)助力具身智能(neng)領(ling)域的(de)(de)(de)(de)智能(neng)駕駛座艙和機器人(ren)交互。在(zai)未(wei)來,我們致力于(yu)推動(dong)從研究到產業的(de)(de)(de)(de)深度(du)融(rong)合(he),推動(dong)RLHF與Aligner技(ji)術在(zai)更(geng)多領(ling)域的(de)(de)(de)(de)縱深應用(yong),構建面向嚴肅(su)場(chang)(chang)景的(de)(de)(de)(de)高效推理對(dui)(dui)齊(qi)(qi)框架(jia),支持實(shi)時響應和個性化調整(zheng)。使對(dui)(dui)齊(qi)(qi)技(ji)術驅動(dong)生成式AI在(zai)醫(yi)(yi)療(liao)、教育、法律等(deng)領(ling)域的(de)(de)(de)(de)行業變革,促進(jin)生成式AI在(zai)社會中的(de)(de)(de)(de)可(ke)信落地(di)。
演講嘉賓:西湖大學助理教授 張馳
演講主題:《通用圖像單目深度估計大模型》
內容概要:單(dan)(dan)目(mu)(mu)深(shen)度估(gu)(gu)計(ji)(ji)(ji)旨在(zai)從單(dan)(dan)張圖像(xiang)中預測場(chang)(chang)景(jing)(jing)的(de)(de)深(shen)度信息(xi)。與雙目(mu)(mu)深(shen)度估(gu)(gu)計(ji)(ji)(ji)相(xiang)比,單(dan)(dan)目(mu)(mu)深(shen)度估(gu)(gu)計(ji)(ji)(ji)具有(you)更(geng)高的(de)(de)應(ying)用靈活性(xing)(xing),但也面(mian)臨缺乏三維信息(xi)導致的(de)(de)復(fu)雜性(xing)(xing)和不確定性(xing)(xing)問(wen)題。近年來,單(dan)(dan)目(mu)(mu)深(shen)度估(gu)(gu)計(ji)(ji)(ji)在(zai)自動駕駛、機器人(ren)導航和生成(cheng)式人(ren)工(gong)智能(neng)等領(ling)域獲得了(le)(le)廣泛關注。最近的(de)(de)研(yan)究趨勢集(ji)中于全場(chang)(chang)景(jing)(jing)通(tong)用的(de)(de)單(dan)(dan)目(mu)(mu)深(shen)度估(gu)(gu)計(ji)(ji)(ji)大(da)(da)模(mo)(mo)型(xing)(xing)(xing)(xing)的(de)(de)開發。傳統的(de)(de)深(shen)度估(gu)(gu)計(ji)(ji)(ji)模(mo)(mo)型(xing)(xing)(xing)(xing)通(tong)常針對特定場(chang)(chang)景(jing)(jing)進行訓練,難以在(zai)多樣(yang)化的(de)(de)場(chang)(chang)景(jing)(jing)中取得理想(xiang)的(de)(de)性(xing)(xing)能(neng)。而全場(chang)(chang)景(jing)(jing)通(tong)用的(de)(de)單(dan)(dan)目(mu)(mu)深(shen)度估(gu)(gu)計(ji)(ji)(ji)大(da)(da)模(mo)(mo)型(xing)(xing)(xing)(xing)旨在(zai)實(shi)現一個(ge)能(neng)夠適配多種復(fu)雜場(chang)(chang)景(jing)(jing)的(de)(de)模(mo)(mo)型(xing)(xing)(xing)(xing),顯著提(ti)升其(qi)通(tong)用性(xing)(xing)和魯棒性(xing)(xing)。為(wei)了(le)(le)實(shi)現這一目(mu)(mu)標(biao),研(yan)究者們在(zai)過去兩年中在(zai)多個(ge)方(fang)面(mian)取得了(le)(le)重(zhong)(zhong)要進展。本次報(bao)告將討論(lun)幾個(ge)學界重(zhong)(zhong)點關注的(de)(de)研(yan)究方(fang)向,包括(kuo)如何利用海量無標(biao)注或弱(ruo)標(biao)注數據(ju)來增強模(mo)(mo)型(xing)(xing)(xing)(xing)的(de)(de)泛化能(neng)力,如何設計(ji)(ji)(ji)更(geng)有(you)效的(de)(de)監督訓練范式和損失函數,以及如何更(geng)好地利用大(da)(da)模(mo)(mo)型(xing)(xing)(xing)(xing)的(de)(de)先驗知識(shi)來提(ti)升深(shen)度估(gu)(gu)計(ji)(ji)(ji)的(de)(de)精度和穩定性(xing)(xing)。
演講嘉賓:聯匯科技 CEO兼首席科學家 趙天成
演講主題:《以智能體為中心的AI原生應用和開源生態》
內容概要:智(zhi)能(neng)體作為應用前沿,正在重塑技(ji)術(shu)與(yu)場(chang)景之間的(de)互動(dong)方式。本(ben)次演講以智(zhi)能(neng)體的(de)開(kai)發與(yu)應用為核(he)心,重點介(jie)紹Om Agent平臺在AI原(yuan)生(sheng)應用中的(de)實踐,包括如何快(kuai)速構建、部署和管理AI原(yuan)生(sheng)應用,讓(rang)每個智(zhi)能(neng)硬件設備具備人類認知(zhi)級(ji)別的(de)智(zhi)能(neng)體,快(kuai)速適應、賦能(neng)各種場(chang)景,以及(ji)在不(bu)同行業(ye)與(yu)領域的(de)原(yuan)生(sheng)應用案例(li)。同時,強調構建開(kai)源生(sheng)態(tai)也是推動(dong)智(zhi)能(neng)體應用創(chuang)新(xin)的(de)重要依托,更(geng)多開(kai)發者的(de)加入(ru)與(yu)應用的(de)產(chan)生(sheng)將能(neng)夠服務更(geng)廣泛的(de)用戶,讓(rang)每個人都能(neng)真正地享受(shou)到技(ji)術(shu)創(chuang)新(xin)成果。
演講嘉賓:VAST CTO 梁鼎
演講主題:《大模型加持,3D AIGC的發展與應用》
內容概要:我們生(sheng)活(huo)在三維世界中,但由(you)于創(chuang)作成(cheng)本高(gao)昂,很難(nan)像拍照或(huo)錄視(shi)頻一樣(yang)輕松創(chuang)作3D內容。隨著3D AIGC技術的(de)不斷(duan)發展,這(zhe)種局面正(zheng)在逐(zhu)漸改變(bian)。
本報告(gao)將聚焦3D AIGC技術,詳細解析其在大(da)模(mo)型生成浪潮中的(de)(de)進展和(he)最新成果,并探討技術推動下的(de)(de)多領域應用(yong)實踐,為(wei)未來(lai)3D創作的(de)(de)普及提供新思(si)路。
演講嘉賓:騰訊優圖實驗室天衍研究中心負責人、專家研究員 吳賢
演講主題:《從深度學習到大模型,醫學AI上的一些嘗試》
內容概要:在醫(yi)(yi)(yi)學領域,幾乎所(suo)有(you)的(de)(de)通用 NLP 任務都(dou)可以找到相應(ying)(ying)的(de)(de)實際應(ying)(ying)用場(chang)景(jing)(jing),例如醫(yi)(yi)(yi)患對話、醫(yi)(yi)(yi)學信息提取、疾病診斷(duan)、藥物推薦以及報(bao)告生成等。目前,已有(you)大(da)量的(de)(de)研究(jiu)將 LLM應(ying)(ying)用于醫(yi)(yi)(yi)學領域,部分大(da)型模型甚至已經高分通過了醫(yi)(yi)(yi)師資(zi)格考試。然(ran)而,仍有(you)許多問(wen)題(ti)(ti)需要進(jin)一(yi)步研究(jiu)。本次分享(xiang)旨在深度探(tan)索大(da)模型技(ji)術在醫(yi)(yi)(yi)學領域的(de)(de)研究(jiu)和應(ying)(ying)用問(wen)題(ti)(ti),包(bao)括(kuo)訓練效率(lv)問(wen)題(ti)(ti),包(bao)括(kuo)幻(huan)覺問(wen)題(ti)(ti),包(bao)含在臨(lin)床(chuang)場(chang)景(jing)(jing)中(zhong)實際遇到的(de)(de)問(wen)題(ti)(ti)等。
演講嘉賓:西湖心辰CEO、西湖大學深度學習實驗室成果轉化負責人 醒辰
演講主題:《讓AI懂人心,說人話——多模態情感大模型的應用探索》
內容概要:語言、文(wen)字的發(fa)明(ming)都是為了(le)溝通和交流,在AI技術高速發(fa)展的今天,人機交流的種種矛盾也被放到(dao)臺前。“AI不(bu)明(ming)白我的意思”,“AI理(li)解不(bu)了(le)我的心情(qing)”大眾對此很(hen)有共鳴,也是一定程度上排斥AI的原因。AI的智商(shang)雖然關鍵,情(qing)商(shang)更為重要,它是AI與(yu)人類和諧共存(cun)的基(ji)石(shi)。
怎(zen)么(me)讓AI模(mo)型懂人(ren)(ren)心(xin)?說人(ren)(ren)話?西(xi)湖心(xin)辰(chen)自創(chuang)立以來一直深耕打造“高情商(shang)”“超擬人(ren)(ren)”的(de)AI模(mo)型,并且持續探索(suo)其應用邊界(jie),以期為公眾帶來福祉并創(chuang)造社會價值。
在(zai)(zai)本次(ci)演講中,將重(zhong)點介紹我們的模(mo)型(xing)能(neng)力(li)(li)在(zai)(zai)心(xin)(xin)理(li)(li)領域的落地(di)應用,包括端到(dao)端多模(mo)態識別與交互、長程對話(hua)能(neng)力(li)(li)以及情感感知(zhi)等關鍵能(neng)力(li)(li)。用實際(ji)案例(li)證明AI模(mo)型(xing)不論是基(ji)于文字還是語音都(dou)能(neng)懂人心(xin)(xin)、說人話(hua),共同探討AI在(zai)(zai)個(ge)性化心(xin)(xin)理(li)(li)健康服務領域的未來發展(zhan)。
演講嘉賓:RockAI CTO 楊華
演講主題:《非Transformer架構大模型Yan在端側的實踐》
內容概要:本次演講(jiang)將探討(tao)生成式AI在端側面臨的(de)挑戰(zhan),詳解國內(nei)首個(ge)非Transformer架(jia)構大(da)模(mo)型Yan的(de)技術路線及(ji)其落地應用,還將分享大(da)模(mo)型從單(dan)體智能到群體智能的(de)發(fa)展路徑。
演講嘉賓:趣丸科技副總裁 賈朔
演講主題:《讓每個人體驗音樂創作——音樂生成大模型的創新實踐》
內容概要:隨著AIGC技術的成(cheng)熟(shu)和廣(guang)泛應用,AI和音(yin)(yin)(yin)樂(le)(le)(le)(le)可以碰撞怎樣的火花?如何(he)降低門(men)檻讓普(pu)通用戶體驗(yan)音(yin)(yin)(yin)樂(le)(le)(le)(le)創作的樂(le)(le)(le)(le)趣?趣丸科技推(tui)出了自主(zhu)研發的全球首(shou)個多模態音(yin)(yin)(yin)樂(le)(le)(le)(le)生成(cheng)大模型(xing)——天譜樂(le)(le)(le)(le)AI。該模型(xing)集(ji)成(cheng)音(yin)(yin)(yin)頻(pin)處理(li)、深度學習及(ji)大數據分析等(deng)領先(xian)技術,不僅支持文生音(yin)(yin)(yin)樂(le)(le)(le)(le)、音(yin)(yin)(yin)頻(pin)生音(yin)(yin)(yin)樂(le)(le)(le)(le),還首(shou)創圖片(pian)/視頻(pin)生音(yin)(yin)(yin)樂(le)(le)(le)(le)功(gong)能,生成(cheng)的歌曲自帶人聲唱詞,效(xiao)果達到專業發行水準。
本次(ci)演講聚(ju)焦AI音樂(le)(le),重點分享(xiang)趣(qu)丸科技(ji)(ji)自研的(de)(de)音樂(le)(le)生成大模型天(tian)譜樂(le)(le)AI的(de)(de)初衷(zhong)、產品研發、應(ying)用(yong)實踐和愿(yuan)景。AI音樂(le)(le)工具不(bu)僅是技(ji)(ji)術(shu)的(de)(de)堆砌(qi),更是用(yong)戶情感(gan)的(de)(de)載體(ti)。天(tian)譜樂(le)(le)AI通過(guo)技(ji)(ji)術(shu)創新(xin)降低音樂(le)(le)創作門檻,讓(rang)用(yong)戶不(bu)再受限于專業的(de)(de)樂(le)(le)理知識,復(fu)雜的(de)(de)音樂(le)(le)制作流程(cheng)和昂(ang)貴的(de)(de)版權費用(yong),就可以輕松通過(guo)音樂(le)(le)創作記錄生活的(de)(de)切(qie)片,在創作中提(ti)升審美自覺(jue)和音樂(le)(le)生產能力。
演講嘉賓:螞蟻集團資深算法專家 李龍飛
演講主題:《生成式大模型在螞蟻內部的應用和挑戰》
內容概要:生成式語言大(da)模型(xing)在(zai)近兩(liang)年取得了突破性的(de)(de)進展,在(zai)螞(ma)蟻(yi)內部也有大(da)量的(de)(de)業(ye)務在(zai)應(ying)用(yong)(yong)(yong)llm來進行各種各樣的(de)(de)業(ye)務改(gai)造和(he)創新,并(bing)取得了一(yi)些結果,例(li)如螞(ma)蟻(yi)的(de)(de)支小寶,醫療(liao)管家等業(ye)務。在(zai)業(ye)務應(ying)用(yong)(yong)(yong)LLM的(de)(de)過(guo)程(cheng)中也遇到(dao)了一(yi)些挑(tiao)戰(zhan),主要集(ji)中在(zai)可信,以及效率(lv)等方面,例(li)如在(zai)模型(xing)的(de)(de)部署(shu)服(fu)務過(guo)程(cheng)中,就面臨(lin)資源利用(yong)(yong)(yong)率(lv),推理速度等效率(lv)相(xiang)關(guan)的(de)(de)問題,在(zai)用(yong)(yong)(yong)戶的(de)(de)應(ying)用(yong)(yong)(yong)過(guo)程(cheng)中也遇到(dao)一(yi)些和(he)大(da)模型(xing)幻覺相(xiang)關(guan)的(de)(de)挑(tiao)戰(zhan),本次分(fen)享會(hui)介紹螞(ma)蟻(yi)在(zai)這兩(liang)個(ge)方面上的(de)(de)一(yi)些工作和(he)嘗試(shi)。
演講嘉賓:WeMeet薈神創始人 顧學斌
演講主題:《基于大模型構建多智能體商務互聯平臺的實踐》
內容概要:76秒創(chuang)建AI商務應用,顧學斌先生將(jiang)分享WeMeet薈神如何基(ji)于(yu)大模型(xing)構(gou)建多智(zhi)能體商務互聯平臺的(de)(de)(de)實踐和(he)案例(li),幫助與會者了解如何精準(zhun)分析AI應用場景的(de)(de)(de)痛點、需求(qiu)和(he)用戶意圖(tu),進(jin)而結合(he)大模型(xing)和(he)多智(zhi)能體的(de)(de)(de)技術(shu)進(jin)展(zhan),構(gou)建可滿(man)足(zu)用戶和(he)場景中長期需求(qiu)的(de)(de)(de)平臺。
演講嘉賓:華院計算大模型和知識推理算法負責人 蔡華
演講主題:《法律大語言模型在社會治理中的落地應用》
內容概要:隨著大語(yu)言(yan)模(mo)型(xing)(LLM)在(zai)自然語(yu)言(yan)處理(li)和(he)法(fa)律(lv)推(tui)理(li)中的突破(po)性進展,我們正(zheng)迎來一個法(fa)律(lv)科(ke)技變革的新時代(dai):法(fa)律(lv)大語(yu)言(yan)模(mo)型(xing)能夠理(li)解、生(sheng)成和(he)分析(xi)法(fa)律(lv)文本,全面提升法(fa)律(lv)服務(wu)(wu)的效率(lv)和(he)公平性。如(ru)何將法(fa)律(lv)大語(yu)言(yan)模(mo)型(xing)的認知智能應(ying)用(yong)于(yu)社(she)(she)會治理(li)的廣泛(fan)領域,從事更多(duo)智能化(hua)(hua)、精準化(hua)(hua)的法(fa)律(lv)服務(wu)(wu),是法(fa)律(lv)科(ke)技和(he)社(she)(she)會治理(li)研(yan)究的重要方(fang)向。在(zai)此背景下,華院計算(suan)實(shi)踐(jian)出了一套面向法(fa)律(lv)大語(yu)言(yan)模(mo)型(xing)應(ying)用(yong)的產品架構,以智能法(fa)律(lv)服務(wu)(wu)的理(li)念幫(bang)助(zhu)政府和(he)企(qi)業解決法(fa)律(lv)服務(wu)(wu)效率(lv)低、資源不足、應(ying)用(yong)落地難(nan)等現實(shi)問題。
在(zai)本次分(fen)(fen)享中,我(wo)們將介紹該框架的基礎概念(nian)和(he)原理(li),并通(tong)過具體案例(li)展示(shi)法(fa)律(lv)大語言模型在(zai)法(fa)律(lv)咨詢(xun)、案件分(fen)(fen)析(xi)和(he)智能(neng)審判等任務中的應用(yong)。此外(wai),我(wo)們還將介紹法(fa)律(lv)大語言模型的訓練方法(fa)、推理(li)機制以及在(zai)不同法(fa)律(lv)場景中的實(shi)際應用(yong)效果,通(tong)過這些實(shi)踐案例(li)展示(shi)法(fa)律(lv)大語言模型如何實(shi)現社(she)會治理(li)的智能(neng)化(hua)和(he)高效化(hua)。
三、AI Infra峰會演講介紹
AI Infra峰會將于12月(yue)6日(ri)進行(xing),聚焦大模型時(shi)代的軟硬(ying)件基礎(chu)設(she)施關鍵技術(shu)與建設(she)。
在AI Infra峰會上午場,上海交通大學副教授、無問芯穹聯合創始人兼首席科學家戴國浩將帶來開場報告,主題為《軟硬協(xie)同與多(duo)元異(yi)構,共筑大模型算(suan)力(li)底座》。
北電數智智算云負責人郭文,GMI Cloud 亞太區總裁 King.Cui,阿里云智算集群產品解決方案負責人叢培巖,中昊芯英芯片軟件棧負責人朱國梁,光羽芯辰創始人兼董事長周強,將在AI Infra峰會上午(wu)場帶來主題演講,對全(quan)棧(zhan)AI工(gong)廠、AI 企業(ye)出海如何補齊(qi)算力短板、高性能智算集(ji)群、通向(xiang)個人大模型(xing)之路、國(guo)產 TPU 芯片(pian) “No CUDA” 軟件棧(zhan)進行(xing)分(fen)享。
楓清科技創始人兼CEO高雪峰,聲網生成式AI產品負責人毛玉杰,騰訊云向量數據庫技術負責人謝宇,Jina AI 聯合創始人兼首席技術官王楠,Zilliz合伙人、研發VP欒小凡,英飛流創始人兼CEO張穎峰,Alluxio首席架構師傅正佳將(jiang)參與下(xia)午場(chang),并分別(bie)針對“從數(shu)(shu)據(ju)到知識:AI 重(zhong)塑百(bai)行千(qian)業(ye)的(de)基石”、“生成式AI驅動實時互(hu)動的(de)技(ji)術(shu)變革與體驗革新(xin)、TencentVDB向量數(shu)(shu)據(ju)庫、RAG范式下(xia)AI Infra的(de)機遇和挑(tiao)戰、“RAG雖強,但向量數(shu)(shu)據(ju)庫絕非萬靈藥”、新(xin)一代企(qi)業(ye)級(ji)多模態RAG引(yin)擎、高(gao)性能AI數(shu)(shu)據(ju)底(di)座帶來主(zhu)題(ti)分享。
演講嘉賓:上海交通大學副教授、無問芯穹聯合創始人兼首席科學家 戴國浩
演講主題:《軟硬協同與多元異構,共筑大模型算力底座》
內容概要:在AI技(ji)術迅猛(meng)發(fa)展的(de)(de)(de)今天,算(suan)力(li)(li)底座的(de)(de)(de)不(bu)充(chong)分發(fa)展,已成(cheng)(cheng)為(wei)制約AI廣泛(fan)應(ying)用(yong)的(de)(de)(de)主要瓶頸。本(ben)(ben)報(bao)告創新(xin)性地將影響AI模型(xing)算(suan)力(li)(li)供(gong)(gong)給(gei)的(de)(de)(de)關鍵要素歸納為(wei)“軟硬協同”與“多元(yuan)異構(gou)”,并(bing)集中探(tan)討(tao)了(le)算(suan)力(li)(li)供(gong)(gong)給(gei)錯配的(de)(de)(de)問題。深入分析(xi)AI在持續發(fa)展和(he)應(ying)用(yong)落地過程中所(suo)面臨的(de)(de)(de)算(suan)力(li)(li)挑戰,并(bing)從技(ji)術創新(xin)和(he)產業實(shi)踐的(de)(de)(de)角度出發(fa),提(ti)出了(le)一種(zhong)創新(xin)的(de)(de)(de)解決方案。該方案旨在持續擴大AI算(suan)力(li)(li)供(gong)(gong)給(gei),提(ti)升面向(xiang)大模型(xing)場景的(de)(de)(de)token吞吐(tu)效(xiao)率,降低大型(xing)模型(xing)部署的(de)(de)(de)算(suan)力(li)(li)成(cheng)(cheng)本(ben)(ben),以(yi)推動AI技(ji)術的(de)(de)(de)持續進(jin)步,促進(jin)更(geng)多AI應(ying)用(yong)的(de)(de)(de)成(cheng)(cheng)功落地,實(shi)現更(geng)廣泛(fan)的(de)(de)(de)社會和(he)經濟(ji)效(xiao)益。
演講嘉賓:北電數智智算云負責人 郭文
演講主題:《全棧“AI工廠”推動生成式AI可持續創新》
內容概要:回(hui)顧人類(lei)歷史上通用技術(shu)的(de)發展,從技術(shu)的(de)產(chan)(chan)生(sheng)(sheng)到(dao)社會經濟結構與生(sheng)(sheng)產(chan)(chan)模式發生(sheng)(sheng)根(gen)本性(xing)變化,需(xu)要生(sheng)(sheng)產(chan)(chan)工具和生(sheng)(sheng)產(chan)(chan)系統的(de)整體變革(ge)才(cai)能促(cu)成。今天,洶涌而來的(de)AI也是如此。未來,如何讓(rang)AI賦能千(qian)行百業,成為新質生(sheng)(sheng)產(chan)(chan)力?
本次(ci)演講,北(bei)電數(shu)智將帶來關于人工智能(neng)這項通(tong)用(yong)(yong)技(ji)術,在中外(wai)的(de)產(chan)業(ye)發展(zhan)格局差異,進(jin)行系(xi)統化變革(ge)面臨的(de)挑戰,及北(bei)電數(shu)智在算(suan)力、算(suan)法、數(shu)據與(yu)生態構建(jian)方(fang)面,全面構建(jian)AI生產(chan)線(xian)的(de)實(shi)踐思(si)考,以期與(yu)產(chan)業(ye)各方(fang)共同推動AI產(chan)業(ye)的(de)系(xi)統性變革(ge),讓(rang)AI能(neng)夠真正被使用(yong)(yong)起來,成為真正的(de)新質(zhi)生產(chan)力。
演講嘉賓:GMI Cloud 亞太區總裁 King.Cui
演講主題:《全球化布局:AI 企業如何補齊算力短板,保障GPU集群穩定性》
內容概要:隨著全球數字化進(jin)程(cheng)的推(tui)進(jin),越來越多(duo)的企(qi)業希望將自己的 AI 應用拓(tuo)展(zhan)到(dao)海(hai)外市場。然而,AI 出海(hai)面臨(lin)諸多(duo)挑(tiao)戰,本次演(yan)講重點關注如何突破(po)算力挑(tiao)戰。
穩定的 GPU 集(ji)群(qun)(qun)對突破算(suan)(suan)力(li)挑戰至關重要。GPU 集(ji)群(qun)(qun)能并行處(chu)理海(hai)(hai)量數據,其穩定性(xing)確保計算(suan)(suan)持(chi)續高效。通過合理架構設計、優質硬件支(zhi)持(chi)、智能監控和(he)維護系統(tong)等,可保障(zhang)集(ji)群(qun)(qun)穩定,釋放強大算(suan)(suan)力(li)。GMI Cloud作為(wei)一個基于(yu)高穩定性(xing) GPU 集(ji)群(qun)(qun)的云計算(suan)(suan)平臺,便為(wei) AI 應(ying)用出(chu)海(hai)(hai)提供一系列服務和(he)支(zhi)持(chi)。
本次演(yan)講(jiang),將介紹AI出海常見的(de)基礎設施(shi)問(wen)題以(yi)及高穩定性的(de)重(zhong)要(yao)性,并著重(zhong)探討如何利(li)用 GMI Cloud 的(de)優勢,幫助企業(ye)突(tu)破算力挑戰(zhan)。之后(hou),還將通過成功案例,分享 GMI Cloud 在不同(tong)行業(ye)應(ying)用的(de)實踐經驗。
演講嘉賓:阿里云智算集群產品解決方案負責人 叢培巖
演講主題:《高性能智算集群設計思考與實踐》
內容概要:2017年(nian)阿(a)里云從多模(mo)態搜推(tui)場景的需求起(qi)步,開(kai)始(shi)投入智算(suan)集群(qun)的產品研發,2022年(nian)商業化發布,通過自動駕駛、LLM/VLM應用場景的持續打(da)磨,目前已經服務了國內一半以(yi)上的大模(mo)型企(qi)業/科研機構。本次分享主(zhu)要就智算(suan)集群(qun)的產品和(he)方(fang)案設計(ji)(ji)方(fang)向,呈(cheng)現阿(a)里云的產品設計(ji)(ji)思考(kao)及實踐(jian)。
演講嘉賓:光羽芯辰創始人兼董事長 周強
演講主題:《通向個人大模型之路》
內容概要:在(zai)當今(jin)時代,AI和(he)大(da)模(mo)型(xing)的應用(yong)已成為焦點。本(ben)演講將探(tan)討如(ru)何利(li)用(yong)AI讓大(da)模(mo)型(xing)更加智(zhi)能,擴大(da)其應用(yong)場景(jing),以提高個人(ren)(ren)的工作(zuo)效率(lv)和(he)生活質量。我們將深入(ru)解析其工作(zuo)原理和(he)優勢,并通過實際案例展(zhan)示大(da)模(mo)型(xing)在(zai)個人(ren)(ren)服務中的具體應用(yong)。此外,本(ben)演講還(huan)將探(tan)討當前面臨的挑戰(zhan)及未來發展(zhan)方向,為您揭示通向個人(ren)(ren)大(da)模(mo)型(xing)之(zhi)路的關(guan)鍵所(suo)在(zai)。
演講嘉賓:中昊芯英芯片軟件棧負責人 朱國梁
演講主題:《國產 TPU 芯片“No CUDA”軟件棧的構建實踐》
內容概要:國(guo)產(chan)自研高性(xing)能芯片面臨的(de)諸多挑(tiao)戰中,性(xing)能和(he)生態是兩個不能避免的(de)話(hua)題。英(ying)偉達的(de) CUDA 生態幫助了很多類 CUDA 架構公(gong)司解決了可(ke)用性(xing)和(he)部分性(xing)能問題,但也帶來(lai)了諸多自主可(ke)控(kong)上的(de)擔憂。
本次(ci)演講將從實際的(de)芯(xin)片軟(ruan)件棧構建(jian)思(si)路出發,結合(he)實際 AI 芯(xin)片軟(ruan)硬件架構,介紹在真實的(de)大模型落地實踐中,多層次(ci)軟(ruan)件棧實現(xian)所面(mian)臨的(de)問題、挑戰、以(yi)及過程中的(de)選(xuan)型決策。
演講嘉賓:楓清科技創始人兼CEO 高雪峰
演講主題:《從數據到知識:AI 重塑百行千業的基石》
內容概要:隨(sui)著人(ren)工智能技(ji)(ji)術(shu)的(de)(de)(de)(de)快速發展,大模型(xing)成為了企業(ye)智能化的(de)(de)(de)(de)重要(yao)工具。然而,要(yao)讓這些模型(xing)真(zhen)正為企業(ye)服務,不(bu)僅需要(yao)強大的(de)(de)(de)(de)技(ji)(ji)術(shu),更需要(yao)找到技(ji)(ji)術(shu)與業(ye)務需求的(de)(de)(de)(de)結合點,充分利(li)用(yong)企業(ye)多年積累的(de)(de)(de)(de)本地“知識”,構建(jian)“知識”為中(zhong)心的(de)(de)(de)(de)支撐平臺,驅動豐富可信的(de)(de)(de)(de)智能化場景的(de)(de)(de)(de)建(jian)設。
本(ben)次分(fen)享(xiang)將(jiang)深入(ru)淺(qian)出地(di)為大家分(fen)享(xiang)如何通(tong)過以“數(shu)據”和“知識(shi)(shi)”為核心的(de)方法,將(jiang)企(qi)業的(de)海量數(shu)據轉(zhuan)化為有價值的(de)知識(shi)(shi),并(bing)結合創新技術讓 AI 更(geng)高效、更(geng)可(ke)靠地(di)解(jie)決實(shi)際問題。并(bing)通(tong)過真實(shi)案例展示(shi)如何幫助企(qi)業實(shi)現智(zhi)能化轉(zhuan)型,讓 AI 技術融入(ru)到企(qi)業的(de)場景價值當(dang)中,從(cong)而實(shi)現真正的(de)AI+行(xing)業的(de)轉(zhuan)型與落地(di)。
楓清科技創立以來,一直堅持為客戶打(da)造知識引擎與(yu)模(mo)型算法雙輪驅(qu)動的新一代智能體平臺,在(zai)多(duo)家行(xing)業龍(long)頭企業的多(duo)智能場景的平臺建設(she)中體現了(le)其核心價值(zhi)。
演講嘉賓:聲網生成式AI產品負責人 毛玉杰
演講主題:《生成式AI驅動實時互動的技術變革與體驗革新》
內容概要:實(shi)時(shi)(shi)互動(dong)(dong)(dong)技術正經歷一場從(cong)“為人類設(she)(she)計(ji)”到(dao)“為人類與模(mo)型共(gong)同設(she)(she)計(ji)”的(de)變革。過去十年,實(shi)時(shi)(shi)互動(dong)(dong)(dong)行業完(wan)成了從(cong)關注服務質量(QoS)到(dao)體驗質量(QoE)的(de)跨(kua)越,推(tui)動(dong)(dong)(dong)用(yong)戶(hu)從(cong)“聽(ting)得(de)到(dao)”到(dao)“聽(ting)得(de)清”的(de)感受(shou)提升。生成式(shi)AI的(de)發展,正在開啟“跨(kua)模(mo)態QoE”時(shi)(shi)代,使(shi)實(shi)時(shi)(shi)互動(dong)(dong)(dong)從(cong)“聽(ting)得(de)懂”向“聽(ting)得(de)心”邁進。
此(ci)次(ci)演講主要(yao)探(tan)討生(sheng)成(cheng)式AI如(ru)何(he)驅(qu)動實時互動的技術與體(ti)驗(yan)革命(ming),深入剖析AI RTE產品的技術架構及其應用前景(jing)。通過(guo)解讀從(cong)服務端AI模(mo)塊到多模(mo)態交(jiao)互的演進,探(tan)討技術如(ru)何(he)突(tu)破模(mo)態限(xian)制,創造更加沉浸式的互動體(ti)驗(yan)。希(xi)望激發行業對(dui)未來AI RTE的無限(xian)可能的探(tan)索。
演講嘉賓:騰訊云向量數據庫技術負責人 謝宇
演講主題:《TencentVDB向量數據庫在AI中的實踐》
內容概要:隨(sui)著AI應用(yong)的(de)(de)(de)(de)快速發展,向(xiang)量數(shu)據(ju)庫(ku)逐步脫穎而出,越來(lai)越多的(de)(de)(de)(de)企(qi)業(ye)正在或考(kao)慮(lv)使用(yong)向(xiang)量數(shu)據(ju)庫(ku)在企(qi)業(ye)中業(ye)務場(chang)景(jing)中落地,以(yi)發揮更大(da)的(de)(de)(de)(de)數(shu)據(ju)價值,最終(zhong)為企(qi)業(ye)起到降本(ben)增效的(de)(de)(de)(de)作用(yong)。騰訊(xun)云向(xiang)量數(shu)據(ju)庫(ku)團(tuan)隊積累了大(da)量的(de)(de)(de)(de)客(ke)戶最佳實踐,在綜合效果、性能、成本(ben)等(deng)方(fang)面有深刻的(de)(de)(de)(de)理解,并致力于打造最好用(yong)的(de)(de)(de)(de)向(xiang)量數(shu)據(ju)庫(ku),在AI時代幫(bang)助更多的(de)(de)(de)(de)企(qi)業(ye)挖掘出更多的(de)(de)(de)(de)數(shu)據(ju)價值。
本次演講,謝(xie)宇將介(jie)紹(shao)向(xiang)量(liang)數(shu)據庫的(de)應用(yong)場景和行業中(zhong)的(de)定位,以及未來定位是什么(me),并分享VectorDB在RAG中(zhong)提升效果的(de)實(shi)踐(jian)技巧;此外,還(huan)將從索引(yin)結構(gou)、算法、成本邏輯、稀疏向(xiang)量(liang)、Embedding、多租戶等方面闡(chan)述VectorDB向(xiang)量(liang)數(shu)據庫的(de)基(ji)本原理和應用(yong)實(shi)踐(jian)。
演講嘉賓:Jina AI聯合創始人兼首席技術官 王楠
演講主題:《從長窗口到多向量:RAG范式下AI Infra的機遇和挑戰》
內容概要:在(zai)(zai)(zai)本(ben)次(ci)演(yan)(yan)講(jiang)中(zhong),我(wo)們(men)將(jiang)深入探討RAG(Retrieval-Augmented Generation)范(fan)(fan)式(shi)(shi)在(zai)(zai)(zai)大(da)模(mo)(mo)型(xing)(xing)的(de)(de)(de)實(shi)際應用(yong)中(zhong)遇到的(de)(de)(de)機遇和(he)(he)挑(tiao)戰。RAG不(bu)僅能(neng)夠(gou)補(bu)足大(da)模(mo)(mo)型(xing)(xing)記憶的(de)(de)(de)不(bu)準(zhun)確性,還有(you)(you)效(xiao)降(jiang)低(di)了注入新知(zhi)識(shi)的(de)(de)(de)成(cheng)本(ben),尤(you)其是(shi)在(zai)(zai)(zai)私有(you)(you)知(zhi)識(shi)的(de)(de)(de)訪問(wen)方(fang)面(mian)表現出色。盡管(guan)長(chang)(chang)窗口大(da)模(mo)(mo)型(xing)(xing)技術取得了長(chang)(chang)足進(jin)步,但其并不(bu)會取代RAG范(fan)(fan)式(shi)(shi),反而推(tui)(tui)動了RAG依(yi)賴于(yu)支持(chi)長(chang)(chang)窗口輸(shu)入的(de)(de)(de)向量(liang)(liang)模(mo)(mo)型(xing)(xing)的(de)(de)(de)需求(qiu)。我(wo)們(men)將(jiang)討論jina-embeddings作為全球(qiu)首款支持(chi)8k窗口的(de)(de)(de)開源(yuan)向量(liang)(liang)模(mo)(mo)型(xing)(xing)的(de)(de)(de)成(cheng)功,以(yi)(yi)及長(chang)(chang)窗口輸(shu)入逐漸成(cheng)為多(duo)模(mo)(mo)態(tai)向量(liang)(liang)模(mo)(mo)型(xing)(xing)的(de)(de)(de)新標配(pei)。盡管(guan)如(ru)此(ci),長(chang)(chang)窗口模(mo)(mo)型(xing)(xing)帶來了信(xin)息丟(diu)失和(he)(he)推(tui)(tui)理(li)成(cheng)本(ben)上升的(de)(de)(de)挑(tiao)戰,這也催生了多(duo)向量(liang)(liang)表示的(de)(de)(de)需求(qiu),以(yi)(yi)彌補(bu)單一向量(liang)(liang)帶來的(de)(de)(de)信(xin)息缺(que)失。例如(ru),ColBERT和(he)(he)ColPali分別針對文(wen)本(ben)和(he)(he)圖文(wen)內容(rong)提供了多(duo)向量(liang)(liang)表示方(fang)案,然(ran)而支持(chi)多(duo)向量(liang)(liang)的(de)(de)(de)AI基礎設施仍然(ran)不(bu)足。此(ci)外(wai),RAG的(de)(de)(de)PoC階(jie)段面(mian)臨著(zhu)GPU推(tui)(tui)理(li)成(cheng)本(ben)高、資(zi)源(yuan)利用(yong)率(lv)低(di)的(de)(de)(de)問(wen)題(ti),市場(chang)缺(que)乏類似Modal lab的(de)(de)(de)GPU共(gong)享服務。通過本(ben)次(ci)演(yan)(yan)講(jiang),我(wo)們(men)將(jiang)總(zong)結RAG范(fan)(fan)式(shi)(shi)的(de)(de)(de)長(chang)(chang)期發展前景,闡明向量(liang)(liang)模(mo)(mo)型(xing)(xing)在(zai)(zai)(zai)長(chang)(chang)窗口和(he)(he)多(duo)模(mo)(mo)態(tai)輸(shu)入上的(de)(de)(de)進(jin)化需求(qiu),并探討AI基礎設施如(ru)何更(geng)好地支持(chi)多(duo)向量(liang)(liang)表示和(he)(he)GPU共(gong)享,以(yi)(yi)降(jiang)低(di)RAG的(de)(de)(de)應用(yong)成(cheng)本(ben)。
演講嘉賓:Zilliz 合伙人、研發VP 欒小凡
演講主題:《RAG雖強,但向量數據庫絕非萬靈藥》
演講概要:RAG(檢索增強生(sheng)成)結(jie)合生(sheng)成式(shi)AI與向量數(shu)(shu)據庫,為知識獲取與生(sheng)成開(kai)辟了新路徑,但落(luo)(luo)地實踐中依然面(mian)臨數(shu)(shu)據質量、檢索效(xiao)率、成本(ben)控(kong)制與安(an)全(quan)性(xing)等挑戰。本(ben)次演講將深入探討RAG落(luo)(luo)地的關鍵實踐,向量數(shu)(shu)據庫如何(he)在生(sheng)成式(shi)AI時代發揮更大價值,以及其在性(xing)能(neng)、精(jing)準度與成本(ben)間(jian)的未來演進方向。
報告嘉賓:英飛流創始人兼CEO 張穎峰
報告主題:《新一代企業級多模態RAG引擎》
內容概要:LLM正在(zai)對(dui)企(qi)業(ye)(ye)軟件生態(tai)(tai)進(jin)行重構,RAG已經成為(wei)(wei)企(qi)業(ye)(ye)級LLM應用的(de)(de)標(biao)準化架(jia)構。然而,RAG并(bing)非(fei)簡單的(de)(de)搜索系統,它需要針對(dui)來自企(qi)業(ye)(ye)的(de)(de)各種(zhong)非(fei)結構化數據作(zuo)出(chu)處理(li),準確識別用戶意(yi)(yi)圖,幫助LLM在(zai)上(shang)下(xia)文窗(chuang)口內定位到足夠(gou)精準的(de)(de)片段,這就意(yi)(yi)味著(zhu)它必須(xu)成為(wei)(wei)AI和(he)Data協同工(gong)作(zuo)的(de)(de)最具代(dai)(dai)表性的(de)(de)載體(ti)和(he)場景。隨著(zhu)LLM多模態(tai)(tai)能(neng)力(li)的(de)(de)增強,RAG也(ye)需要步(bu)入多模態(tai)(tai)時代(dai)(dai),它并(bing)不限于對(dui)日(ri)常圖片,音視頻(pin)的(de)(de)檢索增強,還(huan)應該(gai)涵蓋當下(xia)占據大部分的(de)(de)非(fei)結構化文檔(dang),發掘出(chu)這些數據的(de)(de)商業(ye)(ye)價值。本次演講結合我們在(zai)過(guo)去的(de)(de)工(gong)作(zuo),從基(ji)礎設施角度來給出(chu)多模態(tai)(tai)RAG的(de)(de)工(gong)程實踐(jian),以及未來如何迭代(dai)(dai)和(he)演進(jin)的(de)(de)趨勢(shi)。
演講嘉賓:Alluxio首席架構師 傅正佳
演講主題:《構建大模型時代的高性能AI數據底座》
內容概要:隨著AI技(ji)術的(de)(de)(de)(de)發展,尤其(qi)是(shi)大模型(xing)技(ji)術的(de)(de)(de)(de)應用(yong),數(shu)(shu)據(ju)(ju)(ju)(ju)量呈現爆炸性增長(chang)。AI訓練和(he)推理(li)(li)需要(yao)處理(li)(li)的(de)(de)(de)(de)數(shu)(shu)據(ju)(ju)(ju)(ju)集(ji)(ji)規模從幾TB增長(chang)到PB級(ji)別,與此同時(shi),數(shu)(shu)據(ju)(ju)(ju)(ju)往(wang)往(wang)來自多(duo)個數(shu)(shu)據(ju)(ju)(ju)(ju)源,很(hen)多(duo)數(shu)(shu)據(ju)(ju)(ju)(ju)存放在不同的(de)(de)(de)(de)云服(fu)務中(zhong)。當AI算力集(ji)(ji)群從這些(xie)數(shu)(shu)據(ju)(ju)(ju)(ju)源獲(huo)取數(shu)(shu)據(ju)(ju)(ju)(ju)時(shi),很(hen)容(rong)易遭(zao)遇帶寬低下、延遲較高的(de)(de)(de)(de)困境,使算力資(zi)源的(de)(de)(de)(de)寶貴時(shi)間白白浪費(fei)在等待數(shu)(shu)據(ju)(ju)(ju)(ju)這一環(huan)節(jie)上。Alluxio 通(tong)過幫(bang)助(zhu)企業構建大模型(xing)時(shi)代的(de)(de)(de)(de)高性能AI數(shu)(shu)據(ju)(ju)(ju)(ju)底座以(yi)應對I/O挑(tiao)戰,提升AI算力的(de)(de)(de)(de)效率與性能,被廣泛應用(yong)于模型(xing)訓練與推理(li)(li)、自動駕駛、AI制藥、金融量化以(yi)及視(shi)頻(pin)渲(xuan)染等場景。
本次(ci)演講(jiang),首先會介紹(shao)常見的(de) I/O 挑戰及其對 GPU 利用率和整體性(xing)能(neng)(neng)的(de)影(ying)響,并著重講(jiang)解(jie)如何(he)將高性(xing)能(neng)(neng)數據(ju)訪問層無縫集(ji)成到 AI 流(liu)水線中,以減少 I/O 開銷。最后,將結合實際案(an)例分享提高 AI 工作負載性(xing)能(neng)(neng)的(de)緩存(cun)策略(lve)。
峰會下午還設置了圓桌討論環節,將由德聯資本執行董事劉景媛主持,Alluxio首席架構師傅正(zheng)佳,Zilliz合(he)伙人、研發(fa)VP欒小(xiao)凡(fan),英飛(fei)流創(chuang)始人兼(jian) CEO張穎峰三位嘉(jia)賓也將(jiang)參與(yu)(yu),共同探討《大模型行至(zhi)深水(shui)區(qu),AI Infra的新變(bian)化與(yu)(yu)新機會(hui)》。
圓桌討論嘉賓:德聯資本執行董事 劉景媛
劉(liu)景媛女士擁(yong)有7年以上股(gu)權投資經驗(yan),專注于(yu)底層軟件、AI、大(da)數(shu)據(ju)等領(ling)域。加(jia)入(ru)德聯資本之(zhi)前曾供職于(yu)金(jin)山云,亦有創業經歷。投資項目有Dify.AI、君同(tong)未來、云帆加(jia)速(su)、Quickgame等,擁(yong)有清華大(da)學(xue)(xue)和康(kang)奈(nai)爾(er)大(da)學(xue)(xue)碩士學(xue)(xue)位(wei)(wei)及北京大(da)學(xue)(xue)學(xue)(xue)士學(xue)(xue)位(wei)(wei)。
四、報名通道臨近關閉 門票有限速來搶票
大會上海站設置了三類電子門票,分別是免費票、通票和貴賓票。免費票申(shen)請需經組(zu)委會審核,通(tong)票、貴賓票均需購買。
持免費票可參加(jia)兩場(chang)主會(hui)(hui)(hui)場(chang)峰(feng)會(hui)(hui)(hui)(大模型峰(feng)會(hui)(hui)(hui)、AI Infra峰(feng)會(hui)(hui)(hui))。持有通票或(huo)貴賓(bin)票,除了(le)可參加(jia)全部兩場(chang)主會(hui)(hui)(hui)場(chang)峰(feng)會(hui)(hui)(hui),還可參加(jia)三場(chang)分會(hui)(hui)(hui)場(chang)研(yan)討會(hui)(hui)(hui)(端側生(sheng)成式AI技(ji)術研(yan)討會(hui)(hui)(hui)、AI視(shi)頻生(sheng)成技(ji)術研(yan)討會(hui)(hui)(hui)和(he)具身智能技(ji)術研(yan)討會(hui)(hui)(hui))。詳細(xi)權益,可通過文末左(zuo)下角「閱讀(du)原文」,直達官網(wang)了(le)解后(hou),進行免費票申請或(huo)購(gou)票參會(hui)(hui)(hui)。
再次提醒!!觀眾報名通道臨近關閉。著急的朋友,也可以掃描下方二維碼添加小助手“泡泡”申請免費票或購買門票。已添加過“泡泡”的老朋友,可以給“泡泡”私信,發送“GenAI24”即可報名。
已經申請或(huo)購買了門(men)票的朋友(you)們(men),近期請注意查收來(lai)自小助手“泡泡”的微(wei)信通知(優先微(wei)信,并(bing)輔以短信或(huo)電話)。屆時請務必及(ji)時查看并(bing)保存您的門(men)票憑證(zheng),這是現場參會(hui)簽到需要的哦(e)~