
1、李飛飛谷歌聯合發(fa)布(bu)AI視(shi)頻擴(kuo)散模型W.A.L.T
2、馬斯克Grok出現(xian)幻覺 自稱是OpenAI產(chan)品
3、OpenAI聯(lian)創(chuang)10年前論文獲NeurIPS 2023時(shi)間檢驗獎
4、法國AI創企Mistral估值(zhi)達(da)20億美元
5、Mistral AI發(fa)布專家混合模(mo)型Mixtral 8x7B
6、Runway宣布開(kai)展通用(yong)世界(jie)模型研發
7、微軟與美國勞聯-產聯合作 確(que)保AI為工人服務
8、網信辦:整治AI生成虛假短視頻內容
9、阿里云前首(shou)席(xi)安全科(ke)學家創業個人AI計(ji)算機
10、京(jing)東前副總裁AI創(chuang)企獲(huo)科大訊飛領投新融資
11、傳(chuan)華為(wei)云(yun)大(da)模型核心成員(yuan)顧曉(xiao)韜加入(ru)智(zhi)譜AI
12、零一(yi)萬物再度澄清(qing)套(tao)殼(ke)爭議(yi)
13、社交平臺Soul推出(chu)自研(yan)大(da)模型SoulX
14、海通證券發布“泛海言(yan)道”金(jin)融大模型(xing)
1、李飛飛谷歌聯合發布AI視頻擴散模型W.A.L.T
今日凌晨,李飛飛的(de)(de)(de)斯坦福團隊與谷歌聯(lian)合(he)發布用于生(sheng)成(cheng)(cheng)逼真視(shi)(shi)頻(pin)的(de)(de)(de)擴散模(mo)型W.A.L.T,基于Transformer訓練(lian)(lian)而成(cheng)(cheng),支(zhi)持文生(sheng)視(shi)(shi)頻(pin)、圖生(sheng)視(shi)(shi)頻(pin)和3D攝像機運動。據介紹(shao),該(gai)方法有兩個(ge)(ge)關鍵的(de)(de)(de)設計(ji),一(yi)是(shi)使用因(yin)果編碼器,在統一(yi)的(de)(de)(de)潛(qian)空間內(nei)聯(lian)合(he)壓縮圖像和視(shi)(shi)頻(pin),從而實現(xian)跨模(mo)態的(de)(de)(de)訓練(lian)(lian)和生(sheng)成(cheng)(cheng);二是(shi)為了(le)提高記憶和訓練(lian)(lian)效率(lv),使用了(le)為空間和時空聯(lian)合(he)生(sheng)成(cheng)(cheng)建模(mo)量身定(ding)制的(de)(de)(de)窗口注意力架構(gou)。最后,團隊針對(dui)文本到視(shi)(shi)頻(pin)的(de)(de)(de)生(sheng)成(cheng)(cheng)任(ren)務訓練(lian)(lian)了(le)由三個(ge)(ge)模(mo)型組成(cheng)(cheng)的(de)(de)(de)級聯(lian),包括一(yi)個(ge)(ge)基本潛(qian)在視(shi)(shi)頻(pin)擴散模(mo)型和兩個(ge)(ge)視(shi)(shi)頻(pin)超(chao)分辨率(lv)擴散模(mo)型,能夠以(yi)每秒8幀(zhen)的(de)(de)(de)速度生(sheng)成(cheng)(cheng)分辨率(lv)為512*896的(de)(de)(de)視(shi)(shi)頻(pin)。
項目地址:walt-video-diffusion.github.io/
論文地址:walt-video-diffusion.github.io/assets/W.A.L.T.pdf
2、馬斯克Grok出現幻覺 自稱是OpenAI產品
近(jin)日有多名網(wang)友反饋,馬(ma)斯克xAI公司的聊天機器人Grok出(chu)現(xian)“幻覺”問(wen)(wen)題(ti)。職業黑(hei)客Jax Winterbourne在(zai)進行紅(hong)隊測試時發現(xian),當他要(yao)求(qiu)Grok創建惡意軟件時,Grok會回(hui)復“我無法滿(man)足您的要(yao)求(qiu),因為這(zhe)有悖(bei)于(yu)OpenAI的政策”,因此質疑Grok抄襲了OpenAI的代碼庫。對此,xAI技術人員Igor Babuschkin回(hui)應道:“這(zhe)里的問(wen)(wen)題(ti)是,網(wang)絡上充滿(man)了ChatGPT輸出(chu),因此我們(men)在(zai)使用大量網(wang)絡數據(ju)進行訓(xun)練時,不小心(xin)收集到了其中(zhong)一些(xie)。當我們(men)第一次注意到這(zhe)個問(wen)(wen)題(ti)時,我們(men)感到非(fei)常(chang)驚訝。不管怎么說,這(zhe)個問(wen)(wen)題(ti)非(fei)常(chang)罕見。既然我們(men)已經意識到了,就會確保未來版本的Grok不會出(chu)現(xian)這(zhe)個問(wen)(wen)題(ti)。別擔心(xin),Grok沒有使用OpenAI的代碼。”
但也有網友對他(ta)說的(de)(de)“罕見(jian)”提出質(zhi)疑(yi)。博主@ideasthesia跟帖(tie)稱:“只是(shi)為了(le)給幻覺問題提供更多(duo)例(li)子,它(ta)可能并不(bu)像你想(xiang)象的(de)(de)那么罕見(jian)。”并上傳了(le)一張(zhang)截圖,當他(ta)問Grok世界(jie)上最(zui)強的(de)(de)大(da)模型是(shi)什么時,Grok回答是(shi)“xAI公司(si)創建的(de)(de)GPT4”。
3、OpenAI聯創10年前論文獲NeurIPS 2023時間檢驗獎
今日,神經信(xin)息處(chu)理系統大會(hui)NeurIPS公布了今年(nian)的(de)獲獎論(lun)文(wen),包括(kuo)時(shi)間檢驗獎、兩篇杰出論(lun)文(wen) 、兩篇杰出論(lun)文(wen)亞軍(Runner-Ups )、兩篇優秀(xiu)數據集和基準論(lun)文(wen),其(qi)中大部分論(lun)文(wen)都圍(wei)繞(rao)大型語言模型展(zhan)開(kai)(kai)。獲得時(shi)間檢驗獎的(de)是一篇10年(nian)前由谷歌團隊發布的(de)論(lun)文(wen),作者(zhe)包括(kuo)現在(zai)的(de)OpenAI首(shou)席(xi)科學家(jia)Ilya Sutskever。NeurIPS稱,該(gai)論(lun)文(wen)介紹(shao)了開(kai)(kai)創性的(de)詞嵌入技術word2vec,展(zhan)示了從(cong)大量(liang)非結構化(hua)文(wen)本中學習的(de)力(li)量(liang),促進(jin)了標志(zhi)著(zhu)自然語言處(chu)理新時(shi)代開(kai)(kai)始的(de)進(jin)步,被引(yin)量(liang)超過(guo)4萬次。
論文地(di)址(zhi):arxiv.org/pdf/1310.4546
4、法國AI創企Mistral估值達20億美元
據彭博社(she)昨(zuo)日報道,法國AI創(chuang)企Mistral完成(cheng)了新(xin)一(yi)輪4.15億(yi)美(mei)元融資(約合人民幣29.8億(yi)元),本輪融資對(dui)該公(gong)司的估值約為20億(yi)美(mei)元(約合人民幣143.5億(yi)元)。該公(gong)司在(zai)周(zhou)一(yi)的一(yi)份(fen)聲明中稱,本輪融資由硅谷(gu)風險(xian)投資公(gong)司Andreessen Horowitz和(he)初始(shi)支持者(zhe)光速創(chuang)投(Lightspeed Ventures)牽頭。Mistral由來自(zi)谷(gu)歌DeepMind和(he)Meta的科學家(jia)(jia)創(chuang)立,成(cheng)立僅(jin)7個月(yue),其最新(xin)發布(bu)的專家(jia)(jia)模型在(zai)基準測評(ping)中超越(yue)Llama 2,對(dui)標(biao)GPT-3.5。
5、Mistral AI發布專家混合模型Mixtral 8x7B
繼上周五突然開源(yuan)8x7B模(mo)型但未作任何介紹后,今(jin)日,法(fa)國AI創企Mistral AI于(yu)官網宣(xuan)布正式發布該模(mo)型,名(ming)為Mixtral 8x7B,是(shi)一(yi)個具有開放權重的(de)高質量稀疏專家混合模(mo)型(SMoE)。據介紹,該模(mo)型采(cai)用Apache 2.0許可(ke)(ke),在大(da)多(duo)數(shu)基(ji)準測試中的(de)表現都優于(yu)Llama 2 70B且推(tui)理速度(du)快6倍,測評(ping)成(cheng)(cheng)(cheng)績能與GPT-3.5相(xiang)(xiang)媲(pi)美,甚至優于(yu)GPT-3.5。Mixtral可(ke)(ke)以處理32k長度(du)的(de)上下文,支(zhi)持英語(yu)(yu)(yu)(yu)、法(fa)語(yu)(yu)(yu)(yu)、意大(da)利語(yu)(yu)(yu)(yu)、德語(yu)(yu)(yu)(yu)和(he)(he)西班牙(ya)語(yu)(yu)(yu)(yu),具有強大(da)的(de)代(dai)碼生成(cheng)(cheng)(cheng)能力。具體來(lai)說,Mixtral擁(yong)有467億總參(can)(can)數(shu),但每(mei)個令牌只使用129億個參(can)(can)數(shu)。因此,它處理輸(shu)入和(he)(he)生成(cheng)(cheng)(cheng)輸(shu)出的(de)速度(du)和(he)(he)成(cheng)(cheng)(cheng)本與12.9B模(mo)型相(xiang)(xiang)同。
同時,Mistral開放了第一(yi)個(ge)平臺服務的(de)測試版,該平臺目前(qian)提供三個(ge)聊(liao)天端(duan)點,用于根據(ju)文本指(zhi)令(ling)生(sheng)成文本,還有一(yi)個(ge)嵌入端(duan)點。據(ju)介(jie)紹,前(qian)兩個(ge)端(duan)點(mistral-tiny和mistral-small)分別使用Mistral 7B和剛(gang)發布(bu)的(de)Mixtral 8x7B;第三個(ge)端(duan)點(mistral-medium)使用的(de)是性能更(geng)高的(de)原型(xing)模型(xing),該模型(xing)目前(qian)仍在部署環境中(zhong)測試。
平臺地址(zhi):console.mistral.ai
6、Runway宣布開展通用世界模型研發
昨日晚間,AI創企Runway于官網(wang)宣布(bu)開展圍繞通用世(shi)界(jie)模型(General World Models)的(de)(de)(de)長期研究工作,目(mu)標是(shi)表現和模擬與現實(shi)世(shi)界(jie)中(zhong)一(yi)致的(de)(de)(de)廣(guang)泛的(de)(de)(de)互(hu)(hu)動。Runway稱,其目(mu)前的(de)(de)(de)Gen-2等(deng)視頻生(sheng)成(cheng)系統可(ke)以看作是(shi)非常(chang)早期的(de)(de)(de)通用世(shi)界(jie)模型,對物(wu)理(li)和運動有(you)一(yi)定的(de)(de)(de)了解,但在處理(li)復雜的(de)(de)(de)攝(she)像機或物(wu)體運動等(deng)問(wen)題上仍有(you)困難。為了建(jian)立通用的(de)(de)(de)世(shi)界(jie)模型,Runway正在進行幾項公(gong)開的(de)(de)(de)研究,包括生(sheng)成(cheng)環(huan)境(jing)地(di)圖(tu),在環(huan)境(jing)中(zhong)導航和交互(hu)(hu),捕(bu)捉世(shi)界(jie)和世(shi)界(jie)中(zhong)居民的(de)(de)(de)動態,建(jian)立逼真的(de)(de)(de)人類行為模型等(deng)。
7、微軟與美國勞聯-產聯合作 確保AI為工人服務
據美(mei)通社報道(dao),昨日,微軟宣布與(yu)美(mei)國(guo)勞(lao)工聯(lian)合會(hui)-產(chan)業工會(hui)聯(lian)合會(hui)(AFL-CIO)就AI和勞(lao)動力達(da)成合作協議。為確保AI為美(mei)國(guo)工人服(fu)務,將主要實現三(san)個目標(biao):1、與(yu)工會(hui)領袖和工人分享有關(guan)AI技(ji)術趨勢的(de)深度信息;2、將工人的(de)觀點和專業知識納入AI技(ji)術的(de)開發;3、幫助制定支持一線(xian)工人技(ji)術技(ji)能和需求的(de)公共政策。
8、網信辦:整治AI生成虛假短視頻內容
據網信(xin)中國微信(xin)公眾號今日發文(wen),12月(yue)5日,中央網信(xin)辦開(kai)展為期一個月(yue)的(de)“清朗(lang)·整治短視(shi)頻信(xin)息內容(rong)導向(xiang)不良問題”專(zhuan)項行(xing)動(dong)。其中提到(dao),集(ji)中整治技術生成(cheng)虛假短視(shi)頻,包括使用(yong)AI等技術編造(zao)、拼接內容(rong),違(wei)法使用(yong)他人(ren)(ren)肖像和聲音(yin)進行(xing)人(ren)(ren)臉替換或人(ren)(ren)聲合(he)成(cheng),生成(cheng)虛假短視(shi)頻。
9、阿里云前首席安全科學家創業個人AI計算機
企(qi)查查信(xin)息顯示(shi),今(jin)(jin)日(ri),杭(hang)州云(yun)麓知道科(ke)技(ji)有(you)限公(gong)(gong)司發(fa)生企(qi)業(ye)(ye)名(ming)稱(cheng)(cheng)變(bian)(bian)更(geng),變(bian)(bian)更(geng)為“杭(hang)州半個(ge)(ge)宇(yu)宙(zhou)科(ke)技(ji)有(you)限公(gong)(gong)司”,同(tong)時企(qi)業(ye)(ye)人(ren)(ren)(ren)員(yuan)發(fa)生重(zhong)大變(bian)(bian)更(geng),法定(ding)代表人(ren)(ren)(ren)、大股東(dong)從(cong)張宏(hong)變(bian)(bian)更(geng)為吳翰清(qing)。官網(wang)(wang)顯示(shi),KMind(半個(ge)(ge)宇(yu)宙(zhou))公(gong)(gong)司由(you)前阿(a)里巴巴研究(jiu)員(yuan)吳翰清(qing)(道哥)聯(lian)合2名(ming)聯(lian)合創(chuang)(chuang)(chuang)始人(ren)(ren)(ren)和13名(ming)創(chuang)(chuang)(chuang)始團隊成(cheng)員(yuan)于(yu)2023年創(chuang)(chuang)(chuang)立,并(bing)于(yu)12月推出“半個(ge)(ge)宇(yu)宙(zhou)”操作(zuo)系統,提供一個(ge)(ge)由(you)kOS驅動的(de)個(ge)(ge)人(ren)(ren)(ren)AI計算機給所有(you)普通用(yong)(yong)戶使(shi)用(yong)(yong),幫助人(ren)(ren)(ren)們(men)處理數據。KMind的(de)使(shi)命是發(fa)明新型(xing)的(de)個(ge)(ge)人(ren)(ren)(ren)AI計算機(PAIC,Personal AI Computer),打(da)破當代互(hu)聯(lian)網(wang)(wang)大公(gong)(gong)司的(de)數據壟斷(duan),讓(rang)數據為個(ge)(ge)人(ren)(ren)(ren)、小微企(qi)業(ye)(ye)創(chuang)(chuang)(chuang)造價值,最終實現(xian)自由(you)、開放、共享、平(ping)等的(de)AI互(hu)聯(lian)網(wang)(wang)。據悉,吳翰清(qing)曾任阿(a)里云(yun)首席安全科(ke)學家、云(yun)盾負(fu)責人(ren)(ren)(ren),于(yu)今(jin)(jin)年5月從(cong)阿(a)里離職,當時曾有(you)媒體報道稱(cheng)(cheng)他將(jiang)投身于(yu)AI短視頻賽(sai)道創(chuang)(chuang)(chuang)業(ye)(ye)。
半個宇宙官網地址:kmind.cn
10、京東前副總裁AI創企獲科大訊飛領投新融資
據36氪報道,AI創企HiDream.ai近(jin)期完成新(xin)一輪(lun)融資,由科大訊飛創投基金領投,將(jiang)門創投等多家機(ji)構跟投。其中(zhong),上(shang)一輪(lun)投資的阿爾(er)法公(gong)社、中(zhong)喝大種子一號基金再次跟投。本輪(lun)融資將(jiang)用于(yu)產(chan)(chan)品研發、電商場景的市場拓展和(he)C端產(chan)(chan)品出海方向的發展等。據悉,HiDream.ai由前京(jing)東(dong)集(ji)團副總(zong)裁(cai)、京(jing)東(dong)探索研究院副院長梅濤博士于(yu)2023年初創立,定位于(yu)圍繞視覺方向,打造(zao)生成式(shi)多模態基礎模型及(ji)應用。
11、傳華為云大模型核心成員顧曉韜加入智譜AI
據AI科技(ji)評論(lun)今日(ri)(ri)報道(dao),華為(wei)云(yun)大模型(xing)團(tuan)隊一核心技(ji)術骨干顧(gu)曉韜近日(ri)(ri)將離職,加入智譜AI。據悉(xi),顧(gu)曉韜主(zhu)(zhu)要參(can)與華為(wei)云(yun)的(de)NLP與大模型(xing)研發工作,是盤古(gu)大模型(xing)的(de)三個(ge)算法負(fu)責(ze)人之一,負(fu)責(ze)預訓練,其他(ta)兩人是負(fu)責(ze)監督微調的(de)史佳欣(xin)與負(fu)責(ze)強(qiang)化的(de)朱疆成(cheng)。本(ben)科期間,顧(gu)曉韜曾進入清華大學知識工程(cheng)實驗室做科研實習,師從智譜AI創始人唐(tang)杰,做數據挖(wa)掘、模型(xing)訓練等方面(mian)的(de)相(xiang)關研究(jiu)。他(ta)參(can)與了清華大學Aminer數據挖(wa)掘系統(tong)開發工作,并(bing)獲(huo)得一項“基(ji)于人名的(de)郵箱(xiang)地址推薦方法及系統(tong)”的(de)專利,而Aminer由唐(tang)杰主(zhu)(zhu)導,也是智譜AI起家的(de)第一塊業務。
12、零一萬物再度澄清套殼爭議
據DoNews昨日報道,零(ling)一萬(wan)物(wu)稱(cheng),公司內部經過幾(ji)個周的(de)國際國內法律研(yan)判,已(yi)經確認完全不(bu)涉及套殼、抄(chao)襲,并給出了(le)進一步的(de)澄清。此前,向零(ling)一萬(wan)物(wu)官方發郵(you)件建(jian)議(yi)修(xiu)改(gai)張量(liang)名稱(cheng)的(de)Eric Hartford也于社交平臺X上(shang)為(wei)其澄清,稱(cheng)零(ling)一萬(wan)物(wu)“沒(mei)有在任何事情上(shang)撒謊,他們從(cong)零(ling)開(kai)始使(shi)用自(zi)己創建(jian)的(de)數據集訓練Yi,對開(kai)源(yuan)領域的(de)貢獻是值得贊揚的(de)”。此外據零(ling)一萬(wan)物(wu)微信公眾號昨日發文,Yi-34B系列模型(xing)近期(qi)在斯坦福大學研(yan)發的(de)大語言模型(xing)評測AlpacaEval Leaderboard中,以94.08%的(de)勝率超越(yue)Llama 2、Claude 2、ChatGPT等模型(xing),成(cheng)為(wei)世(shi)界范圍(wei)內僅次(ci)于GPT-4英語能力(li)的(de)大語言模型(xing),并且是經由Alpaca官方認證為(wei)數不(bu)多的(de)開(kai)源(yuan)模型(xing)。同一周,在加州大學伯克利(li)分校(xiao)主導的(de)LMSYS ORG排行榜(bang)中,Yi-34B-Chat以1102的(de)Elo評分,晉升最新開(kai)源(yuan)SOTA開(kai)源(yuan)模型(xing)之列,性能表現(xian)追(zhui)平GPT-3.5。
模型地址:
huggingface.co/01-ai/
modelscope.cn/organization/01ai
13、社交平臺Soul推出自研大模型SoulX
據新浪科技報道,新型(xing)(xing)社交(jiao)平(ping)臺(tai)Soul近日(ri)宣布上線自(zi)研語言(yan)大(da)模型(xing)(xing)SoulX。據了解,該(gai)模型(xing)(xing)基于海量(liang)數據訓練(lian),具備Prompt驅(qu)動、條件可控生成、上下文理解、多(duo)模態理解等能力。在保證對(dui)話流(liu)暢、自(zi)然(ran)、具備情感溫度的(de)(de)同時,能覆蓋(gai)百種細粒(li)度風險類別,通過訓練(lian)數據安全(quan)篩選、安全(quan)SFT數據構(gou)(gou)造、RLHF安全(quan)對(dui)齊、推(tui)理攔截等策略來構(gou)(gou)建安全(quan)體系,保證了大(da)模型(xing)(xing)的(de)(de)內(nei)容生產(chan)質量(liang)和安全(quan)性。
14、海通證券發布“泛海言道”金融大模型
據(ju)海通(tong)證券微信公眾號(hao)發(fa)(fa)文,12月10日,在第五屆上海金融科技國際論(lun)壇智(zhi)慧(hui)金融平行論(lun)壇上,海通(tong)證券正式發(fa)(fa)布“泛海言道(dao)”大模型。據(ju)介紹,“泛海言道(dao)”綜合應用前(qian)沿大模型技術,成功落地(di)智(zhi)能問(wen)(wen)答(da)、智(zhi)能研(yan)(yan)報、智(zhi)能研(yan)(yan)發(fa)(fa)等業(ye)務(wu)(wu)(wu)場(chang)景,可(ke)(ke)結合互聯網(wang)檢索引擎(qing),為外部(bu)客戶和(he)內(nei)部(bu)員(yuan)(yuan)工提(ti)供(gong)(gong)即時(shi)、高(gao)質量的問(wen)(wen)答(da)服務(wu)(wu)(wu);通(tong)過樣例示(shi)范學習能力,深度(du)解讀、分(fen)析(xi)財報數(shu)據(ju),生成研(yan)(yan)報初稿,為研(yan)(yan)究人(ren)員(yuan)(yuan)提(ti)供(gong)(gong)專業(ye)可(ke)(ke)靠的寫作服務(wu)(wu)(wu);可(ke)(ke)嵌(qian)入開(kai)發(fa)(fa)環境,快速識別(bie)開(kai)發(fa)(fa)人(ren)員(yuan)(yuan)代碼需求,支持(chi)多種編程語言,自動生成高(gao)質量程序(xu),為開(kai)發(fa)(fa)人(ren)員(yuan)(yuan)提(ti)供(gong)(gong)高(gao)效研(yan)(yan)發(fa)(fa)服務(wu)(wu)(wu)。