智東西(公眾號:zhidxcom)
作者 | ?ZeR0
編輯 | ?漠影

智東(dong)(dong)(dong)西(xi)(xi)7月8日報(bao)道(dao),6月19日,在亞(ya)(ya)馬遜(xun)云(yun)科技(ji)中國峰(feng)會(hui)上,亞(ya)(ya)馬遜(xun)云(yun)科技(ji)全(quan)(quan)球技(ji)術(shu)總(zong)經理Shaown Nandi發表主(zhu)題(ti)演講,分享了亞(ya)(ya)馬遜(xun)云(yun)科技(ji)在云(yun)以(yi)及AI領域的(de)最新技(ji)術(shu)洞察和進展。會(hui)后(hou),Shaown Nandi接受智東(dong)(dong)(dong)西(xi)(xi)等媒體的(de)采訪,他告訴智東(dong)(dong)(dong)西(xi)(xi),亞(ya)(ya)馬遜(xun)云(yun)科技(ji)Amazon Bedrock平臺為構(gou)建AI agent提(ti)供了更(geng)多模(mo)型(xing)選擇(ze)和靈活切換能力。借助Amazon Guardrails,用戶可(ke)在更(geng)換模(mo)型(xing)或模(mo)型(xing)版本(ben)(ben)時,無需重構(gou)安全(quan)(quan)防(fang)護策略(lve),簡化(hua)工(gong)作流程(cheng)。此外,用戶還(huan)可(ke)以(yi)通過模(mo)型(xing)蒸餾、提(ti)示詞路由(you)等機制(zhi)優化(hua)成本(ben)(ben)。

每個模(mo)(mo)(mo)型(xing)(xing)通常(chang)都有自己獨立的(de)API接口,而Amazon Bedrock提供的(de)是統一API入口,支持所有模(mo)(mo)(mo)型(xing)(xing)。這(zhe)意味著即使未來更換(huan)模(mo)(mo)(mo)型(xing)(xing),只要(yao)用戶最初(chu)用的(de)是Amazon Bedrock的(de)API,就無需(xu)改變調(diao)用方式,而且可(ke)以(yi)在平臺上選(xuan)擇接入任意可(ke)用的(de)模(mo)(mo)(mo)型(xing)(xing)。

在AI基礎(chu)設施(shi)投入(ru)和短期盈利的(de)平衡(heng)方面(mian),Shaown Nandi稱(cheng)亞馬遜秉持長期主義(yi),致力于(yu)幫助客戶(hu)實(shi)現長遠目標,幾(ji)周前還大(da)幅降低(di)了GPU價(jia)格(ge)以(yi)降低(di)客戶(hu)成(cheng)本。芯片廠商的(de)芯片改進、模型本身(shen)的(de)優(you)化,以(yi)及(ji)亞馬遜云科技的(de)模型蒸(zheng)餾、自動提示(shi)語路(lu)由等(deng)技術,還有(you)對GPU能耗的(de)改進,都能推(tui)動推(tui)理成(cheng)本的(de)下降。

“AI技(ji)術的(de)發(fa)展(zhan)恰如巨(ju)型(xing)海浪的(de)形成:看(kan)似平靜的(de)漣(lian)漪在(zai)特定(ding)條件下也可(ke)演(yan)變為(wei)高達30米(mi)的(de)巨(ju)浪,生成式AI和Agentic AI同樣已(yi)從(cong)小(xiao)規模的(de)突(tu)破(po),發(fa)展(zhan)成當今的(de)超(chao)級浪潮(chao)。而這一(yi)轉變主要由不斷創(chuang)新(xin)的(de)模型(xing)、海量可(ke)用數(shu)據及強大計算能(neng)力的(de)融合所驅動。隨著企業從(cong)謹慎(shen)探索(suo)轉向(xiang)廣泛應(ying)用,以及亞馬遜(xun)云科(ke)技(ji)等領先科(ke)技(ji)公司在(zai)模型(xing)能(neng)力、準確性(xing)(xing)、經濟性(xing)(xing)與安全性(xing)(xing)等方面持續創(chuang)新(xin),這股AI超(chao)級巨(ju)浪正在(zai)重塑全球各個行業。”Shaown Nandi在(zai)演(yan)講(jiang)中談(tan)道。

會后與媒(mei)體溝通期(qi)間(jian),Shaown Nandi進一(yi)步分(fen)享說,Agentic AI和(he)生成式AI已給(gei)很多公司(si)帶(dai)來(lai)了切實可見(jian)的(de)成果。而亞(ya)馬遜(xun)云科(ke)技的(de)服務(wu)能幫(bang)助他們更好(hao)地利(li)用自身(shen)數據(ju)、運力(li)和(he)計算(suan)能力(li)打造(zao)應用,解決業務(wu)難題。

被(bei)問到過去(qu)一兩年亞馬遜(xun)云(yun)科(ke)技從AI agent發(fa)(fa)展中看到的(de)(de)增(zeng)長情(qing)況,他分(fen)享說,客戶使用(yong)和建立AI agent時會生(sheng)成更(geng)多數(shu)據(ju)(ju)需(xu)要存儲,云(yun)存儲是更(geng)好的(de)(de)選擇,客戶對亞馬遜(xun)云(yun)科(ke)技提(ti)供的(de)(de)遷移(yi)數(shu)據(ju)(ju)方(fang)式感到振奮,隨(sui)著AI agent的(de)(de)發(fa)(fa)展,與云(yun)相(xiang)關(guan)的(de)(de)使用(yong)活動(dong)也(ye)在增(zeng)長,且財(cai)富500強中75%的(de)(de)工作負(fu)載仍在本地,未(wei)來遷移(yi)空(kong)間(jian)大(da),AI agent未(wei)來發(fa)(fa)展前景廣闊。

亞馬遜云科(ke)技(ji)(ji)平臺上有(you)很(hen)多好的用(yong)(yong)戶(hu)案(an)例和(he)適(shi)用(yong)(yong)場景,比如在客(ke)戶(hu)服務方面,Agentic AI應用(yong)(yong)旅行公司的一(yi)線坐席更(geng)快更(geng)準(zhun)確地回(hui)應客(ke)戶(hu),加入情緒分析和(he)實時翻譯功能;軟(ruan)件工程領域應用(yong)(yong)增長(chang)也很(hen)快,亞馬遜云科(ke)技(ji)(ji)自己(ji)以及(ji)很(hen)多初(chu)創公司都在Amazon Bedrock上構建了有(you)效的AI agent。

在幫助客(ke)戶將(jiang)AI agent落地到(dao)具體應用場(chang)景(jing)時,亞馬遜云科技有(you)多項獨特優勢,包(bao)括(kuo)提供(gong)(gong)更多模型(xing)(xing)選擇、解(jie)決(jue)無差異化體力活、讓客(ke)戶在構建AI agent時能更快調整和更換模型(xing)(xing),以及擁有(you)韌性的(de)基(ji)礎設施、自研芯片等,能為客(ke)戶提供(gong)(gong)更靈活、可靠(kao)、有(you)效的(de)解(jie)決(jue)方案。

關于(yu)客戶調(diao)用(yong)(yong)模(mo)(mo)型(xing)時(shi)是(shi)集中(zhong)在少數幾個還是(shi)越來越分散(san),Shaown Nandi觀(guan)察到,模(mo)(mo)型(xing)多(duo)樣化趨勢明顯,專業、用(yong)(yong)途明確(que)、能力強的模(mo)(mo)型(xing)不斷出(chu)現(xian),應用(yong)(yong)場景增多(duo),用(yong)(yong)戶模(mo)(mo)型(xing)選擇(ze)持續多(duo)元化。

Shaown Nandi還舉例說明了如何建立(li)生成式AI應用,建議利用Amazon Bedrock時需考(kao)慮模(mo)型選擇、成本(ben)、隱私和私密保護等因素。應用開發方(fang)面(mian),Amazon Transform能(neng)幫助客戶將遺留應用遷移到亞(ya)馬(ma)遜(xun)云科(ke)(ke)技以實現現代化。Agent構(gou)建方(fang)面(mian),亞(ya)馬(ma)遜(xun)云科(ke)(ke)技提供了Amazon Bedrock、Strands Agents等工具。基礎設(she)施方(fang)面(mian),亞(ya)馬(ma)遜(xun)云科(ke)(ke)技在全球(qiu)建立(li)的區(qu)域(yu)和專有區(qu)域(yu)網絡,既與英偉達(da)(da)在云方(fang)面(mian)長(chang)達(da)(da)14年的合(he)作,又有Amazon Trainium、Amazon Graviton等自研芯片(pian),并提供S3 Tables、元數據存儲等高性能(neng)存儲工具。

在他看來(lai),MCP對于(yu)AI agent來(lai)說是(shi)強大的解鎖器(qi)和(he)解碼(ma)器(qi),就像(xiang)通(tong)用(yong)的USB-C,能(neng)讓AI agent更便捷地獲取服務(wu)和(he)數(shu)據,使其更自(zi)主化、智能(neng)化和(he)自(zi)動化,前景廣闊,已有(you)很多客戶及亞馬遜云科技自(zi)身在使用(yong)。

Shaown Nandi稱,所(suo)有類型的AI agent均可由合作(zuo)伙(huo)伴或(huo)生態系統參與(yu)(yu)開發,亞(ya)馬遜云科技(ji)開發的專有agent通常聚焦在自身(shen)有深厚專長的領域,或(huo)受客戶啟發填補市場空白,目標是讓市場有更多選擇。亞(ya)馬遜云科技(ji)重視與(yu)(yu)合作(zuo)伙(huo)伴協同,提供底層技(ji)術能力來幫助他(ta)們開發應用(yong)。

談及(ji)企業級(ji)市場(chang)和(he)C端(duan)市場(chang)在設計(ji)(ji)AI agent的區(qu)別(bie),他認為(wei)企業級(ji)應用(yong)(yong)(yong)在設計(ji)(ji)初期(qi)就需考量安全(quan)性(xing)(xing)和(he)韌(ren)性(xing)(xing),再考慮功能實現(xian),而C端(duan)應用(yong)(yong)(yong)初期(qi)更(geng)關注功能,兩者(zhe)區(qu)別(bie)明顯,企業客戶重視亞(ya)馬遜云科技服務(wu)的韌(ren)性(xing)(xing)、安全(quan)性(xing)(xing)和(he)可控性(xing)(xing),在生(sheng)成式AI使用(yong)(yong)(yong)中,數(shu)據使用(yong)(yong)(yong)與存(cun)儲至關重要,產品設計(ji)(ji)中已(yi)做大(da)量控制以保護信息。

在開(kai)源(yuan)策略上,Shaown Nandi篤定地說,亞馬遜(xun)云科技一直公開(kai)支持開(kai)源(yuan),Strands Agents便(bian)是(shi)一個開(kai)源(yuan)工(gong)具。他相信專有(you)模(mo)型(xing)和開(kai)源(yuan)模(mo)型(xing)并存會給用戶更(geng)(geng)多選擇,也能讓全球開(kai)發(fa)者更(geng)(geng)好地回饋社會、共(gong)同(tong)發(fa)展(zhan)。