智東西（公眾號：zhidxcom）
作者 | ?ZeR0
編輯 | ?漠影
幫云(yun)客戶(hu)快速構建(jian)生(sheng)成式AI應用這件事，正(zheng)被全球(qiu)最大云(yun)計算(suan)巨頭亞(ya)馬遜云(yun)科技(ji)做得越來越完善。
在7月11日舉行的亞馬遜云科技紐約峰會上，亞馬遜云科技大曬生成式AI成績單：96%的AI/ML獨角獸將其業務跑在亞馬遜云科技上， 2024福布斯AI 50榜單中有90%的企業使(shi)用了亞馬遜云科(ke)技。
亞馬遜云科技AI產品副總裁Matt Wood博士闡述了企業如何通過亞馬遜云科技高效、大規模地整合過去十年的重大技術突破。據他分享，過去18個月，亞馬遜云科技已發布326項生成式AI功能，所提供的正式可用的機器學習和生成式AI的產品功能數量是其他主要云服務提供商總和的兩倍之多。
在此基(ji)礎上，亞馬遜云科技(ji)發布了一(yi)系列生(sheng)成(cheng)式AI技(ji)術棧的(de)更新(xin)，進一(yi)步降低根據個(ge)性化需求(qiu)定(ding)制生(sheng)成(cheng)式AI的(de)門檻，讓人人都能輕松構建(jian)企業級(ji)生(sheng)成(cheng)式AI應用。
▲亞馬遜云科技(ji)(ji)生成(cheng)式AI三層技(ji)(ji)術(shu)棧
新(xin)(xin)發布包括Amazon Bedrock及(ji)Amazon Q的多項(xiang)更(geng)新(xin)(xin)。其(qi)中，Amazon Bedrock更(geng)新(xin)(xin)了微調Anthropic Claude 3 Haiku、Guardrails（安全(quan)防(fang)護）和(he)Agents（智能(neng)體）等(deng)功能(neng)；Amazon Q Apps讓人人都能(neng)用自然語言指令在幾秒鐘內創建生成(cheng)式AI應用；Amazon Q Developer集成(cheng)到Amazon SageMaker Studio中并(bing)正式可用，使得機器學習模(mo)型的開發過程更(geng)加便捷。
這些(xie)更(geng)新(xin)將提供(gong)更(geng)高的生成(cheng)結(jie)果(guo)準確性(xing)、更(geng)好的記(ji)憶功能(neng)、更(geng)方便的模型評估和(he)(he)治理、更(geng)全面的應用(yong)安(an)全和(he)(he)隱私(si)保(bao)護(hu)機制，幫助用(yong)戶(hu)更(geng)加快速、安(an)全、輕松地構建和(he)(he)部署(shu)生成(cheng)式AI應用(yong)。
此外(wai)，亞馬遜云科技還推出了一項生(sheng)成式AI驅動的(de)企(qi)(qi)業級(ji)應用Amazon App Studio的(de)預覽版，讓IT項目經(jing)理(li)、數據工程師和企(qi)(qi)業架(jia)構師等專業開發人員(yuan)使用自然語言在整個組織內創建、部署(shu)和管(guan)理(li)企(qi)(qi)業應用程序。
一、直擊生成式AI應用多重痛點，構建更安全的防護措施
Amazon Bedrock是亞馬遜云科技(ji)(ji)生(sheng)成式AI技(ji)(ji)術棧的(de)中間層(ceng)，就像一個大(da)模(mo)(mo)(mo)型貨架般，提供了廣泛的(de)大(da)語言模(mo)(mo)(mo)型及其他基礎模(mo)(mo)(mo)型選擇(ze)以及各種(zhong)好用工具，使構建(jian)、部(bu)署和擴展生(sheng)成式AI應用變得輕(qing)松快捷。
它(ta)已成為亞(ya)馬遜云(yun)科技過(guo)去十年(nian)中增長最快的(de)服務之一(yi)，被數(shu)萬客戶所(suo)使(shi)用。
針對生成式AI長期被詬病的無法獲取專屬知識、胡說八道的幻覺、缺乏長期記憶等應用痛點，Amazon Bedrock推出多(duo)項功能更(geng)新，以提升用戶使用生成式AI應用的體驗，具體包括：
1、知識庫功能增強Amazon Bedrock的數據連據器范圍，加入了對廣泛使用的第三方Web域數據源的連接，包括Confluence、Salesforce、SharePoint上的數據都可(ke)以(yi)輕松接入到Amazon Bedrock中，使得在這些Web域中存(cun)儲日常數據的用戶能夠更方便地將生成式AI帶入日常應用場景中。
2、在Guardrails中推出基于上下文基礎檢查的幻覺檢測功能。用(yong)戶(hu)可在Guardrails中(zhong)設置(zhi)針對生成結(jie)果準(zhun)確性的(de)關(guan)聯值，低于這一設定閾值的(de)生成結(jie)果就會被Guardrails判定為不(bu)相關(guan)的(de)幻(huan)覺(jue)結(jie)果并(bing)不(bu)予顯(xian)示。這項功(gong)能通過(guo)對上(shang)下文的(de)基(ji)礎性檢(jian)查來(lai)提(ti)供，以(yi)更(geng)好避免基(ji)礎模型產生的(de)幻(huan)覺(jue)問題。
3、推出新API服務ApplyGuardrail，用(yong)(yong)于評估所有基(ji)礎(chu)模(mo)(mo)(mo)型(xing)的(de)(de)(de)(de)輸入提(ti)示和響(xiang)應(ying)，使(shi)得用(yong)(yong)戶(hu)能夠在任何基(ji)礎(chu)模(mo)(mo)(mo)型(xing)上使(shi)用(yong)(yong)Guardrails，即使(shi)是那些不(bu)受Amazon Bedrock支持的(de)(de)(de)(de)基(ji)礎(chu)模(mo)(mo)(mo)型(xing)。構建者都可以配置一套標準(zhun)化的(de)(de)(de)(de)防(fang)護措施，以確(que)保其應(ying)用(yong)(yong)中的(de)(de)(de)(de)模(mo)(mo)(mo)型(xing)輸入提(ti)示和模(mo)(mo)(mo)型(xing)響(xiang)應(ying)擁有更加(jia)一致的(de)(de)(de)(de)表現。
4、Agent功能推出跨多個交互的記憶保留特性，解決(jue)生成式AI“記不住(zhu)”的問題，可(ke)記錄用(yong)(yong)戶(hu)之前的歷(li)史交互信息，并基于(yu)此提供更(geng)為(wei)精準的個(ge)(ge)性化服務(wu)推薦(jian)。基于(yu)該功能構建的Agent，能夠隨(sui)時間推移(yi)學習并適(shi)應(ying)每個(ge)(ge)用(yong)(yong)戶(hu)的獨特需求和偏好(hao)，同時多個(ge)(ge)記憶之間完(wan)全分離，每個(ge)(ge)用(yong)(yong)戶(hu)的對話歷(li)史和上下(xia)文都會安全地存儲在(zai)唯一的記憶ID之下(xia)，有(you)助于(yu)提升復(fu)雜任(ren)務(wu)代理下(xia)的用(yong)(yong)戶(hu)體驗。
5、Agent功能上線代碼解釋，支持Agent在安(an)(an)全(quan)的(de)沙箱環境中動態生成和(he)(he)運(yun)行代碼片段，從而顯著提升其(qi)處理復(fu)雜任務的(de)能力，包括數(shu)據(ju)分析、可視(shi)化、文本處理、方程(cheng)求解和(he)(he)優化問題等(deng)，并支持多種數(shu)據(ju)類型和(he)(he)格式(shi)，同時(shi)在需要時(shi)由大(da)語言(yan)模型決定是否調用該功(gong)能，以確(que)保靈活(huo)性和(he)(he)安(an)(an)全(quan)性。
6、推出微調Anthropic Claude 3 Haiku功能的預覽版，至此Amazon Bedrock成為唯一一款可以對Anthropic Claude系列模(mo)型進行微調的(de)全托管(guan)服務，支持(chi)開(kai)發者(zhe)利用自有(you)數據(ju)定制應用程序(xu)，或在確保私有(you)訓練數據(ju)安全的(de)前提下，訓練模(mo)型的(de)專屬副本。
與此同時，Amazon MemoryDB的向量搜索功能已正式可用。Amazon MemoryDB以最(zui)高的召回率提(ti)供最(zui)快的向量(liang)搜索性(xing)能(neng)，非常適(shi)合需(xu)要個位數(shu)毫(hao)秒延遲的使(shi)用(yong)案例。此前(qian)亞馬(ma)遜云(yun)科技已(yi)在一些最(zui)受(shou)歡(huan)迎的數(shu)據服務(wu)中推出了向量(liang)搜索功能(neng)。
二、Amazon Q全面出擊，讓生成式AI觸手可及
位于亞馬遜云科技生(sheng)成式AI技術棧頂端的(de)Amazon Q，定位是一(yi)個全面的(de)生(sheng)成式AI助手，能生(sheng)成精(jing)準的(de)代碼建(jian)議，還能自動(dong)執行升級Java應用程(cheng)序、生(sheng)成并實施新功能等復雜(za)任務。
Amazon Q包(bao)括面向開發者(zhe)的(de)Amazon Q Developer和面向企業(ye)(ye)應(ying)用(yong)的(de)Amazon Q Business。它(ta)可以幫助(zhu)員工(gong)充分利(li)用(yong)公司文(wen)檔、系統和應(ying)用(yong)程(cheng)序中的(de)海量數(shu)據和信息，通(tong)過回答問(wen)題、提供總結、生(sheng)成商業(ye)(ye)智能(neng)（BI）儀表板和報告，乃至生(sheng)成自動化關鍵任務的(de)應(ying)用(yong)程(cheng)序。
先來看下已經集成到Amazon SageMaker Studio中的Amazon Q Developer，通(tong)過簡單(dan)的聊天式交互，就能為構建機(ji)器學習模型推薦最(zui)佳工具(ju)、提供(gong)分(fen)步指導、生成入門(men)代碼、日常答疑(yi)解(jie)惑，并在遇到錯誤時(shi)提供(gong)故障排(pai)除(chu)幫助。它(ta)還能為開(kai)發者量身定制針對機(ji)器學習開(kai)發生命周期的詳(xiang)細執行計劃。
機器(qi)學(xue)習模(mo)型開發過程(cheng)很復(fu)雜(za)，數(shu)(shu)(shu)據科學(xue)家往往要花費(fei)大量時(shi)間(jian)來尋找合適的(de)工(gong)具、文(wen)檔(dang)或方法。而現在借助(zhu)這項(xiang)服務，數(shu)(shu)(shu)據科學(xue)家有望(wang)節省(sheng)數(shu)(shu)(shu)周甚(shen)至(zhi)數(shu)(shu)(shu)月的(de)工(gong)作時(shi)間(jian)。
Amazon Q Developer已經擴展到在(zai)用戶(hu)自己的(de)(de)集成開(kai)發(fa)環(huan)境IDE中(zhong)，并(bing)提供自定義功能，以在(zai)用戶(hu)的(de)(de)IDE代(dai)碼(ma)編輯(ji)器和聊天(tian)中(zhong)提供基于開(kai)發(fa)者私有(you)代(dai)碼(ma)庫生成的(de)(de)代(dai)碼(ma)建(jian)議，使(shi)開(kai)發(fa)者能夠更好地(di)打造其(qi)專屬的(de)(de)代(dai)碼(ma)助手。
開發人(ren)員(yuan)可在Amazon Management Console以及IntelliJ IDEA、Visual Studio、VS Code和Amazon SageMaker Studio等主(zhu)流(liu)的集成(cheng)開發環境中使用(yong)Amazon Q Developer，可使用(yong)內部代(dai)碼庫安(an)全定(ding)制Amazon Q Developer，從(cong)而(er)獲得更(geng)相關、更(geng)有用(yong)的內聯(lian)編碼建議，大(da)幅(fu)節(jie)省時間(jian)。
為了讓每位員工都能輕松創建自己的生成式AI應用程序，實現任務自動化，Amazon Q Business中的Amazon Q Apps功能也正式可用。
Amazon Q Business支(zhi)持(chi)軟件開(kai)發(fa)、數據分析洞察和內容創作(zuo)等多種生(sheng)(sheng)成(cheng)式AI任務(wu)，Amazon Q Apps則更(geng)進(jin)一步(bu)強(qiang)化這項服務(wu)的(de)能力，使得(de)不具備(bei)技術背(bei)景的(de)用戶也(ye)能在幾秒鐘內構建基于企業數據的(de)生(sheng)(sheng)成(cheng)式AI應用。
操作非常(chang)簡便，只需用(yong)(yong)自然語言簡單描述所需應用(yong)(yong)程(cheng)序的功(gong)能(neng)，例(li)如，用(yong)(yong)戶提(ti)出“請從會議(yi)記錄中提(ti)取行(xing)動要點”或“我需要協助撰寫公司文件”，Amazon Q就能(neng)快速生成(cheng)應用(yong)(yong)程(cheng)序自動完成(cheng)這(zhe)些(xie)任務，并持(chi)續提(ti)供(gong)高(gao)效服務。
Amazon Q提供了一鍵生成應(ying)用程序的功(gong)能，讓員工能夠從現有對話中(zhong)快(kuai)速(su)創建應(ying)用程序，并支持安全地將其(qi)發布(bu)到企業內(nei)部(bu)的應(ying)用程序庫Amazon Q Apps Library中(zhong)，并添加多個應(ying)用類(lei)型(xing)標簽，從方便企業內(nei)的使用者快(kuai)速(su)查(cha)找其(qi)所需的Q Apps應(ying)用。
亞馬遜云科技還推出了一款生成式AI服務Amazon App Studio的預覽版，將開發(fa)(fa)企(qi)業(ye)級應用(yong)的(de)能力擴展到(dao)開發(fa)(fa)人(ren)員之外(wai)，以便IT項目(mu)經理、數據工程師(shi)和企(qi)業(ye)架構(gou)師(shi)等專(zhuan)業(ye)開發(fa)(fa)人(ren)員使用(yong)自然語(yu)言在整個組織內創建(jian)、部署和管理企(qi)業(ye)應用(yong)程序。
同(tong)樣，用(yong)戶可以通過(guo)自然語言描述其(qi)特性和功能需求以及需要(yao)整(zheng)合的(de)數據源，App Studio便能在幾分鐘內(nei)構(gou)建出一個類(lei)似的(de)應用(yong)程序，還能夠(gou)通過(guo)點(dian)選式(shi)界面進行修改。相比之下，傳統上專業(ye)開(kai)發人員從頭開(kai)始構(gou)建，可能要(yao)花費(fei)幾天。
App Studio的生成式(shi)AI助手消除(chu)了(le)傳統低代碼工具的學習曲線，加速了(le)應用(yong)程序(xu)的創(chuang)建過程，并簡化了(le)設計(ji)UI、構(gou)建工作流(liu)程和測試應用(yong)程序(xu)等常見任務。每個(ge)應用(yong)程序(xu)都(dou)可以(yi)迅速擴(kuo)展至數千名用(yong)戶，同時由亞馬遜(xun)云科技提(ti)供全面(mian)的安全管理(li)，無需任何(he)運營專業知識。
結語：全面加速生成式AI落地，亞馬遜云科技給出參考樣本
生成(cheng)(cheng)式AI提供(gong)了前所未有(you)的(de)(de)生產(chan)力提升(sheng)工具(ju)，但怎(zen)么讓不具(ju)備技(ji)(ji)術(shu)(shu)背(bei)景的(de)(de)企業也能(neng)更(geng)快(kuai)享受到生成(cheng)(cheng)式AI帶來的(de)(de)便利(li)，對(dui)云服(fu)務供(gong)應商提出不小(xiao)的(de)(de)考驗(yan)。已(yi)經穩坐全(quan)球最大云計算巨頭(tou)的(de)(de)亞馬遜(xun)云科技(ji)(ji)，同樣希望成(cheng)(cheng)為企業構建(jian)和(he)應用(yong)生成(cheng)(cheng)式AI的(de)(de)首(shou)選(xuan)，其遍布生成(cheng)(cheng)式AI各技(ji)(ji)術(shu)(shu)棧(zhan)的(de)(de)更(geng)新則(ze)正在(zai)進一步加速這一愿景的(de)(de)實(shi)現。
亞馬遜云科技認為要讓企業的(de)(de)所有員工(gong)能用生成(cheng)(cheng)(cheng)式(shi)AI提升(sheng)工(gong)作效(xiao)率，不僅需要強大(da)的(de)(de)基礎模型，而(er)且需要具備全方位的(de)(de)能力來構建和(he)(he)擴(kuo)展定制(zhi)化的(de)(de)生成(cheng)(cheng)(cheng)式(shi)AI應用，包括(kuo)內嵌生成(cheng)(cheng)(cheng)式(shi)AI的(de)(de)應用程(cheng)序、快速實驗和(he)(he)構建自(zi)有生成(cheng)(cheng)(cheng)式(shi)AI應用程(cheng)序的(de)(de)工(gong)具、高(gao)性價比且高(gao)效(xiao)的(de)(de)基礎設施，以及嚴(yan)密的(de)(de)安全控制(zhi)和(he)(he)防護措施。
對此，亞馬(ma)遜云科技(ji)正通(tong)過(guo)構(gou)建全(quan)面(mian)的生成式(shi)AI技(ji)術棧(zhan)，包攬從(cong)構(gou)建到部(bu)署過(guo)程(cheng)中(zhong)的常(chang)見“煩心事”，降低技(ji)術認(ren)知和實操門檻，將(jiang)生成式(shi)AI落(luo)地的成本打下來(lai)，將(jiang)簡單留給用戶(hu)。這為(wei)云計算(suan)企業如何更好服務于生成式(shi)AI落(luo)地提供了(le)參考樣本。
除(chu)了不斷(duan)完善技(ji)術(shu)棧(zhan)外，亞(ya)馬(ma)遜云(yun)科技(ji)也通過積極拓(tuo)寬合(he)作伙伴版圖，來(lai)推動對生(sheng)成式AI生(sheng)態(tai)的擴張。
繼今年3月推(tui)出(chu)業內(nei)首個生成式AI能力認(ren)證后，亞馬遜云科(ke)技(ji)在紐約峰會上宣布了全球第二批獲得該能力認(ren)證的(de)合(he)作(zuo)伙(huo)伴，其中有11家來自中國的(de)合(he)作(zuo)伙(huo)伴，包括伊克羅德、柯基數(shu)據、八斗智能、墨奇科(ke)技(ji)、神(shen)州數(shu)碼、聚云科(ke)技(ji)、神(shen)州泰(tai)岳(yue)、靈奧(ao)科(ke)技(ji)、Zilliz、跨(kua)海(hai)科(ke)技(ji)和(he)華訊網絡。
獲得認(ren)證(zheng)的(de)企業在利(li)用亞馬遜云科(ke)技(ji)生成(cheng)式AI技(ji)術方面擁有(you)專(zhuan)業知識(shi)、實(shi)踐(jian)經(jing)驗和成(cheng)功案例方面已經(jing)得到驗證(zheng)與(yu)認(ren)可。截至目前(qian)，全(quan)球有(you)60余家合(he)作伙(huo)伴獲得了(le)(le)該認(ren)證(zheng)。亞馬遜云科(ke)技(ji)生成(cheng)式AI與(yu)機器(qi)學習市(shi)場推(tui)廣全(quan)球副總裁Rahul Pathak分享說，這些合(he)作伙(huo)伴已經(jing)在全(quan)球范圍內幫助客(ke)戶構(gou)建和部署了(le)(le)許(xu)多生成(cheng)式AI工作負載，取得了(le)(le)顯著(zhu)成(cheng)就和積極影響。
