北京2023年9月4日 /美通社/ -- 隨著生成式AI的迅速發(fā)展,云廠商的AI開發(fā)者服務(wù)能力成為業(yè)界焦點(diǎn)。日前,Gartner®發(fā)布了《2023年云AI開發(fā)者服務(wù)魔力象限》報告[1]。亞馬遜云科技在報告中被列為"領(lǐng)導(dǎo)者"之一,并在縱軸執(zhí)行能力維度處于最高位置。這是亞馬遜云科技連續(xù)四年位列Gartner云AI開發(fā)者服務(wù)魔力象限"領(lǐng)導(dǎo)者"。
Gartner這一報告評估了參評技術(shù)供應(yīng)商的"執(zhí)行能力"和"愿景完整性"。根據(jù)Gartner的評估標(biāo)準(zhǔn),"領(lǐng)導(dǎo)者需要在所有三個關(guān)鍵服務(wù)領(lǐng)域都有穩(wěn)健的產(chǎn)品:自動化機(jī)器學(xué)習(xí)、語言和視覺。它們可以通過API提供CAIDS(云AI開發(fā)者服務(wù))產(chǎn)品,開發(fā)者無需掌握數(shù)據(jù)科學(xué)專業(yè)知識,也可使用。領(lǐng)導(dǎo)者還提供支持能力,以增強(qiáng)其核心服務(wù),包括自動偏差檢測和緩解、特征工程、自然語言處理、圖像標(biāo)注、MLOps以及可解釋和可詮釋的AI。領(lǐng)導(dǎo)者在多個地區(qū)提供服務(wù),支持多種語言。"
在Gartner發(fā)布的另一份報告《云AI開發(fā)者服務(wù)關(guān)鍵能力》[2]中,亞馬遜云科技在計算機(jī)視覺領(lǐng)域得分3.75(滿分5分),排名所有參評供應(yīng)商第一,同時在AutoML(自動化機(jī)器學(xué)習(xí))和語言處理方面也進(jìn)入前三。
在生成式AI備受矚目的今天,亞馬遜云科技提供完整的生成式AI技術(shù)堆棧,覆蓋算力、基礎(chǔ)模型和應(yīng)用三個層面。亞馬遜云科技生成式AI產(chǎn)品和解決方案進(jìn)一步降低了生成式AI的使用門檻,讓無論是業(yè)務(wù)用戶還是開發(fā)者都能從中受益,助力來自千行百業(yè)的企業(yè)提高生產(chǎn)效率,充分釋放數(shù)據(jù)價值和生成式AI的潛力。
超強(qiáng)算力加速生成式AI和高性能計算應(yīng)用
亞馬遜云科技近日在其紐約峰會上宣布Amazon Elastic Compute Cloud(EC2)P5實(shí)例已正式可用。這是一款下一代GPU實(shí)例,由最新的英偉達(dá)H100 Tensor Core GPU提供支持,可以滿足客戶在運(yùn)行機(jī)器學(xué)習(xí)和高性能計算工作負(fù)載時對高性能和高擴(kuò)展性的需求。
亞馬遜云科技基于Amazon Trainium自研芯片的Amazon EC2 Trn1實(shí)例與基于GPU的同類實(shí)例相比,可節(jié)省高達(dá)50%的訓(xùn)練成本,有助于縮短模型訓(xùn)練時間、快速迭代模型、提升訓(xùn)練準(zhǔn)確度。同時,由第二代Amazon Inferentia加速器支持的Amazon EC2 Inf2實(shí)例與第一代Inf1實(shí)例相比,計算性能提高了3倍,加速器內(nèi)存提高了4倍,吞吐量提高了4倍,延遲降低了10倍。Inf2針對大模型進(jìn)行了優(yōu)化,通過加速器之間的超高速連接支持橫向擴(kuò)展分布式推理,即使是高達(dá)1750億參數(shù)的模型也可以方便部署,高速推理。
降低生成式AI的使用門檻
亞馬遜云科技新推出的基礎(chǔ)模型托管服務(wù)Amazon Bedrock和基礎(chǔ)模型Amazon Titan提供了非常簡單的途徑,讓開發(fā)者借助基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序。亞馬遜云科技進(jìn)一步為Amazon Bedrock提供全面擴(kuò)展,新增Cohere作為基礎(chǔ)模型供應(yīng)商,并加入Anthropic和Stability AI的最新基礎(chǔ)模型,同時發(fā)布變革性的Amazon Bedrock代理(Agents)功能,使開發(fā)人員能夠更輕松地創(chuàng)建基于生成式AI的應(yīng)用程序,以完成各種用例的復(fù)雜任務(wù),并根據(jù)專有知識源提供最新的答案。
在應(yīng)用層面,亞馬遜云科技的AI編程助手Amazon CodeWhisperer 已正式可用。這是一款A(yù)I編程助手,使用基礎(chǔ)模型幫助開發(fā)人員提高工作效率。它可以根據(jù)開發(fā)人員使用自然語言的注釋和IDE(集成開發(fā)環(huán)境)中的歷史代碼實(shí)時生成代碼建議。此外,亞馬遜云科技還發(fā)布了Amazon CodeWhisperer Jupyter擴(kuò)展程序,為Jupyter用戶在Jupyter Lab和Amazon SageMaker Studio中的Python Notebooks生成實(shí)時、單行或完整的函數(shù)代碼建議。
此外,久負(fù)盛名的Amazon SageMaker讓開發(fā)者能夠快速、輕松地準(zhǔn)備數(shù)據(jù),規(guī)?;瘶?gòu)建、訓(xùn)練和部署高質(zhì)量的大型機(jī)器學(xué)習(xí)模型,最后直接將模型部署到生產(chǎn)就緒的托管環(huán)境。Amazon SageMaker JumpStart提供來自熱門模型提供商的基礎(chǔ)模型,用于生成可完全自定義的文本和圖片;帶有來自熱門模型中心的預(yù)訓(xùn)練模型和數(shù)百種內(nèi)置算法,讓開發(fā)者可以輕松上手模型訓(xùn)練;針對常見用例提供了完全可定制的解決方案和參考架構(gòu),可以加速生成式AI應(yīng)用開發(fā)進(jìn)程。Meta剛發(fā)布不久的免費(fèi)且可商用的Llama2基礎(chǔ)模型也在Amazon SageMaker JumpStart中可用。該模型提供70億、130億和700億三種參數(shù)規(guī)模,還提供經(jīng)過預(yù)訓(xùn)練和微調(diào)的版本以提升生成-響應(yīng)的相關(guān)性。Amazon SageMaker能夠?yàn)長lama2模型開發(fā)者提供更好的性能和控制,并能夠?qū)⒃撃P筒渴鹪诎踩h(huán)境下以確保數(shù)據(jù)安全。
生成式AI廣泛受到客戶和合作伙伴青睞
在生成式AI浪潮下,文本、圖片或音樂生成等基本應(yīng)用場景已不能滿足企業(yè)和開發(fā)者的需求,如何為行業(yè)用戶提供符合其實(shí)際應(yīng)用場景需求的生成式AI服務(wù)成為當(dāng)務(wù)之急。亞馬遜云科技提供了強(qiáng)大的工具,并與各行各業(yè)的合作伙伴共同創(chuàng)新,為生成式AI應(yīng)用落地提供切實(shí)有效的助力。
埃森哲正與亞馬遜云科技攜手,幫助客戶使用Amazon Titan等先進(jìn)的基礎(chǔ)模型,部署Amazon Bedrock、Amazon SageMaker等行業(yè)領(lǐng)先服務(wù),以及其他亞馬遜云科技的機(jī)器學(xué)習(xí)技術(shù);德勤也將利用Amazon Bedrock擴(kuò)展其生成式AI能力,將自身深厚的AI經(jīng)驗(yàn)和頂尖人才與亞馬遜云科技的技術(shù)力量相結(jié)合,幫助客戶更快速地大規(guī)模構(gòu)建新的AI應(yīng)用,釋放生成式AI能力的巨大價值。
引用來源:
*[1] Gartner, Magic Quadrant for Cloud AI Developer Services, 2023.5.22 (G00773391)
*[2] Critical Capabilities for Cloud AI Developer Services, 2023.5.22 (G00773480)
GARTNER和MAGIC QUADRANT是Gartner, Inc.和/或其關(guān)聯(lián)公司在美國和國際上的商標(biāo)和服務(wù)標(biāo)識,并在獲得許可的情況下在此使用。保留所有權(quán)利。Gartner并未在其研究報告中支持任何供應(yīng)商、產(chǎn)品或服務(wù),也并未建議科技用戶只選擇該等獲最高評分或其它稱號的供應(yīng)商。Gartner的研究報告含有Gartner研究與顧問組織的意見,且該意見不應(yīng)被視作事實(shí)陳述。就該研究報告而言,Gartner放棄做出所有明示或默示的保證,包括任何有關(guān)適銷性或某一特定用途適用性的保證。該圖形由Gartner, Inc.發(fā)布,作為更大的研究文檔的一部分,應(yīng)在整個文檔的背景下進(jìn)行評估。Amazon Web Services可應(yīng)要求提供Gartner文檔。
免責(zé)聲明:
前述Amazon Bedrock僅在亞馬遜云科技境外區(qū)域可預(yù)覽、Amazon CodeWhisperer僅在亞馬遜云科技境外區(qū)域可用,亞馬遜云科技中國(北京)區(qū)域或亞馬遜云科技中國(寧夏)區(qū)域目前不可用。亞馬遜云科技中國僅為幫助您了解行業(yè)前沿技術(shù)和發(fā)展海外業(yè)務(wù)選擇推介該服務(wù)。