——亞馬遜云科技數(shù)據(jù)庫(kù)、數(shù)據(jù)分析和機(jī)器學(xué)習(xí)全球副總裁Swami Sivasubramanian
北京2023年4月13日 /美通社/ -- 采用機(jī)器學(xué)習(xí)的新范式賦能業(yè)務(wù)不斷探索已經(jīng)播種了幾十年。但隨著足夠的可伸縮算力的就位、海量數(shù)據(jù)的爆炸，以及機(jī)器學(xué)習(xí)技術(shù)的快速進(jìn)步，各行各業(yè)的客戶(hù)開(kāi)始對(duì)業(yè)務(wù)進(jìn)行重塑。最近，像ChatGPT這樣的生成式AI應(yīng)用引起了廣泛的關(guān)注，引發(fā)了諸多想象。我們正處在一個(gè)令人激動(dòng)的機(jī)器學(xué)習(xí)被大規(guī)模采用的轉(zhuǎn)折點(diǎn)上，我們也相信生成式AI將會(huì)重塑大量客戶(hù)體驗(yàn)和應(yīng)用程序。
20多年來(lái)，人工智能和機(jī)器學(xué)習(xí)一直是亞馬遜關(guān)注的焦點(diǎn)。亞馬遜提供給客戶(hù)的很多功能都是由機(jī)器學(xué)習(xí)驅(qū)動(dòng)的，例如我們的電商推薦引擎、運(yùn)營(yíng)中心撿貨機(jī)器人的路徑選擇，以及我們的供應(yīng)鏈、預(yù)測(cè)和產(chǎn)能規(guī)劃。Prime Air（亞馬遜無(wú)人機(jī)）和Amazon Go（亞馬遜線(xiàn)下無(wú)人零售實(shí)體店，消費(fèi)者可以自選商品后直接離開(kāi)，無(wú)需現(xiàn)場(chǎng)排隊(duì)付款結(jié)算）中的計(jì)算機(jī)視覺(jué)技術(shù)都使用了深度學(xué)習(xí)。Alexa每周回應(yīng)客戶(hù)數(shù)十億次關(guān)于管理智能家居、購(gòu)物、獲取信息和娛樂(lè)的請(qǐng)求，這也得益于來(lái)自 30 多種不同的機(jī)器學(xué)習(xí)系統(tǒng)的支持。亞馬遜有數(shù)千名工程師專(zhuān)注于機(jī)器學(xué)習(xí)研究，這既是我們的寶貴資產(chǎn)，也是我們現(xiàn)在最關(guān)注的理念，和面向未來(lái)的實(shí)力之所在。
在亞馬遜云科技，我們致力于不斷降低機(jī)器學(xué)習(xí)的使用門(mén)檻。我們已經(jīng)幫助超過(guò)10萬(wàn)家來(lái)自各行各業(yè)的不同規(guī)模的客戶(hù)使用機(jī)器學(xué)習(xí)進(jìn)行創(chuàng)新。我們?cè)谌斯ぶ悄芎蜋C(jī)器學(xué)習(xí)堆棧的三個(gè)層級(jí)都擁有至深至廣的產(chǎn)品組合。長(zhǎng)期以來(lái)，我們不斷投入、持續(xù)創(chuàng)新，為機(jī)器學(xué)習(xí)提供高性能、可伸縮的基礎(chǔ)設(shè)施，和極具性?xún)r(jià)比的機(jī)器學(xué)習(xí)訓(xùn)練和推理；我們研發(fā)了Amazon SageMaker，為所有開(kāi)發(fā)人員構(gòu)建、訓(xùn)練和部署模型提供最大的便利；我們還推出了大量服務(wù)，使客戶(hù)通過(guò)簡(jiǎn)單的API調(diào)用就可添加AI功能到應(yīng)用程序中，如圖像識(shí)別、預(yù)測(cè)和智能搜索。得益于此，Intuit、湯森路透、阿斯利康、法拉利、德甲聯(lián)賽、3M和寶馬等客戶(hù)，以及全球數(shù)千家初創(chuàng)企業(yè)和政府機(jī)構(gòu)正在通過(guò)機(jī)器學(xué)習(xí)進(jìn)行數(shù)字化轉(zhuǎn)型，帶動(dòng)產(chǎn)業(yè)升級(jí)，重新定義機(jī)器學(xué)習(xí)的使命。我們同樣致力于推動(dòng)生成式AI技術(shù)的普惠化：我們將這些技術(shù)從研究和實(shí)驗(yàn)領(lǐng)域釋放出來(lái)，不只是少數(shù)初創(chuàng)公司和資金雄厚的大型科技公司，而是讓更多公司都能從中受益。因此，我今天非常興奮宣布數(shù)項(xiàng)創(chuàng)新，幫助我們的客戶(hù)更簡(jiǎn)單、更容易地在業(yè)務(wù)中使用生成式AI。
生成式AI和基礎(chǔ)模型
生成式AI是人工智能的一種，能夠創(chuàng)造新內(nèi)容和想法，包括對(duì)話(huà)、故事、圖像、視頻和音樂(lè)。與所有人工智能技術(shù)一樣，生成式AI的能力由機(jī)器學(xué)習(xí)模型提供。這些模型是基于大量數(shù)據(jù)進(jìn)行預(yù)先訓(xùn)練的大模型，通常被稱(chēng)為基礎(chǔ)模型（Foundation Models）。機(jī)器學(xué)習(xí)的最新進(jìn)展（特別是基于transformer的神經(jīng)網(wǎng)絡(luò)架構(gòu)的發(fā)明）直接帶來(lái)這一類(lèi)模型的爆發(fā)式增長(zhǎng)，這類(lèi)模型通常包含數(shù)十億個(gè)參數(shù)或變量。2019年最大的預(yù)訓(xùn)練模型是3.3億個(gè)參數(shù)?，F(xiàn)在，最大的模型包含的參數(shù)超過(guò)5千億個(gè)，相當(dāng)于幾年間增加了1600倍。如今的基礎(chǔ)模型，例如大型語(yǔ)言模型GPT3.5或BLOOM，以及由Stability AI開(kāi)發(fā)的文生圖模型Stable Diffusion，可以執(zhí)行跨多個(gè)領(lǐng)域的多種任務(wù)，例如撰寫(xiě)博客文章、生成圖像、解決算術(shù)問(wèn)題、對(duì)話(huà)聊天，基于文檔回答問(wèn)題等?；A(chǔ)模型的規(guī)模和面向通用場(chǎng)景的性質(zhì)使其不同于傳統(tǒng)的機(jī)器學(xué)習(xí)模型，后者通常僅執(zhí)行特定的任務(wù)，例如分析文本觀點(diǎn)、分類(lèi)圖像和預(yù)測(cè)趨勢(shì)等。
基礎(chǔ)模型包含大量參數(shù)，能夠?qū)W習(xí)復(fù)雜的概念，因此可以執(zhí)行更多任務(wù)。通過(guò)基于互聯(lián)網(wǎng)規(guī)模的、各種形式和模態(tài)的海量數(shù)據(jù)進(jìn)行預(yù)先訓(xùn)練，基礎(chǔ)模型學(xué)會(huì)在各種語(yǔ)境中應(yīng)用所習(xí)得的知識(shí)。盡管預(yù)訓(xùn)練基礎(chǔ)模型所帶來(lái)的功能和可能性已足夠令人驚嘆，而真正讓客戶(hù)為此興奮不已的是，這些通用模型也可以被定制化加工，執(zhí)行專(zhuān)屬于其業(yè)務(wù)領(lǐng)域的特定功能，幫助業(yè)務(wù)建立差異化競(jìng)爭(zhēng)優(yōu)勢(shì)，與從零開(kāi)始訓(xùn)練模型相比，僅需使用一小部分?jǐn)?shù)據(jù)和計(jì)算資源。定制化的基礎(chǔ)模型可以帶來(lái)獨(dú)有的顧客體驗(yàn)，體現(xiàn)公司的觀點(diǎn)、風(fēng)格和服務(wù)，適用于眾多消費(fèi)者行業(yè)，如金融銀行、旅行和醫(yī)療等。例如，一家金融公司如果需要使用所有相關(guān)交易自動(dòng)生成活動(dòng)日?qǐng)?bào)以供內(nèi)部流通，它可以使用包括既往報(bào)告在內(nèi)的專(zhuān)有數(shù)據(jù)來(lái)定制模型，以便基礎(chǔ)模型了解如何閱讀報(bào)告和使用哪些數(shù)據(jù)來(lái)生成日?qǐng)?bào)。
基礎(chǔ)模型擁有巨大的潛力，但我們?nèi)蕴幵诔跫?jí)階段。ChatGPT率先吸引了客戶(hù)對(duì)生成式AI的關(guān)注。對(duì)生成式AI展開(kāi)研究的人很快意識(shí)到，多家公司已經(jīng)在基礎(chǔ)模型上耕耘多年，可用的基礎(chǔ)模型也有很多，且各有各的優(yōu)勢(shì)和特點(diǎn)。在過(guò)去的數(shù)年間，我們都親歷了技術(shù)的快速發(fā)展，機(jī)器學(xué)習(xí)的演進(jìn)也是日新月異。我們期待未來(lái)會(huì)涌現(xiàn)全新的體系和架構(gòu)，而基礎(chǔ)模型的多樣化會(huì)推動(dòng)新一波的創(chuàng)新浪潮。此前聞所未聞的新應(yīng)用體驗(yàn)在今天已經(jīng)成為現(xiàn)實(shí)。很多客戶(hù)都在詢(xún)問(wèn)我們，如何快速利用當(dāng)今以及未來(lái)可能出現(xiàn)的技術(shù)，如何快速使用基礎(chǔ)模型和生成式AI立刻為公司業(yè)務(wù)大幅提升生產(chǎn)效率和變革產(chǎn)品與服務(wù)。
推出Amazon Bedrock和Amazon Titan模型：借助基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡(jiǎn)單途徑
客戶(hù)向我們講述了他們現(xiàn)在的主要需求。首先，他們需要能直接找到并訪(fǎng)問(wèn)高性能基礎(chǔ)模型，這些模型需要能夠給出最匹配業(yè)務(wù)場(chǎng)景的優(yōu)秀反饋結(jié)果。其次，客戶(hù)希望無(wú)縫與應(yīng)用程序集成，且無(wú)需管理大量基礎(chǔ)設(shè)施集群，也不會(huì)增加過(guò)高的成本。最后，客戶(hù)希望能夠輕松上手，基于基礎(chǔ)模型，利用自己的數(shù)據(jù)（可多可少）構(gòu)建差異化的應(yīng)用程序。由于客戶(hù)進(jìn)行定制化的數(shù)據(jù)是非常有價(jià)值的 IP，因此需要在處理過(guò)程中確保數(shù)據(jù)安全和隱私保護(hù)。同時(shí)，客戶(hù)還希望能控制數(shù)據(jù)共享和使用。
聽(tīng)取了客戶(hù)的所有反饋，今天我們很高興宣布推出Amazon Bedrock。這項(xiàng)新服務(wù)允許用戶(hù)通過(guò)API訪(fǎng)問(wèn)來(lái)自AI21 Labs、Anthropic、Stability AI和亞馬遜的基礎(chǔ)模型。Bedrock是客戶(hù)使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式AI應(yīng)用程序的最簡(jiǎn)單方法，為所有開(kāi)發(fā)者降低使用門(mén)檻。在Bedrock上，用戶(hù)可以通過(guò)可擴(kuò)展、可靠且安全的亞馬遜云科技托管服務(wù)，訪(fǎng)問(wèn)從文本到圖像的一系列強(qiáng)大的基礎(chǔ)模型，以及我們今天發(fā)布的Amazon Titan基礎(chǔ)模型。Amazon Titan基礎(chǔ)模型目前包括了兩個(gè)全新的大語(yǔ)言模型。憑借Bedrock所帶來(lái)的無(wú)服務(wù)器體驗(yàn)，客戶(hù)可以輕松找到適合自身業(yè)務(wù)的模型，快速上手，在確保數(shù)據(jù)安全和隱私保護(hù)的前提下，使用自有數(shù)據(jù)基于基礎(chǔ)模型進(jìn)行定制，并使用他們已經(jīng)熟悉的亞馬遜云科技工具和能力，將定制化模型集成并部署到他們的應(yīng)用程序中，同時(shí)無(wú)需管理任何基礎(chǔ)設(shè)施。比如，客戶(hù)可以將基礎(chǔ)模型與Amazon SageMaker機(jī)器學(xué)習(xí)功能集成，使用Experiments測(cè)試不同模型和使用Pipelines大規(guī)模管理基礎(chǔ)模型等。
客戶(hù)也可使用Bedrock訪(fǎng)問(wèn)一些當(dāng)前最領(lǐng)先的可用基礎(chǔ)模型。這將包括AI21 Labs開(kāi)發(fā)的Jurassic-2多語(yǔ)種大語(yǔ)言模型系列，能夠根據(jù)自然語(yǔ)言指令生成文本內(nèi)容，目前支持西班牙語(yǔ)、法語(yǔ)、德語(yǔ)、葡萄牙語(yǔ)、意大利語(yǔ)和荷蘭語(yǔ)。還有Anthropic開(kāi)發(fā)的大語(yǔ)言模型Claude，它是基于Anthropic對(duì)于訓(xùn)練誠(chéng)實(shí)和負(fù)責(zé)任的AI（responsible AI）系統(tǒng)的大量研究，能夠執(zhí)行多種對(duì)話(huà)和文本處理任務(wù)?？蛻?hù)還可以通過(guò)Bedrock輕松訪(fǎng)問(wèn)Stability AI開(kāi)發(fā)的文生圖基礎(chǔ)模型Stable Diffusion，這是文生圖領(lǐng)域目前最流行的模型，能夠生成獨(dú)特、寫(xiě)實(shí)、高清的圖像、藝術(shù)作品、商標(biāo)和其它設(shè)計(jì)圖。
Bedrock最重要的能力之一是極其容易定制模型?？蛻?hù)只需向Bedrock展示Amazon S3中的幾個(gè)標(biāo)注好的數(shù)據(jù)示例，Bedrock就可以針對(duì)特定任務(wù)微調(diào)模型，最少僅需20個(gè)示例即可，而無(wú)需標(biāo)注大量數(shù)據(jù)。假設(shè)一位時(shí)裝零售行業(yè)的內(nèi)容營(yíng)銷(xiāo)經(jīng)理，想為即將推出的手提包新品系列開(kāi)發(fā)新的、針對(duì)目標(biāo)用戶(hù)的廣告創(chuàng)意。他向Bedrock提供了一些標(biāo)注過(guò)的表現(xiàn)最佳的既往營(yíng)銷(xiāo)廣告示例，以及新品的相關(guān)描述，Bedrock將能自動(dòng)為這些新品生成有效的社交媒體推文內(nèi)容、展示廣告和產(chǎn)品網(wǎng)頁(yè)。沒(méi)有任何客戶(hù)數(shù)據(jù)被用于訓(xùn)練底層模型。所有數(shù)據(jù)都進(jìn)行了加密，且不會(huì)離開(kāi)客戶(hù)的虛擬私有網(wǎng)絡(luò)（VPC），因此客戶(hù)完全可以確信獲得數(shù)據(jù)安全和隱私保護(hù)。
Bedrock目前提供有限預(yù)覽，Coda等客戶(hù)的開(kāi)發(fā)團(tuán)隊(duì)對(duì)使用Bedrock充滿(mǎn)期待。Coda的聯(lián)合創(chuàng)始人兼CEO Shishir Mehrotra表示：“作為亞馬遜云科技的長(zhǎng)期客戶(hù)，我們對(duì)Amazon Bedrock帶來(lái)的高品質(zhì)、可擴(kuò)展性和性能充滿(mǎn)期待。我們所有的據(jù)已經(jīng)存儲(chǔ)在亞馬遜云科技上，我們能夠利用Bedrock快速采用生成式AI，并能充分保證我們數(shù)據(jù)的安全和隱私。目前，包括Uber、紐約時(shí)報(bào)、Square在內(nèi)的成千上萬(wàn)個(gè)團(tuán)隊(duì)都在采用Coda，因此，可靠性與可擴(kuò)展性十分重要。”
一些客戶(hù)已經(jīng)預(yù)覽了亞馬遜全新的Titan基礎(chǔ)模型，在未來(lái)幾個(gè)月內(nèi)，我們會(huì)進(jìn)一步擴(kuò)展其可用范圍。我們將首先發(fā)布兩個(gè)Titan模型。第一個(gè)是針對(duì)總結(jié)、文本生成（如原創(chuàng)博客）、分類(lèi)、開(kāi)放式問(wèn)答和信息提取等任務(wù)的生成式大語(yǔ)言模型。第二個(gè)是文本嵌入（embeddings）大語(yǔ)言模型，能夠?qū)⑽谋据斎耄ㄗ衷~、短語(yǔ)甚至是大篇幅文章）翻譯成包含語(yǔ)義的數(shù)字表達(dá)（即embeddings 嵌入編碼）。雖然這種大語(yǔ)言模型不生成文本，但對(duì)個(gè)性化推薦和搜索等應(yīng)用程序卻大有裨益，因?yàn)橄鄬?duì)于匹配文字，對(duì)比編碼可以幫助模型反饋更相關(guān)、更符合情境的結(jié)果。實(shí)際上，Amazon.com的產(chǎn)品搜索能力就是采用了類(lèi)似的文本嵌入模型，能夠幫助客戶(hù)更好地查找所需的商品。為了持續(xù)推動(dòng)使用負(fù)責(zé)任AI的最佳實(shí)踐，Titan基礎(chǔ)模型可以識(shí)別和刪除客戶(hù)提交給定制模型的數(shù)據(jù)中的有害內(nèi)容，拒絕用戶(hù)輸入不當(dāng)內(nèi)容，過(guò)濾模型中包含不當(dāng)內(nèi)容的輸出結(jié)果，如仇恨言論、臟話(huà)和語(yǔ)言暴力。
任何規(guī)模的企業(yè)都可以通過(guò)Bedrock訪(fǎng)問(wèn)基礎(chǔ)模型，加速機(jī)器學(xué)習(xí)在組織內(nèi)部的應(yīng)用，并憑借其輕松上手的特性，構(gòu)建自己的生成式AI應(yīng)用程序。我們相信，Bedrock將是基礎(chǔ)模型普惠化進(jìn)程中的一大步。埃森哲、德勤、Infosys和Slalom等合作伙伴都在構(gòu)建最佳實(shí)踐，幫助企業(yè)借助生成式AI實(shí)現(xiàn)快速發(fā)展。C3AI和Pega等獨(dú)立軟件開(kāi)發(fā)商（ISV）對(duì)于利用Bedrock輕松訪(fǎng)問(wèn)大量基礎(chǔ)模型，兼具安全性、隱私性和可靠性充滿(mǎn)期待。
宣布Amazon EC2 Trn1n和Amazon EC2 Inf2實(shí)例正式可用：最具成本效益的生成式AI云基礎(chǔ)設(shè)施
無(wú)論運(yùn)行、構(gòu)建還是定制基礎(chǔ)模型，客戶(hù)都需要高性能、低成本且為機(jī)器學(xué)習(xí)專(zhuān)門(mén)構(gòu)建的基礎(chǔ)設(shè)施。過(guò)去五年，亞馬遜云科技持續(xù)加大在自研芯片方面的投入，不斷突破性能和價(jià)格的極限，以支持對(duì)此有極高要求的機(jī)器學(xué)習(xí)訓(xùn)練與推理等工作負(fù)載。亞馬遜云科技Trainium和Inferentia芯片可以提供在云上訓(xùn)練模型和運(yùn)行推理的最低成本。正是因?yàn)槲覀冊(cè)诔杀竞托阅芊矫娴膬?yōu)勢(shì)，像 AI21 Labs、Anthropic、Cohere、Grammarly、Hugging Face、Runway、Stability AI 等領(lǐng)先的AI初創(chuàng)公司都選擇運(yùn)行在亞馬遜云科技上。
由Trainium支持的Trn1計(jì)算實(shí)例與其他任何EC2實(shí)例相比，都可以節(jié)省高達(dá)50%的訓(xùn)練成本，并經(jīng)過(guò)優(yōu)化，可以在與高達(dá)800Gbps的第二代EFA（彈性結(jié)構(gòu)適配器）網(wǎng)絡(luò)相連的多個(gè)服務(wù)器上分發(fā)訓(xùn)練任務(wù)?？蛻?hù)可以在超大規(guī)模集群（UltraClusters）中部署Trn1實(shí)例，數(shù)量可以擴(kuò)展到在同一可用區(qū)中3萬(wàn)個(gè)Trainium芯片，相當(dāng)于超過(guò)6 exaflops的計(jì)算能力，并具有PB級(jí)網(wǎng)絡(luò)。許多亞馬遜云科技客戶(hù)，包括Helixon、Money Forward和亞馬遜的搜索團(tuán)隊(duì)，都使用Trn1實(shí)例將訓(xùn)練最大規(guī)模的深度學(xué)習(xí)模型所需的時(shí)間從幾個(gè)月縮短到幾周甚至幾天，并且降低了成本。800 Gbps的帶寬已經(jīng)很大，但我們?nèi)圆粩鄤?chuàng)新、拓展帶寬。今天我們宣布全新的、網(wǎng)絡(luò)優(yōu)化型Trn1n實(shí)例正式可用，它可以提供1600 Gbps的網(wǎng)絡(luò)帶寬，專(zhuān)為大型網(wǎng)絡(luò)密集型模型設(shè)計(jì)，其性能比Trn1高出20%。
今天，基礎(chǔ)模型花費(fèi)的時(shí)間和金錢(qián)主要用于訓(xùn)練，這是因?yàn)樵S多客戶(hù)才剛剛開(kāi)始將基礎(chǔ)模型部署到生產(chǎn)中。但是，未來(lái)，當(dāng)基礎(chǔ)模型進(jìn)入大規(guī)模部署時(shí)，大部分成本將用于運(yùn)行模型和進(jìn)行推理?？蛻?hù)通常會(huì)定期訓(xùn)練模型，于是生產(chǎn)應(yīng)用程序會(huì)不斷生成預(yù)測(cè)（稱(chēng)為推理）——每小時(shí)可能生成數(shù)百萬(wàn)預(yù)測(cè)。而且這些預(yù)測(cè)需要實(shí)時(shí)發(fā)生，這就需要極低延遲和高吞吐量的網(wǎng)絡(luò)。Alexa就是一個(gè)典型的例子，它每分鐘都會(huì)接受數(shù)百萬(wàn)次請(qǐng)求，處理這些請(qǐng)求占所有計(jì)算成本的40%。
我們相信，未來(lái)大部分機(jī)器學(xué)習(xí)成本將來(lái)自運(yùn)行推理。因而，幾年之前，當(dāng)我們開(kāi)始研發(fā)新型芯片時(shí)，就已經(jīng)將推理優(yōu)化型芯片置于首位。2018年，我們發(fā)布了首款推理專(zhuān)用芯片Inferentia。每年，亞馬遜都運(yùn)用Inferentia運(yùn)行數(shù)萬(wàn)億次推理，并節(jié)省數(shù)億美元成本。這是十分顯著的成果，繼續(xù)創(chuàng)新的空間依然巨大，因?yàn)殡S著越來(lái)越多的客戶(hù)將生成式AI集成到他們的應(yīng)用程序中，工作負(fù)載的規(guī)模和復(fù)雜性只會(huì)越來(lái)越大。
因此，我們今天宣布由Amazon Inferentia2提供支持的Inf2實(shí)例正式可用，這些實(shí)例專(zhuān)門(mén)針對(duì)運(yùn)行數(shù)千億個(gè)參數(shù)模型的大規(guī)模生成式AI應(yīng)用程序進(jìn)行了優(yōu)化。與上一代相比，Inf2實(shí)例不僅吞吐量提高了4倍，延遲降低了10倍，還可實(shí)現(xiàn)加速器之間的超高速連接以支持大規(guī)模分布式推理。與同類(lèi)Amazon EC2實(shí)例相比，這些能力將推理性?xún)r(jià)比提高了40%，并把云中的推理成本降到最低。與同類(lèi)Amazon EC2實(shí)例相比，Runway等客戶(hù)有望利用Inf2將部分模型的吞吐量提升至原來(lái)的兩倍。受益于高性能和低成本的推理，Runway能夠引入更多功能，部署更復(fù)雜的模型，并最終為自己的數(shù)百萬(wàn)用戶(hù)交付更優(yōu)質(zhì)的體驗(yàn)。
宣布Amazon CodeWhisperer正式可用，并面向個(gè)人開(kāi)發(fā)者免費(fèi)開(kāi)放
我們深知，對(duì)客戶(hù)而言，利用正確的基礎(chǔ)模型進(jìn)行構(gòu)建，并在最優(yōu)性能的云基礎(chǔ)設(shè)施上大規(guī)模運(yùn)行生成式AI應(yīng)用程序?qū)?lái)顛覆性變革。同時(shí)，這也將帶來(lái)革命性的全新用戶(hù)體驗(yàn)。當(dāng)應(yīng)用程序或系統(tǒng)具備內(nèi)置的生成式AI能力時(shí)，用戶(hù)可以獲得更自然、更流暢的交互體驗(yàn)。這就如同今天手機(jī)的人臉識(shí)別解鎖功能，我們無(wú)需了解這一功能背后強(qiáng)大的機(jī)器學(xué)習(xí)模型，卻可以做到看一眼手機(jī)就解鎖了。
我們預(yù)見(jiàn)到，編程將是生成式AI技術(shù)得到快速應(yīng)用的領(lǐng)域之一。今天，軟件開(kāi)發(fā)者需要花費(fèi)大量時(shí)間編寫(xiě)相當(dāng)淺顯和無(wú)差別的代碼。他們還需要花費(fèi)不少時(shí)間學(xué)習(xí)復(fù)雜的新工具和技術(shù)，而這些工具和技術(shù)總在不斷演進(jìn)。因此，開(kāi)發(fā)者真正用于開(kāi)發(fā)創(chuàng)新的功能與服務(wù)的時(shí)間少之又少。為應(yīng)對(duì)這一難題，開(kāi)發(fā)者會(huì)嘗試從網(wǎng)上復(fù)制代碼片段再進(jìn)行修改，但可能無(wú)意中就復(fù)制了無(wú)效代碼，有安全隱患的代碼，或?qū)﹂_(kāi)源代碼的使用沒(méi)有進(jìn)行有效的追溯。而且這種搜索和復(fù)制的方式也浪費(fèi)了開(kāi)發(fā)者用于業(yè)務(wù)構(gòu)建的時(shí)間。
生成式 AI 可以通過(guò)“編寫(xiě)”大部分無(wú)差別的代碼來(lái)大大減少這種繁重的工作，讓開(kāi)發(fā)人員能夠更快地編寫(xiě)代碼，同時(shí)讓他們有時(shí)間專(zhuān)注在更具創(chuàng)造性的編程工作上。 因此，我們?nèi)ツ晷纪瞥隽?/span> Amazon CodeWhisperer 預(yù)覽版，這是一款 AI 編程助手，通過(guò)內(nèi)嵌的基礎(chǔ)模型，可以根據(jù)開(kāi)發(fā)者用自然語(yǔ)言描述的注釋和集成開(kāi)發(fā)環(huán)境（IDE）中的既有代碼實(shí)時(shí)生成代碼建議，從而提升開(kāi)發(fā)者的生產(chǎn)效率。開(kāi)發(fā)人員只需要向 CodeWhisperer 提出任務(wù)命令，例如“解析一個(gè)含有歌曲信息的 CSV 字符串”，并要求它返回一個(gè)基于藝術(shù)家、標(biāo)題和排行榜最高排名等數(shù)據(jù)的結(jié)構(gòu)化列表，CodeWhisperer 就可以解析字符串并返回指定的列表，從而極大提升工作效率。CodeWhisperer 預(yù)覽版發(fā)布后得到了開(kāi)發(fā)者們的熱烈響應(yīng)。我們始終相信，幫助開(kāi)發(fā)人員編寫(xiě)代碼可能成為未來(lái)幾年生成式 AI 可以發(fā)揮巨大效力的應(yīng)用場(chǎng)景之一。 在預(yù)覽期間，我們還進(jìn)行了一項(xiàng)生產(chǎn)力測(cè)試，與未使用 CodeWhisperer 的參與者相比，使用 CodeWhisperer 的參與者完成任務(wù)的速度平均快57%，成功率高 27%。這是開(kāi)發(fā)人員生產(chǎn)力的巨大飛躍，而我們相信這才僅僅是個(gè)開(kāi)始。
今天，我們很高興宣布 Amazon CodeWhisperer正式可用，在適用 Python、Java、JavaScript、TypeScript 和 C#之外，新增支持Go、Kotlin、Rust、PHP 和 SQL等10 種開(kāi)發(fā)語(yǔ)言。開(kāi)發(fā)者可以通過(guò)在VS Code、IntelliJ IDEA、Amazon Cloud9等集成開(kāi)發(fā)環(huán)境中的Amazon Toolkit 插件訪(fǎng)問(wèn) CodeWhisperer。CodeWhisperer 也可在Amazon Lambda控制臺(tái)中使用。除了從數(shù)十億行公開(kāi)代碼中學(xué)習(xí)之外，CodeWhisperer 也基于亞馬遜的代碼進(jìn)行了訓(xùn)練。 我們相信 CodeWhisperer 是目前為亞馬遜云服務(wù)（包括 Amazon EC2、Amazon Lambda和Amazon S3）生成代碼的最準(zhǔn)確、最快和最安全的方式。
如果生成式 AI 工具建議的代碼包含隱藏的安全漏洞或未能負(fù)責(zé)任地處理開(kāi)源代碼，開(kāi)發(fā)人員則無(wú)法真正提高工作效率。CodeWhisperer是唯一具有內(nèi)置安全掃描功能（通過(guò)自動(dòng)推理實(shí)現(xiàn)）的 AI 編程助手，用于查找難以檢測(cè)的漏洞并提出補(bǔ)救建議，例如十大開(kāi)放式Web應(yīng)用程序安全項(xiàng)目(OWASP)中的漏洞以及不符合加密庫(kù)最佳實(shí)踐的漏洞等。為了幫助開(kāi)發(fā)人員以負(fù)責(zé)任的方式開(kāi)發(fā)代碼，CodeWhisperer會(huì)過(guò)濾掉可能被認(rèn)為有偏見(jiàn)或不公平的代碼建議，同時(shí)，由于客戶(hù)可能需要對(duì)開(kāi)源代碼源進(jìn)行參考或獲得其使用許可，CodeWhisperer 還是唯一可以對(duì)疑似開(kāi)源代碼建議進(jìn)行過(guò)濾和標(biāo)記的編程助手。
我們相信生成式AI將改變開(kāi)發(fā)者的游戲規(guī)則，因此希望它能為盡可能多的人所用。 所以，CodeWhisperer對(duì)所有個(gè)人用戶(hù)免費(fèi)，并不設(shè)任何資質(zhì)或使用時(shí)長(zhǎng)的限制！任何人都可以通過(guò)郵箱賬戶(hù)在幾分鐘內(nèi)注冊(cè) CodeWhisperer進(jìn)行使用，而無(wú)需亞馬遜云服務(wù)賬號(hào)。對(duì)于企業(yè)客戶(hù)，我們則提供了CodeWhisperer 專(zhuān)業(yè)版，其中包括更多高級(jí)管理功能，如集成了身份與訪(fǎng)問(wèn)管理服務(wù)(IAM)的單點(diǎn)登錄 (SSO)，以及使用更高限額的安全掃描。
構(gòu)建像 CodeWhisperer 這樣強(qiáng)大的應(yīng)用程序?qū)﹂_(kāi)發(fā)人員和我們所有的客戶(hù)來(lái)說(shuō)都是變革性的。我們還有更多創(chuàng)新性的產(chǎn)品在規(guī)劃中，也期待更多的客戶(hù)和開(kāi)發(fā)者在亞馬遜云服務(wù)上構(gòu)建更加創(chuàng)新和顛覆性的生成式AI應(yīng)用。我們的使命是，讓各種技能水平的開(kāi)發(fā)人員和各種規(guī)模的組織都有機(jī)會(huì)使用生成式AI進(jìn)行創(chuàng)新。我們相信，新一波機(jī)器學(xué)習(xí)技術(shù)創(chuàng)新才剛剛開(kāi)始、方興未艾，未來(lái)還有無(wú)限可能。
