助力安全構(gòu)建和規(guī)?;墒?/span>AI應(yīng)用
北京2023年11月30日 /美通社/ -- 亞馬遜云科技在2023 re:Invent全球大會上宣布推出Amazon Bedrock更多模型選擇和強大功能,幫助客戶更輕松地構(gòu)建和規(guī)?;槍ζ錁I(yè)務(wù)定制的生成式AI應(yīng)用程序。Amazon Bedrock是一項全面托管的服務(wù),用戶可輕松訪問來自AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜的多種行業(yè)領(lǐng)先大語言模型和其他模型,以及客戶構(gòu)建生成式AI應(yīng)用程序所需的廣泛的功能,包括確保隱私和安全的同時簡化開發(fā)。此次發(fā)布進一步降低了生成式AI應(yīng)用的門檻——為客戶提供了更多行業(yè)領(lǐng)先的模型選擇和評估模型新功能,以簡化客戶使用相關(guān)和專有數(shù)據(jù)定制模型的方式;提供自動執(zhí)行復(fù)雜任務(wù)的工具;并為客戶配備了提供負責(zé)任地構(gòu)建和部署應(yīng)用程序的保障。Amazon Bedrock的這些新功能為千行百業(yè)、各種規(guī)模的企業(yè)應(yīng)用生成式AI的方式都帶來改變,助力企業(yè)激發(fā)創(chuàng)新并重塑客戶體驗。開始使用Amazon Bedrock,請訪問aws.amazon.com/bedrock。
亞馬遜云科技數(shù)據(jù)和人工智能副總裁Swami Sivasubramanian博士表示:“生成式AI有望成為我們這個時代最具變革性的技術(shù)??蛻舴e極應(yīng)用生成式AI創(chuàng)造新機遇、應(yīng)對業(yè)務(wù)挑戰(zhàn),這給我們帶來了啟發(fā)。當客戶將生成式AI融入其業(yè)務(wù)時,他們會利用Amazon Bedrock以全托管的方式獲取領(lǐng)先模型、定制功能、代理功能以及企業(yè)級安全和隱私保障。有了更多觸手可及的工具,客戶可以使用Amazon Bedrock充分發(fā)揮生成式AI的潛力,創(chuàng)新用戶體驗、重塑業(yè)務(wù)并加速生成式AI之旅?!?/span>
企業(yè)希望在各種場景中應(yīng)用生成式AI,例如提高生產(chǎn)效率,創(chuàng)新用戶體驗和開啟全新工作方式。然而,生成式AI技術(shù)正快速發(fā)展,每天都有新的服務(wù)和創(chuàng)新發(fā)生。在日新月異的當下,客戶的適應(yīng)能力至關(guān)重要。企業(yè)需要能夠使用最新、最好的可用模型進行試驗、部署、迭代和調(diào)整,并時刻準備好迎接變化。為了應(yīng)對這些挑戰(zhàn),亞馬遜云科技開發(fā)了Amazon Bedrock,使一系列模型的構(gòu)建和移動就像API調(diào)用一樣簡單,讓所有開發(fā)人員都可以獲得模型定制的最新技術(shù),并確??蛻舻陌踩蛿?shù)據(jù)隱私。包括Alida、Automation Anywhere、Blueshift、寶馬集團、Clariant、Coinbase、Cox Automotive、dentsu、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics、INRIX、KONE、LexisNexis Legal & Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、宏盟集團、The PGA Tour、Proofpoint、Salesforce、西門子、竹中公司和Verint在內(nèi)的眾多企業(yè)已率先采用Amazon Bedrock應(yīng)用生成式AI。此次發(fā)布引入了新的模型和功能,使客戶能夠更輕松地構(gòu)建和規(guī)?;墒?span>AI應(yīng)用。
Anthropic、Cohere、Meta和Stability AI的最新模型以及亞馬遜Titan的新增功能為客戶提供了更多模型選擇
沒有一個模型適合所有場景。模型的功能、價格和性能都不盡相同??蛻粜枰p松訪問各種模型選擇,多次嘗試和切換模型,最終選出最匹配需求的模型。借助Amazon Bedrock,客戶可以利用最新版本的模型快速創(chuàng)新,包括新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及最近推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多語言模型——全部可通過API訪問。除了Amazon Titan Text Embeddings和Amazon Titan Text模型(現(xiàn)已全面可用)之外,亞馬遜云科技還提供了Titan Multimodal Embeddings和Amazon Titan Image Generator為客戶使用模型構(gòu)建生成式AI應(yīng)用程序提供更多選擇和靈活性。Amazon Titan模型由Amazon Bedrock獨家提供,由亞馬遜云科技在適用于各種用例的大型且多樣化的數(shù)據(jù)集上創(chuàng)建和預(yù)訓(xùn)練,并內(nèi)置對負責(zé)任地使用AI的支持。如果正式可用的Amazon Titan模型或其輸出的內(nèi)容侵犯了第三方版權(quán),亞馬遜將對使用這些模型的客戶進行賠償。
新功能可幫助客戶高效評估、比較和選擇最適合其應(yīng)用場景和業(yè)務(wù)需求的模型
如今,企業(yè)擁有廣泛的模型選項來為其生成式AI應(yīng)用程序提供支持。在具體應(yīng)用場景中,為了在準確性和性能之間取得適當?shù)钠胶?,企業(yè)必須有效地比較模型并根據(jù)其首選指標找到最佳選擇。為了比較模型,企業(yè)必須首先花幾天時間確定基準、設(shè)置評估工具并運行評估,所有這些都需要深厚的數(shù)據(jù)科學(xué)專業(yè)知識。此外,這些測試無法用于主觀標準的評估(例如,品牌聲量、相關(guān)性和風(fēng)格),因為主觀標準需要通過繁瑣、耗時的人工審核進行判斷。對于每個新場景模型,這些比較所需的時間、專業(yè)知識和資源使企業(yè)望而卻步,從而限制了他們對生成式AI的使用。
Amazon Bedrock中的模型評估功能現(xiàn)已推出預(yù)覽版,可幫助客戶使用自動或人工評估來評估、比較和選擇適合其特定應(yīng)用場景的最佳模型。在Amazon Bedrock控制臺中,客戶可以選擇他們想要針對給定任務(wù)(例如問答或內(nèi)容摘要)進行比較的模型。如需自動評估,客戶可以選擇預(yù)定義的評估標準(例如準確性、魯棒性和是否含有有害內(nèi)容)并上傳自己的測試數(shù)據(jù)集或從內(nèi)置的公開數(shù)據(jù)集中進行選擇。對于需要復(fù)雜判斷的主觀標準或細微內(nèi)容,客戶只需點擊幾下即可輕松設(shè)置基于人工的評估工作流程。這些工作流程利用客戶的內(nèi)部員工隊伍或使用亞馬遜云科技提供的員工隊伍來評估模型響應(yīng)。在基于人的評估過程中,客戶可以定義特定的指標(例如,相關(guān)性、風(fēng)格和品牌聲量)??蛻敉瓿稍O(shè)置后,Amazon Bedrock就會運行評估并生成報告,以便客戶可以輕松了解模型在關(guān)鍵標準上的表現(xiàn),并可以做出最佳權(quán)衡,從而快速選擇最適合其應(yīng)用場景的模型。
擴展的全新模型定制功能可幫助客戶在亞馬遜云科技上私密且安全地釋放數(shù)據(jù)價值
企業(yè)希望最大限度地釋放數(shù)據(jù)價值,以大規(guī)模提供卓越的用戶體驗,這些體驗經(jīng)過獨特定制,能夠反映公司的風(fēng)格、聲音和服務(wù)。Amazon Bedrock中提供的新的專門構(gòu)建的功能可幫助客戶使用自己的數(shù)據(jù)私密且安全地定制模型,以構(gòu)建差異化的生成式AI驅(qū)動的應(yīng)用程序。
借助Amazon Bedrock代理功能,生成式AI應(yīng)用程序可以使用公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)
雖然模型能夠有效地進行對話和創(chuàng)建新內(nèi)容,但如果能夠執(zhí)行復(fù)雜的操作,例如解決問題以及與公司系統(tǒng)交互以完成任務(wù)(例如,旅行預(yù)定或訂購替換零件),它們可以提供更多價值。然而,這需要定制化地將模型與公司數(shù)據(jù)源、API以及內(nèi)部和外部系統(tǒng)集成起來。開發(fā)人員必須編寫代碼來協(xié)調(diào)模型、系統(tǒng)和用戶之間的交互,以便應(yīng)用程序可以按邏輯順序執(zhí)行一系列API調(diào)用。為了將模型與數(shù)據(jù)源連接起來,開發(fā)人員必須部署RAG,以便模型可以根據(jù)任務(wù)調(diào)整其響應(yīng)。最后,開發(fā)人員必須配置和管理必要的基礎(chǔ)設(shè)施,并制定數(shù)據(jù)安全和隱私策略。這些步驟非常耗時且需要專業(yè)知識,從而減慢了生成式AI應(yīng)用程序的開發(fā)速度。
現(xiàn)在正式可用、完全托管的Amazon Bedrock代理功能使生成式AI應(yīng)用程序能夠跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。代理可以計劃和執(zhí)行大多數(shù)業(yè)務(wù)任務(wù),例如回答有關(guān)產(chǎn)品可用性的問題或接受訂單。客戶可以使用簡單的設(shè)置過程創(chuàng)建代理——首先選擇所需的模型,用自然語言編寫一些說明(例如,“你是一位友好的客戶服務(wù)代理”,和“在庫存系統(tǒng)中檢查產(chǎn)品庫存情況”),并開放其對公司企業(yè)系統(tǒng)和知識庫的訪問;代理自動分析請求并將其分解為邏輯序列,使用模型的推理功能來確定所需的信息;然后,代理通過識別要調(diào)用的API并決定何時調(diào)用它們來采取行動、滿足請求。代理還可以從專有數(shù)據(jù)源檢索所需信息,以提供準確且相關(guān)的響應(yīng)。代理每次都會在后臺安全、私密地執(zhí)行此過程,使客戶無需設(shè)計提示、管理會話上下文或手動編排系統(tǒng)。借助適用于Amazon Bedrock的代理,客戶可以提升準確性,加速生成式AI應(yīng)用程序的開發(fā)。
借助Amazon Bedrock的Guardrails功能,客戶可以根據(jù)應(yīng)用程序要求和負責(zé)任的AI策略跨模型實施保護措施
企業(yè)認識到需要管理生成式AI應(yīng)用程序中的交互,以提供所答即所問的用戶體驗并確保安全。雖然許多模型使用內(nèi)置控件來過濾不良和有害內(nèi)容,但企業(yè)希望進一步定制交互,以保證話題始終與業(yè)務(wù)相關(guān),符合公司政策,并遵守“負責(zé)任的AI”的原則。例如,銀行可能希望這樣設(shè)置其在線助手:避免查詢競爭對手、避免提供投資建議、以及限制有害內(nèi)容。此外,應(yīng)用戶要求,可能要變換或隱去用戶的個人身份信息(PII)以保證安全。企業(yè)可能需要更改模型、使用多個模型或跨應(yīng)用程序復(fù)制策略,他們需要一種簡單的方法來同時在所有這些領(lǐng)域一致地部署他們的要求。這需要深厚的專業(yè)知識來構(gòu)建具有此類保護措施的定制保護系統(tǒng)并將其集成到應(yīng)用程序中,并且該過程可能需要數(shù)月時間。企業(yè)希望以一種簡化的方式在生成AI應(yīng)用程序中強化關(guān)鍵策略和規(guī)則,以提供所答即所問的用戶體驗并支持更安全地使用該技術(shù)。
Amazon Bedrock的Guardrails功能現(xiàn)已推出預(yù)覽版,使客戶能夠為生成式 AI 應(yīng)用程序?qū)嵤┍Wo措施。這些應(yīng)用程序根據(jù)客戶應(yīng)用場景和“負責(zé)任的AI”原則進行定制,因此這一功能可以增強用戶交互的安全性和隱私性。Guardrails功能可以提高Amazon Bedrock上的模型對應(yīng)用程序中不良和有害內(nèi)容的響應(yīng)方式的一致性??蛻艨梢詫?/span>Guardrails功能應(yīng)用于Amazon Bedrock上的所有大型語言模型,以及微調(diào)模型并與 Amazon Bedrock代理功能結(jié)合使用。要在Amazon Bedrock控制臺中創(chuàng)建一個Guardrail,客戶首先使用自然語言描述來定義其應(yīng)用程序中需要被拒絕的話題??蛻暨€可以配置仇恨言論、侮辱、性語言和暴力的閾值,以將有害內(nèi)容過濾到他們想要的水平。在2024年初,客戶還可以設(shè)定模型響應(yīng)中的個人身份信息(PII)的變換方法以保證安全、設(shè)置臟話過濾器,并提供自定義單詞列表來阻止用戶和模型之間的交互。Guardrails自動評估用戶查詢和模型響應(yīng),以檢測并防止出現(xiàn)屬于受限類別的內(nèi)容??蛻艨梢詣?chuàng)建多個Guardrails來支持不同的用例,也可以在多個模型中應(yīng)用相同的Guardrail。Amazon Bedrock的Guardrails功能通過提供一致的用戶體驗并標準化生成型AI應(yīng)用程序的安全和隱私控制,使客戶能夠安全地進行創(chuàng)新。
電通是全球最大的整合營銷和技術(shù)服務(wù)提供商之一。電通創(chuàng)新與新興技術(shù)執(zhí)行副總裁Brian Klochkoff表示:“我們致力于將營銷、技術(shù)和咨詢整合起來,助力那些希望造福社會的品牌實現(xiàn)以人為本的轉(zhuǎn)型。生成式AI能夠讓我們以更大規(guī)模、更快速地為客戶提供服務(wù)。這項技術(shù)不會取代我們的員工,而是為我們?nèi)?span>72000名員工提供助力。具體來說,Amazon Bedrock為我們提供了企業(yè)級的控制能力和便捷部署第三方模型的能力,以便我們的產(chǎn)品和技術(shù)團隊能夠跨團隊分散使用。這讓團隊能夠在一個安全和負責(zé)任的環(huán)境下,借助最新、最前沿的生成式AI技術(shù)進行革新,為客戶打造創(chuàng)新機遇?!?/p>
MongoDB的使命是通過釋放軟件和數(shù)據(jù)的力量,幫助創(chuàng)新者創(chuàng)造、變革和顛覆行業(yè)。MongoDB首席產(chǎn)品官Sahir Azam表示:“各行各業(yè)越來越多的客戶希望利用生成式AI來構(gòu)建下一代應(yīng)用程序,但許多人擔(dān)心數(shù)據(jù)隱私以及人工智能驅(qū)動的系統(tǒng)輸出的準確性。為了滿足客戶的需求,我們將MongoDB Atlas作為Amazon Bedrock的知識庫,以便我們的共同客戶可以利用其運營數(shù)據(jù)安全地構(gòu)建生成式AI應(yīng)用程序,以符合最終用戶期望的信任度和準確性來創(chuàng)建個性化體驗。通過這種集成,客戶可以訪問行業(yè)領(lǐng)先的基礎(chǔ)模型,并使用MongoDB Atlas Vector Search處理過的數(shù)據(jù)來創(chuàng)建應(yīng)用程序,在正確的上下文中提供更多相關(guān)的輸出。利用Amazon Bedrock知識庫中內(nèi)置的數(shù)據(jù)隱私最佳實踐,客戶可以節(jié)省在生成式AI運營上花費的時間,從而更專注于技術(shù)部署,以在 亞馬遜云科技上提供更有吸引力的最終用戶體驗?!?/span>
Salesforce是領(lǐng)先的AI客戶關(guān)系管理(CRM)平臺,通過AI、CRM和數(shù)據(jù)的力量實現(xiàn)高效和可信賴的客戶體驗。Salesforce產(chǎn)品高級副總裁Kaushal Kurapati表示:“我們致力于幫助企業(yè)以全新、個性化的方式與客戶建立連接,AI對實現(xiàn)這一承諾來說不可或缺。Amazon Bedrock是我們開放模型生態(tài)戰(zhàn)略的重要組成部分,能夠?qū)⒛P团c客戶的數(shù)據(jù)無縫整合,并集成到Salesforce工作流程當中。新增的評估能力可以從多維度對比基礎(chǔ)模型,包括從友好性、風(fēng)格和品牌相關(guān)性等定性方面進行比較,從而讓模型落地變得前所未有的簡單、快捷?!?/p>