Amazon推出雲端AI模型平臺Bedrock、大型語言模型Titan

Amazon也加入AI LLM模型競賽。Amazon Web Services（AWS）昨（13）日宣布可供用戶選用不同AI基礎模型的雲端服務Amazon Bedrock，和該公司第一個大型語言模型（Large Language Model，LLM）Titan。

Bedrock讓客戶可透過API使用AI21 Labs、Anthropic、Stability AI及Amazon自有基礎模型（foundation model，FM），以便開發及部署生成式AI應用。Bedrock服務讓用戶在AWS代管雲端平臺上，使用可生成文字或圖形的基礎模型。AWS指出，客戶可視其應用選擇適合的基礎模型，以其自有資料訓練出獨有的模型，並可用AWS工具整合到他們的應用程式中。AWS說，這項服務也可整合其他AWS工具和功能，像是Amazon SageMaker的Experiments功能追蹤、分析、測試模型參數、程式碼版本及訓練資料集，或是以Pipelines功能來管理大規模基礎模型。

Bedrock目前提供的模型中，AI21 Labs的多語言LLM Jurassic-2可生成西語、法語、德語、葡語、義語、荷語文字。Anthropic的Claude LLM可執行多種對話及文字處理作業，號稱是誠實及負責任的AI系統。Stability AI則提供從文字生成圖片的基礎模型套件，包括Stable Diffusion，可生成逼真、高品質的圖片、藝術、Logo和設計。

AWS今天也公布了第一個自有基礎LLM名為Titan FM。Titan FM包含兩個新LLM，一是生成式LLM，適用於摘要總結、生成文字（如部落格貼文）、分類和開放式QA、搜尋資訊等任務。二是嵌入LLM，可將文字（如字、詞或文字單位）輸入轉成數值形式（稱為嵌入embedding）來表徵文字語意，適合個人化服務、推薦及搜尋等。AWS表示，Amazon.com平臺上的產品搜尋功能也用了類似的嵌入模型，幫使用者尋找相關商品。Titan FM還支援負責任的AI原則，能偵測及移除資料中心有害內容、拒絕用戶輸入的低俗或不當內容，並且過濾掉模型產出的不良內容（如仇恨言論、色情和暴力內容）。

AWS強調Bedrock最重要的特色是允許客製化模型。用戶只要將Bedrock指向Amazon S3幾個標註過的範例，它就能微調出特定任務適用的模型，而無需再標註大量資料（大約20個範例就足夠）。AWS舉例，零售服飾業者的內容行銷業者要為新的手提包設計行銷活動，只要給Bedrock該公司做過的行銷活動中效果最好的標題，以及相關新品描述，它就能自動生成社群平臺行銷內容、展示廣告，以及新手提包的網頁行銷資料。訓練模型過程中不需使用客戶個資，所有資料都經過加密，也不會離開客戶的虛擬私有雲（Virtual Private Cloud，VPC），確保所有用戶資料的隱私和安全。

目前Bedrock以限定預覽版形式上線，早期試用客戶包括線上檔案編輯器軟體商Coda在其環境訓練AI模型，ISV如C3 AI及Pega也以Bedrock使用基礎模型。Amazon Titan FM也有一些客戶試用過，AWS表示接下來幾個月內將推廣給更多企業測試。AWS尚未公布Bedrock的價格。

Bedrock是AWS生成式AI方案三項元素之一。AWS今天同時宣布另二項元素的消息，包括程式撰寫輔助工具CodeWhisper正式上線，個人版免費提供，專業版則為每人每月19美元。

此外，AWS也正式推出2個生成式AI適用的執行個體，包括AWS Inferentia2晶片的Amazon EC2 Inf2 instances，以及使用更高階Trainium機器學習加速晶片的Amazon EC2 Trn1n執行個體，分別提供800 Gbps及1600 Gbps網路頻寬。