【re:Invent 2024現場直擊】SageMaker轉型成資料與AI通用大平臺，Amazon Q助手則開始能輔助大型主機現代化

AWS執行長Matt Garman在今年度re:Invent 2024技術年會中揭露Amazon Bedrock、Amazon SageMaker和生成式AI助手Amazon Q重大更新，Bedrock不只能開發和管理多代理的協作，還將SageMaker重新定位為，集結資料、分析和AI的通用平臺。

另外，Amazon Q也有更多自動化和整合新功能，比如Amazon Q Developer開發助手多了3款AI自動化代理功能、整合GitLab等第三方平臺，更重要的是，Q Developer能協助.NET、VMware和大型主機（Mainframe）轉換等IT現代化工作了。

Bedrock可以開發多代理協作的應用

Matt Garman在今日主題演講中點出，AI推論，是AWS發展策略的4大重要基石之一。「生成式AI（GAI）將是所有應用程式的核心元件，」他直言。這是AWS推出Amazon Bedrock的原因，不僅支援自家和第三方模型，還兼具安全、易上手等優點，目前有數十萬家組織使用。

在這個基礎上，Matt Garman宣布Amazon Bedrock新添模型蒸餾功能預覽版，能將大模型的知識快速轉移到小模型上，能以更實惠的成本加速模型開發。（如下圖）

操作也很簡單，使用者只要將應用程式裡的提示範例，輸入給Bedrock，就能快速打造出客製化的蒸餾模型。

再來，為避免AI產生幻覺，Amazon Bedrock還新添了自動推理（Automated Reasoning）檢查功能預覽版，來檢視模型產出的答案是否符合邏輯。（如下圖）Matt Garman還透露，AWS自己有許多服務，就用自動推理功能來檢查，像是S3、程式碼檢查工具Amazon Codeguru等。

不只如此，面對越來越多的生成式AI代理管理和調度問題，Amazon Bedrock也新添了多代理協作功能預覽版，來簡化AI代理調度任務、不必再寫複雜的程式碼，還能平行化分配代理工作，加速任務的執行。

新一代Amazon SageMaker是一套集結資料、分析和AI的通用平臺

同樣是AI平臺，Amazon SageMaker專門提供模型訓練、微調、部署和機器學習維運等功能，而今年AWS賦予SageMaker新定位，成為集結資料、分析和AI的通用平臺。

在這個大放下，SageMaker有幾個新特色，其一是Unified Studio預覽版，整合SQL分析（Amazon Redshift）、資料處理（Amazon EMR、AWS。Glue和Amazon Athena）、機器學習（Amazon SageMakerAI）、生成式AI管理（Amazon Bedrock）、串流（Amazon MSK、Amazon Kinesis）和商業智慧（Amazon QuickSight）等多種服務，使用者在單一平臺就能存取，打造所需AI分析應用。

另一個新亮點是SageMaker Lakehouse資料湖倉，是一套存取資料的統一平臺，使用者可用來存取跨Amazon S3、Amazon Redshift、SaaS服務等平臺的資料，還與Iceberg開源資料表格式相容。

這套資料湖倉還提供細緻的資料存取權限控管，方便落實資料治理。

與治理相關，這次還推出一套治理工具SageMaker Catalog，管理者可用來設定細緻的資料、模型和存取權限。

新一代SageMaker還有一個與SaaS應用程式整合的零ETL新亮點，使用者可在SageMaker Lakehouse或Redshift中，存取Zendesk、SAP等SaaS應用程式的資料，來進行分析和AI應用。如此一來，使用者不必再自己建立、管理資料管線了。

Amazon Q Developer程式碼助手能協助IT現代化了

去年年會，AWS揭露了生成式AI助手Amazon Q，可分為Developer和Business兩個版本。Q Developer專門用來處理程式碼相關工作，Business則接收自然語言指令，來處理組織業務。

在今年年會中，Matt Garman揭露了Q Developer的幾個新進展，包括正式新添3款AI代理，分別能自動產生和套用單元測試、產出準確的程式碼文件，以及自動進行Code review。（如下圖）其中，產出程式碼文件的功能，針對新、舊程式碼都有用，可找出不足之處和漏洞。

不只如此，為加強可用性，除了原本既有的Slack等第三方合作平臺，Q Developer現在也能在GitLab上使用了，接下來還會整合至更多第三方平臺。

今年的Q Developer新亮點，還包括協助IT現代化，特別是針對.NET、VMware和大型主機的現代化工作。Matt Garman表示，之前，Amazon自己就用Q Developer來升級內部Java程式為Java 17，不只省下大把時間，也因為使用了現代化Java程式，進而省下年度2.6億美元的IT成本。於是他們思考，Q Developer是否也能用於其他IT現代化任務。

後來，他們與企業客戶詳談，鎖定出3個現代化領域，並打造出Q Developer協助IT現代化的新功能。首先是將Windows.NET轉換為Linux，轉換時間得到4倍加速，還能省下40%的許可費用。

再來是將VMware工作流程轉換到雲原生架構，將地端網路配置轉換為AWS同等配置，幾個小時就能完成，而非純人工的幾個禮拜。

第三個是加速大型主機現代化，Q Developer能加速原本人工吃重的大型主機現代化工作，如程式碼分析、文件建檔、重新建構應用程式等，甚至還能根據使用者系統狀況，來給出IT現代化策的略規畫。

這三個功能皆為預覽版。