【AWS雲端戰略大剖析：機器學習應用篇】AWS持續拓展AI版圖，力推整合式開發環境與高階商用服務

機器學習是當前企業發展AI應用的重要技術，在AWS今年re:invent大會上，該公司執行長Andy Jassy也證實這股趨勢正在持續發展、擴張當中，因為，該類雲端服務目前正是AWS成長最快的業務應用，他表示，AWS目前已擁有數萬名機器學習服務用戶，數量是市占第二廠商的兩倍。

隨後，Andy Jassy也針對AWS的各種機器學習服務，區隔出三大類型，逐一介紹最新進展。它們分別是：位於底層的機器學習框架與基礎架構，居中的機器學習服務，以及上層的人工智慧服務。

以底層而言，Andy Jassy自豪地表示，全球有85％的TensorFlow框架，是在AWS的雲端服務環境當中執行，而在執行機器學習訓練的處理作業上，若以幾種針對AWS環境最佳化調校的主要機器學習框架，搭配AWS提供的GPU執行個體P3，來進行Mask R-CNN深度學習模型的訓練，比起用戶自行搭建硬體設備來執行相關作業，可節省2成處理時間。

位於中間層的AWS機器學習解決方案，主要是全代管機器學習服務SageMaker，它是在2017年舉行的re:Invent大會推出，資料科學家與開發人員可運用這套雲端服務，輕鬆地進行機器學習模型的建構、訓練與部署。到了2018年，SageMaker已陸續增添50種以上的功能。

在2019年底舉行的re:Invent大會，AWS繼續發布SageMaker相關的新功能，最受眾人矚目的部分，就是用於機器學習的整合式開發環境（IDE），名為SageMaker Studio，並基於這套工具，提供Notebooks、Experiments、Autopilot、Debugger、Model Monitor等特色，支援開發與部署機器學習模型的自動化執行、整合、除錯、監控。

AWS在機器學習產品線的頂層，設置了人工智慧應用服務（AI Services），這裡所提供的解決方案，可因應不懂機器學習技術運作方式的用戶。

早先他們陸續推出影像辨識、語音辨識、文字辨識，以及對話機器人、個人化推薦、預測等服務。到了今年，他們提供了更多與企業日常業務運作更密切相關的功能項目，像是詐騙偵測、程式碼檢視與剖析、往來客戶聯絡分析，以及企業內部搜尋。

因應機器學習開發流程各階段的需求，率先推出網頁版IDE工具

因應簡化開發機器學習模型的需求，AWS提供全代管服務SageMaker，他們最近更推出延伸的整合式開發環境SageMaker Studio，開發人員能在此撰寫程式碼、追蹤實驗結果、執行除錯與監控。

在今年re:Invent大會推出的機器學習各項新功能當中，SageMaker Studio無疑是針對開發人員與資料科學家的重要特色，號稱能大幅提升生產力。

基本上，它提供了單一操作介面，能讓用戶著手進行機器學習模型的建立、除錯、訓練、部署、監控、維運，並提供多種功能，像是：伸縮式腳本套用、實驗測試管理、模型自動建立、除錯、組態剖析，以及模型飄移偵測。

整體而言，在這套整合式開發工具當中，開發人員可以查看原始程式碼、相依性、文件，以及用於行動App的圖片等應用程式資產，整理出彼此之間的組織結構。同時，他們也能建立專案資料夾，管理資料集與用於自動化執行的筆記本，並與其他人共同討論筆記本的設計與後續處理的結果。

運用與亞馬遜相同的機器學習技術，發展出更通用的人工智慧服務

關於人工智慧的應用需求，其實並不只是提供開發機器學習的輔助機制，對於不諳這類技術運作原理與相關管理維護作業的用戶而言，其實，也能藉助雲端業者提供的高階代管服務，即可善用機器學習技術來簡化各種工作，為使用者提供更多元的AI操作體驗。

Fraud Detector

在今年底最新發表的人工智慧應用服務當中，Andy Jassy最先介紹的是詐騙偵測服務Amazon Fraud Detector，它能協助企業即時識別線上身分與支付詐騙行為，而且，這裡面採用的判別技術，是由本身就在經營電子商務的亞馬遜（Amazon.com）所發展出來的。

這套服務會同時使用詐欺與合法交易的歷史資料，對其執行機器學習模型的建構、訓練與部署，能為用戶提供即時的詐騙風險預測。在試用初期，用戶只需將一些資料上傳到S3，像是與交易相關的電子郵件位址、IP位址，也可自行增添帳單地址、電話號碼，接著執行自定的機器學習模型訓練。

CodeGuru

Andy Jassy第二個揭露的人工智慧應用服務，是針對軟體開發人員的程式碼審視（code reviews），以及應用程式剖析（application profiling）需求，用戶可運用AWS提供的機器學習技術，取得程式碼自動化分析的機制，但這裡所要提供的功能，不只是突顯既有程式碼的撰寫錯誤、品質不佳與效能執行問題，還要找出耗費最多IT資源的程式碼片段。

開發人員要怎麼使用CodeGuru來審視程式碼？他們仍然照常將程式碼提交到GitHub、CodeCommit等軟體開發倉庫服務，然後再將CodeGuru設為程式碼審視人員之一即可，不需調整原本的作業流程或額外安裝軟體。隨後CodeGuru會接收到程式碼下拉的請求，並且運用系統預先訓練好的模型，自動對用戶程式碼執行評估，而這些完成訓練的機器學習模型，所根據的程式碼資料主要有兩大來源：亞馬遜數十年來所審視的程式碼，以及GitHub排名前十大的開放原始碼軟體專案。

處理過程中，CodeGuru會針對程式碼的品質來分析程式碼的異動，如果發現問題，會在程式碼下拉請求當中，增添一段評論敘述，讓開發者能夠清楚看到該段程式碼所在的行數位置、問題類型，以及系統推薦的修正方式（像是範例程式碼與相關說明文件的連結）。

而在應用程式剖析的部份，CodeGuru會利用機器學習技術，找出最耗費雲端服務資源的程式碼。為了要達成監控的目的，用戶須在他們開發的應用程式當中，安裝小型、輕量的代理程式，讓CodeGuru能夠以5分鐘為頻率，定期觀察應用程式執行時的狀態，以及剖析程式碼的組態。而這樣的觀測會記錄CPU利用率與存取延遲，以及直接對應的程式碼位置，最後會產生圖表，協助用戶找到那些導致效能瓶頸的程式碼片段。

目前有哪些企業採用CodeGuru？AWS表示，亞馬遜內部團隊正在使用CodeGuru，他們剖析的應用程式數量已經超過8萬支；而在2017年到2018年之間，這套服務提供給亞馬遜的內部版本，也協助隸屬於該公司消費業務的Amazon Prime Day團隊，大幅提升應用程式的執行效率──CPU利用率增加了3.25倍，在Amazon會員狂歡購物節期間，他們需管理的執行個體數量也隨之減少，整體成本降低近4成。

Connect Lens

第三個AWS今年主推的人工智慧應用服務，是針對AWS客戶聯絡中心雲端服務Amazon Connect，所提供的分析服務Contact Lens，當中運用了機器學習的技術，讓用戶能夠從與顧客的對話裡面，理解他們回饋的意見、認知趨勢與價值，並藉此改善顧客互動體驗。

目前AWS公布多家先期採用這項顧客資料分析服務的企業，包括：財務軟體公司Intuit、金融投資財務管理公司John Hancock、媒體集團News Corp、個人財富與利益解決方案廠商Accolade，以及行動電信與能源供應商amaysim。

基本上，單就Amazon Connect而言，它採用的技術，與目前支撐亞馬遜顧客服務的技術是相同的，號稱能以更低的成本讓用戶經營他們的客戶聯絡中心，而且能支援數千個值機員的使用。若這項服務同時搭配Contact Lens使用，AWS表示，客戶服務主管可以透過Amazon Connect網頁主控臺介面，毋需具備程式撰寫與機器學習等技術專業，即可進行多種功能的操作。例如，從顧客對話裡面，發現新興的主題與趨勢，並對客戶來電與對話文字記錄，快速實施全文檢索，以便找出解決顧客的疑難雜症，同時，還能提供來電與文字對話的分析，進而改善客服人員的效能。

除了高度整合Amazon Connect這項賣點，Contact Lens所產出的詮釋資料，像是文字謄本、意見、分類標籤，都是依照妥善定義的資料綱要來儲存，而且會放置在用戶的S3資料桶當中。企業可以輕易匯出這些資訊，並運用Quicksight、Tableau這類圖表分析工具，將其產生進一步解析，以及結合其他來源的資料。

Kendra

在今年re:Invent大會最後介紹的人工智慧應用服務，是提供企業搜尋功能的Amazon Kendra，裡面運用了自然語言處理，以及其他機器學習技巧，能夠統合企業內部的多個資料孤島（data silos），並且持續提供高品質的通用查詢結果，AWS認為，相較於目前透過關鍵字查詢而得到的隨機連結列表，這項新的服務可以提供更好的選擇。

有了Kendra，企業的員工若要進行內部資料搜尋，可以運用自然語言的表達方式來進行查詢，例如，他們可以鍵入問題內容敘述，而不只是單純輸入關鍵字，而系統也能夠用對話的方式回答問題，並且提供相關的服務與網站連結。

同時，這樣的服務，能夠橫跨多種應用系統、網站入口與維基共筆內容管理系統（Wiki）進行整合，用戶只需在AWS管理主控臺上進行簡易操作，例如指出需要查詢的文件儲存庫位置，Kendra就會匯集所有資料，以便建構集中的索引。

在文件安全控管的部份，這項服務會掃描文件當中的許可權限，可確保搜尋結果僅列出該名使用者能存取的文件，以便符合企業既有的文件存取政策。

想要橫跨檔案共享區、資料庫，以及共用文件庫，來進行全文檢索，過去我們可能需建置搜尋引擎或知識管理系統，但通常只能透過輸入關鍵字來查詢（圖左），今年AWS推出Amazon Kendra的內部搜尋服務，可同時支援自然語言處理的問答（圖右）。

繼續簡化機器學習開發與應用的難度，降低不同技術層級的操作門檻

整體而言，今年AWS在機器學習領域所推出的雲端服務，在應用的格局上，都有進一步突破。

例如，在SageMaker的機器學習開發平臺服務，AWS提供了功能豐富的整合式開發工具，能夠大幅簡化機器學習模型的設計與測試流程。

而在人工智慧應用服務的部份，AWS今年增設了更多解決方案，採用與母公司亞馬遜相同的機器學習技術，除了今年陸續上線的個人化推薦與預測服務，他們也預告未來將發布與企業商務運作需求密切相關的服務，涵蓋了顧客身分辨識、顧客往來分析、應用程式效率與成本節約，以及內部資料搜尋等層面，繼續為雲端服務業者的機器學習與人工智慧技術，提供更多專業領域的應用服務選擇。

 相關報導  AWS 2020雲端大戰略