AWS明年AI三大戰略，主打免ML專業知識也能上手

今年的re:Invent 全球用戶大會上，AWS進一步揭露明年雲端AI戰略布局，將鎖定三大AI策略，不只要搶推能夠大規模部署的專用推論服務，還要提供更方便好用的AI自動建置及部署工具，更要瞄準特定產業的無人載運與移動用途，搶攻企業市場。

AWS執行長Andy Jassy在首日開場近3個小時的演講，對於AI人工智慧介紹，花了最多時間。講到AWS過去一年來推出機器學習服務的表現，他更自豪地說，光是去年，就有10萬個活躍用戶在AWS上執行他們的機器學習（ML）模型，遠遠超出他們原先預期，而且遍及各行各業。

AI戰略1：大規模部署的專用推論服務

機器學習推論成為今年AWS搶攻AI另一大主軸，不只有推論用的EC2運算實例，明年還要推出一個低價且高效能的機器學習推論專用晶片Inferentia，這也是繼ARM晶片推出後，AWS最新發表的第2款自製晶片，頗有要和Google的機器學習晶片TPU打對臺的意味。攝影／余至浩

但是，有別於往年，Andy Jassy今年更看好機器學習服務在推論市場的發展，甚至他認為，未來將近9成的機器學習運算工作，都會發生在推論端，而不是訓練端。

但是在部署或執行環境上，不像訓練時要餵大量資料來訓練模型，需要有很強的運算處理能力，反觀在進行推論預測時，對於運算力要求就不用太高，甚至只需很少運算力，就能執行ML模型。因此，企業反而需要的機器學習服務，是要能以更低成本，來提供他們進行大量推論執行部署。但一直以來，並沒有專用推論服務。

對於AWS來說，顯然，這是一個龐大商機，也成為了明年搶進AI的一大主軸。所以，AWS今年正式推出第一個專用推論服務Amazon Elastic Inference，就是要讓企業能夠用更低成本的方式，來使用推論的VM，不需要付擔高額運算力費用，來降低企業大量部署的推論成本。 在使用上，單以租用一個推論VM來說，就可以提供最多36 TFLOPS浮點運算能力，換作是對照片進行推論，等於是1小時可以辨識36萬張照片。而且每小時租用最低只要0.22美元。

專用機器學習推論服務只是第一步。AWS明年還要推出一個機器學習推論專用晶片Inferentia，同時兼具備低成本與高效能推論特性，並且是由AWS自行設計完成，不僅在推論吞吐量可以達到數百個TOPS （每秒執行兆次），可以用於執行複雜度更高的推論需求，而且遠比採用傳統的CPU實例來進行推論時，還要更省下75％的推理成本。

AI戰略2：更方便好用AI建置及部署工具

自去年推出一套ML自動建置和部署工具SageMake以後，大獲好評，AWS今年在這個基礎之上，更針對各個建置、訓練階段，都有推出相應的優化功能與工具，來降低機器學習門檻。

如AWS在SageMaker上新增一個功能，就是針對訓練前推出的資料標記輔助服務Ground Truth，透過機器學習技術，來自動學習標記輸入數據，來提高訓練資料標記品質，以減少後續因為資料品質不佳，而導致直接影響模型訓練成效，或要花比原本更長的時間投入訓練。

另外，對於如果想要採用增強式學習（Reinforcement Learning）的機器學習方式，來建立、訓練和部署ML模型的話，開發人員現在也有增強學習專用的SageMaker RL服務能夠使用了。

AWS還推出了一個輕量ML模型編譯工具SageMaker Neo，能夠重新優化ML模型的效能，至少提升多達2倍，不僅不會降低準確性，而且容量變更小，占用運算資源也變少。AWS還以Apache軟體授權方式開源，讓硬體廠商可以將它放進自己的處理器和裝置。也因為可以在雲端和邊緣執行，也意味著，未來透過這套服務，可以讓輕量化後的ML模型，能夠跑在更多小型邊緣裝置上，如樹莓派單板電腦等。

有了許多方便好用的AI自動化工具，來降低AI應用門檻，就連在AI服務上，AWS今年都主推免機器學習經驗就能用的AI服務，要替企業解決AI人才荒。一共3款新AI服務，包括了Textract、Personalize及Forecast，分別是用在實體文件數位化、個人化推薦與時間性預測的使用。

不像過去要開發這方面的AI應用，企業得先找到專業AI人才，現在，透過這些現成的AI服務元件，可以大大地降低AI應用門檻，即使是不具備AI背景的開發人員，也能夠很快速用它打造企業需要的各種AI應用。甚至，其中一項Forecast服務，還是原本Amazon內部使用的ML分析預測技術，現在也全面開放企業來用。目前除了Textract仍是預覽版，其餘兩款皆已正式推出。

AWS今年還在AWS Marketplace上新增演算法市集，它是一個可以提供AI應用買賣交易的平臺，讓企業不需要自行開發，直接購買別人現成的AI演算法或ML模型來套用，就能變成自己的AI應用，而且免AI或ML專業知識與技術就能用。目前已有至少150種演算法與ML模型上架。

AI戰略3：迷你自駕遙控車DeepRacer現身

AWS今年又有驚人之舉，向大家介紹一臺AI驅動的DeepRacer迷你自駕車，大小跟玩具遙控車差不多大，但不用透過無線控制器，而是借助AI與電腦視覺技術，讓這臺車自己學會開車。甚至AWS還舉辦首屆DeepRacer盃自駕車大賽，比得是看誰可以在最短的時間內繞完一整圈迷你賽道，並廣邀各路開發好手來參賽，還在第2天主題演講開場前進行總決賽。硬體規格上， 除了內建英特爾Atom雙核心處理器，具備Wi-Fi能力，還有顆400萬畫素HD攝影鏡頭，每一次充電完，能持續使用2小時。攝影／余至浩

不只要提供簡單好用的AI工具，來吸引更多企業用戶，AWS今年又有驚人之舉，推出一臺AI驅動的迷你自駕遙控車DeepRacer，瞄準的正是這些有著自動載運，或移動需求的產業AI用途，如製造業等，就能用它打造出適合智慧工廠各式情境使用的無人搬運車，解決如人力或生產流程上遇到的難題。甚至AWS還要透過辦自駕車競賽，來吸引更多AI與機器學習人才參與，想辦法要拉攏這些產業積極加入。

這臺車的外型，雖然只有真車的1/18大，跟一臺玩具模型車差不多，而且一臺要價399美元（約臺幣1萬2千元）。但不同的是，不用透過無線控制器，這臺車就會自己開車，不需要有人遠處遙控。靠的是使用AWS機器學習服務，如SageMaker RL等，先在雲端進行訓練，再將訓練完成的ML模型，套用到DeepRacer車上來驗證其模型推論的成效，並反覆優化，讓車子可以學會自己開。而且不只開放場域，未來這臺車也能運用在更多封閉場域，如物流倉儲、工廠、醫院及賣場等，幫助企業打造屬於自身場域的無人車應用。

相關報導  殺入敵陣！AWS企業市場新戰略