AMD董事長暨執行長蘇姿丰博士闡述AMD Instinct MI300X加速器帶來強勁AI工作負載效能

AMD(NASDAQ: AMD)「Advancing AI」活動上與微軟、Meta、Oracle、戴爾科技集團、HPE、聯想、美超微(Supermicro)、Arista、博通(Broadcom)與思科(Cisco)等各大廠商展示其如何與AMD攜手合作帶來從雲端到企業與PC的先進人工智慧(AI)解決方案。AMD於活動中推出多個全新產品,包括AMD Instinct™ MI300系列資料中心AI加速器、提供強大最佳化效能與支援大型語言模型(Large Language Model,LLM)的ROCm™ 6開放軟體堆疊以及具備Ryzen AI的Ryzen™ 8040系列處理器。

AMD董事長暨執行長蘇姿丰博士表示,AI是運算的未來,而AMD具有獨特優勢,能夠為定義此AI時代的端對端基礎架構挹注動能,範圍涵蓋大型雲端安裝、企業叢集到支援AI的智慧嵌入式裝置與PC。我們看到對於全新Instinct MI300 GPU的強勁需求,此為全球最高效能的生成式AI加速器。我們也在與最大的雲端公司、領先業界的伺服器供應商以及最具創新性的AI新創公司攜手合作,為我們的資料中心AI解決方案打造重要動能,將Instinct MI300解決方案快速帶進市場,從而大幅加速全面AI產業體系的創新進程1

推動從雲端到企業資料中心與超級電腦的資料中心AI

AMD在活動中與多家合作夥伴同台展現AMD Instinct資料中心AI加速器的強勁採用狀況與成長動能。

  • 微軟闡述其如何採用AMD Instinct MI300X加速器於全新Azure ND MI300x v5虛擬機器(VM),為AI工作負載進行最佳化。

  • Meta分享正在新增AMD Instinct MI300X加速器至其資料中心,並與ROCm 6結合來為AI推論工作負載挹注效能,也透過Llama 2模型陣容體認到AMD所做的ROCm 6最佳化效能。

  • Oracle發表其計劃提供搭載AMD Instinct MI300X加速器的OCI裸機運算解決方案(OCI bare metal compute solution),也預計在接下來的生成式AI服務中納入AMD Instinct MI300X加速器。

  • 最大資料中心基礎架構供應商宣布計劃於其產品組合整合AMD Instinct MI300加速器。戴爾科技集團宣布將AMD Instinct MI300X加速器與其PowerEdge XE9680伺服器解決方案整合,以模組化和可擴展格式為客戶帶來生成式AI工作負載的突破性效能。HPE宣布計劃將AMD Instinct MI300加速器帶進其企業與高效能運算(HPC)產品。聯想分享計劃於Lenovo ThinkSystem平台搭載AMD Instinct MI300X加速器,帶來橫跨零售、製造、金融服務與醫療等產業的AI解決方案。美超微宣布計劃於其AI解決方案產品組合提供AMD Instinct MI300 GPU。華碩、技嘉科技(Gigabyte)、鴻佰科技(Ingrasys)、英業達(Inventec)、雲達科技(QCT)、緯創(Wistron)與緯穎(Wiwynn)也計劃提供基於AMD Instinct MI300加速器的解決方案。

  • Aligned、Arkon Energy、Cirrascale、Crusoe、Denvr Dataworks與Tensorwaves等專門AI雲端服務供應商皆計劃為開發人員與AI新創公司提供可擴大存取AMD Instinct MI300X GPU的方案。

為市場帶來開放、經過驗證且準備就緒的AI軟體平台

AMD展現在擴展支援AMD Instinct資料中心加速器的軟體產業體系之重大進展。

  • AMD發表為AMD Instinct GPU推出的最新版本開源軟體堆疊ROCm 6,其為生成式AI進行最佳化,特別是大型語言模型。ROCm 6可支援全新資料型式、先進繪圖與核心最佳化、最佳化函式庫與最先進的注意力演算法。相較於MI250上執行的ROCm 5,於MI300X上執行的ROCm 6在Llama 2 text generation模型帶來高達8倍的全面延遲效能提升2

  • Databricks、Essential AI和Lamini這三家建立新興模型和AI解決方案的AI新創公司與AMD同台探討他們如何透過AMD Instinct MI300X加速器與開放ROCm 6軟體堆疊為企業客戶帶來差異化AI解決方案。

  • OpenAI正在為AMD Instinct加速器新增支援到Triton 3.0,為AMD加速器提供開箱即用支援,讓開發人員能夠在AMD硬體上進行更高的抽象層工作。

欲了解更多關於AMD Instinct MI300系列加速器、ROCm 6與AMD AI解決方案的成長產業體系的資訊,請參閱此連結

AI PC持續領先的地位

至今AI PC出貨量已達數百萬台,AMD宣布推出全新領先行動處理器並發表最新AMD Ryzen 8040系列處理器,提供強勁的AI運算能力。AMD也推出Ryzen AI 1.0軟體,藉由此軟體堆疊,開發人員能輕鬆部署使用預先訓練模型的應用,為Windows應用新增AI功能。AMD也公布即將推出的新一代“Strix Point” CPU,預計將在2024年推出。“Strix Point” CPU將採用AMD XDNA™ 2架構,相較前一代提供超越3倍的AI運算效能提升3,將帶來全新的生成式AI體驗。微軟也加入探討其如何在Windows PC的未來AI體驗與AMD緊密合作。

相關資源

關於AMD

50多年來,AMD(NASDAQ:AMD)推動創新高效能運算、繪圖及視覺技術,建構遊戲、高臨場感平台與資料中心等重要領域。AMD員工致力於研發領先的高效能與自行調適產品,不斷突破技術的極限。全球數十億的消費者、世界500強企業以及尖端科學研究機構皆仰賴AMD的技術來改善生活、工作及娛樂。欲瞭解AMD如何成就今天,啟發未來,請瀏覽AMD網站部落格LinkedInX

熱門新聞

Advertisement