2024 Arm科技論壇：AI技術轉型需要前所未有的生態系合作

10 月 29 日在台北登場的 Arm 科技論壇，是 Arm 每年在台灣舉辦最盛大的活動之一。此活動的規模符合科技產業目前正面臨的重要時刻。

正如 Arm 資深副總裁暨終端產品事業群總經理 Chris Bergey 在 Arm 科技論壇發表的主題演說「目前正是科技史上最重要的一刻」，AI 擁有絕佳的機會可以讓全球數十億人的生活為之改觀，但前提是生態系必須比以往更齊心協力彼此合作。

這些生態系合作的核心，是廣泛地重新考量科技產業要如何處理技術的開發與部署。這點尤其適用於半導體產業，原因是晶片不再只是一系列不相關的元件組合，反之，其已經成為能滿足 AI 需求的「全新主機板」。這代表多個元件在相同的封裝內共存，並提供更低的延遲、更高的頻寬與功耗效率。

台灣處於此一科技轉型的正中心，而最先進的晶片有九成產自台灣。如同 Chris Bergey 所說：「沒有台灣，世界最頂尖的技術就無法進入消費者手中。」

這些晶片技術已經讓世界各地人們的日常生活為之改觀，並在智慧手機上促成創新的AI功能，如語言的即時翻譯。此外，台灣新創公司洞見未來 (Relajet) 推出 Arm 技術驅動的 AI 聲音加強引擎，協助聽障人士在擁擠的空間中聽到與朋友及家人的對話。如同 Chris Bergey 總結表示：「AI 讓我們的未來更美好。」

Arm 運算平台（Arm Compute Platform）則是此一未來極為重要的一環。它結合了硬體、軟體與解決方案，針對多樣的市場，無論是智慧手機、軟體定義汽車或是資料中心，都能提供生態系同級最佳的技術解決方案。

Arm 運算平台獲得全世界最大型的軟體生態系的支援，並擁有超過 2,000 萬名軟體開發人員在 Arm 架構撰寫軟體。事實上，正如 Chris Bergey 所說：「我們知道，沒有軟體，硬體將毫無用處。」

軟體始終都是 Arm 運算平台不可或缺的一部份，而 Arm 也將這個理想的平台提供給開發人員，並透過三種方式「讓他們得以實現夢想（應用）」。

首先，Arm 一致性的運算平台觸及到全世界百分之百的上網人口。這意味開發人員「只要撰寫一次軟體，就可以在各處進行部署」。這個平台的基礎是 Arm 的架構，以及它透過定期導入新功能與指令集的持續演進，以加速關鍵的工作負載，造福開發人員與終端使用者。如同 Chris Bergey 闡述，SVE2 功能在所有利用全新的聯發科技 Dimensity 9400 晶片組打造的AI旗艦智慧手機上，都可以看得到。它加入了向量指令來提升視訊與影像的處理能力，帶來品質更佳的照片與續航力更長的影片播放。

其次則是透過加速能力為開發人員的應用程式提供優化的效能。它不僅僅是讓高階加速器晶片受益，還涉及使用支援人工智慧的軟體以便發揮效能。

其中的一個實例就是 Arm Kleidi 函式庫，它無縫地與領先市場的框架完成整合，以確保 AI 工作負載在 Arm CPU 上達成最佳的效果。開發人員接下來毋需耗費額外的心力，就能發揮出這種加速的效能。

Chris Bergey 如此解釋 Kleidi 的重要性：「我們瞭解還有很多效能還沒有發揮出來。透過 Kleidi，硬體效能如今可以有效地被軟體發揮。」

Kleidi 整合將加速在 Arm 計算平台上執行數十億的 AI 工作負載，最近的 PyTorch 整合使在 Arm 架構的 AWS Graviton 處理器上執行 Meta 的 Llama 3 大型語言模型（LLM）時，首次生成字元的速度提升了 2.5 倍。

最後一點則是開發人員需要一個存取與使用上都很便利的平台。Arm 透過大幅度地對軟體進行投資實現了這一點，並確保在 Arm 運算平台上進行開發是簡化的、順暢的體驗，而且「立即可用」。

Chris Bergey 總結表示：「Arm 與我們生態系的力量，就是我們提供開發人員一切所需的東西，讓他們可以簡化流程、加速產品上市時程、節省成本並優化效能。」

這場主題演講突顯了 Arm 的生態系對於新技術實現的重要性。對於需要結合許多不同領域核心專業知識的全新晶片設計，特別適用。Chris Bergey 如此形容晶片的全新年代：「沒有任何一家公司能單獨包辦每個層級的設計與整合。」

Arm 全面設計 (Arm Total Design; ATD) 的核心目標就是賦予這些威力強大的生態系協作更多的資源，而它也讓生態系得以加速更為有效且效率與效能更高的解決方案的開發與部署。Arm 全面設計在全球成長：自從 2023 年底推出以來，參與的成員公司數量已經增加一倍。目前的成員包括多家台灣公司，他們分別提供不同類型的高價值專業。其中包括 智原科技 (Faraday)、神盾 (Egis)/ 安國國際科技 (Alcor)、聯詠科技 (Novatek) 和 TSMC 等。

Chris Bergey 表示：「我們認為這是 AI 部署方式開創新市場的開始，而我們也很榮幸能與生態系合作全力加以促成。」

Arm 全面設計同時也協助促成了一個欣欣向榮的小晶片生態系，它並吸引了超過 50 家市場領先的科技夥伴與 Arm 合作開發小晶片系統架構（Chiplet System Architecture）。這個架構正在打造訂定標準的框架，可以促成蓬勃發展的小晶片市場，而這對於應對 AI 年代中不斷出現的晶片設計與運算的挑戰，極為關鍵。

Chris Bergey 在台灣舉行的 Arm 科技論壇主題演說結尾時，再次強化 Arm 執行長 Rene Haas 今年六月在台北國際電腦展（COMPUTEX）中作出的承諾：2025 年底以前，全球將有 1,000 億個以 Arm 技術架構的裝置運行 AI。

然而，唯有科技業各個角落的生態系合作夥伴比以往更密切地通力合作，才有可能達成這個目標。幸運的是，正如這場主題演說中所闡述，目前已有許多合作案例正在進行中。

Arm 運算平台身處這些生態系合作的核心；它為 AI 提供了技術基礎，讓全世界數十億人們的生活為之改觀。

Arm 針對開發者將推出一系列影片，請點此觀看首支影片：Arm 架構驅動雲端原生 DevOps 與生成式 AI 的創新轉型：高效能低功耗的實踐與案例

加入 Arm 開發人員計畫，與 Arm 一起建構未來：點此連結

部分 Arm 科技論壇影片將陸續於 Arm Taiwan YouTube 上架，敬請持續關注！