【為資料中心運算架構注入新動力】伺服器加速運算裝置的新時代

長久以來，x86中央處理器統治資料中心運算架構的局面，正持續鬆動中。

憑藉著伺服器虛擬化技術與軟體定義化架構，x86處理器可以包攬資料中心絕大多數應用的運算工作，Intel也陸續將更多功能納入x86指令集，試圖讓x86處理器承擔更多類型的運算負載。

但隨著企業應用的擴展，x86處理器受先天架構的限制，對於許多應用領域的運算工作已力有未逮，必須依靠其他類型處理器的輔助。

過去10多年來，x86處理器已逐步將涉及大量平行運算或浮點運算的可視化、AI、深度學習等應用，讓位給獨立的圖形處理器（GPU）。到了今日，以智慧型網路卡（SmartNIC）與資料處理器（Data Processor Unit，DPU）為代表的新興加速運算裝置，又企圖從x86處理器手上搶走更多的運算工作，帶動新一波伺服器硬體加速風潮。

伺服器加速運算裝置的基本概念

事實上，不論是智慧型網路卡，資料處理器（DPU），儲存處理器（Storage Processing Unit，SPU），或是智慧型SSD（Intelligent SSD）／運算型儲存裝置（Computational Storage Device，CSD），其實，都可以視為同一類型的產品，只是隨著廠商的側重點差異，或是產品封裝部署的方式，而採取不同的名稱。

這些產品雖然型態相當多元，如智慧型網路卡是網路卡型式，DPU與SPU通常是網路卡或I/O介面卡形式，智慧型SSD則是SSD形式，但基本目的都是相同的，我們把這些產品統稱為「伺服器加速運算裝置」，來涵蓋這些產品共通的兩大特性：

首先，這些產品都是搭配伺服器的附加模組，用於「輔助」伺服器，而非獨立運作。

其次，這些產品輔助伺服器運作的方式，都是透過裝置上內含的嵌入式處理器與記憶體，來為伺服器提供額外的「運算資源」。

也就是說，儘管這些產品型態各異，但共通的目的，都是為伺服器提供「輔助用」的「額外運算資源」，扮演了輔助伺服器CPU的硬體加速器角色。

用戶端的應用程式，可透過專屬的API或底層平臺，將特定的運算負載，交由這些裝置上的嵌入式處理器來執行，藉此卸載伺服器的CPU運算負擔，進而達到改善整體效能的效果。

更進一步，這些加速運算裝置上內嵌的處理器，都屬於「可程式化」處理器，如Arm等嵌入式處理器、客製化的網路處理器，或是FPGA晶片等，因此，它們可依應用需求、彈性地調整運算功能，而不局限於特定運算。所以，我們又可以說這類裝置是「通用型」的加速運算裝置，或是藏在x86伺服器內的「超迷你伺服器」 ，具備了極高的應用靈活性。

殊途同歸的3條發展路線

如前所述，伺服器加速運算裝置的型式相當多元，事實上，這些產品是多家廠商各自基於不同的目的而推出，但最後殊途同歸，具備了相同的伺服器加速運算特性。

如結合了網路卡與可程式化嵌入式處理器的智慧型網路卡，主要推動者是Intel、Broadcom，以及Mellanox（現已併入Nvidia）等網路卡大廠，最初他們這麼做的目的，是為了改善網路傳輸的架構、效能與管理靈活性，嘗試在網路卡上，搭載可程式化的嵌入式處理器與記憶體，從而形成這樣的產品。

相較於一般搭載ASIC晶片，只能處理特定運算工作（也就是乙太網路的傳輸與控制）的網路卡，智慧型網路卡可以處理更複雜的運算工作，除了網路傳輸控制相關功能，也能以軟體方式導入新的協定與運算功能，這也是智慧型網路卡之所以「智慧」所在。

至於DPU與SPU的推動者中，許多是針對儲存應用而來的新創廠商，如Fungible、Nebulon、SoftIron等，最初的目的，是發展出能夠加速I/O處理的儲存控制裝置，將可程式化的嵌入式處理器與記憶體，以及前、後端I/O介面結合在一起，使其同時兼具了儲存控制器、網路卡、HBA卡與磁碟控制器等功能，相對而言，這類產品往往更強調儲存管理與I/O加速應用。

而智慧型SSD／運算型儲存裝置，則主要是由SSD廠商所推動，如三星等，他們最初的目的則是擴展SSD的功能，在SSD上搭載可程式化嵌入式處理器與記憶體，成為一種「智慧型SSD」，藉此為伺服器提供額外的運算資源，用於各式各樣的運算工作與加速功能。

雖然前述這幾種加速運算裝置的出發點各有不同，產品型態、部署方式，以及訴求的應用重點也有異，但同樣都具備了可程式化處理器，能視需要執行不同運算工作的特性，藉此分攤伺服器的運算負擔。

有待推廣的未來發展

目前正處於加速運算裝置的興起時期，已有十多家一線大廠與新創廠商投入這個領域，廠商與產品數量正迅速增加中。

例如，在智慧型網路卡領域，目前有Intel、Xilinx、Broadcom、Nvidia等大廠，以及Pensando、Fungible等新創廠商參與；在DPU與SPU領域，則有Fungible、Nebulon、SoftIron與Pliops等新創廠商；智慧型SSD領域，則有三星與NGD Systems等，產品與廠牌已相當豐富，選擇也十分多元。

但是，在推廣與應用上，無論哪一種類型的加速運算裝置，從過去到現在的發展，都面臨了幾項障礙，以致未能打開局面。

首先，讓加速運算裝置發揮作用的關鍵，在於軟體的整合。用戶端的應用程式或應用平臺，必須透過加速運算裝置的API與程式庫，才能使用這些裝置上的處理器資源，且不同的加速運算裝置供應商，各有各的API與開發工具。

這也意味著，加速運算裝置使用門檻相當高，只有開發、整合能力較強的用戶，才能有效運用加速運算裝置，一般用戶目前仍難以發揮這些裝置的效益。

第三，市場影響力最大的大型雲端服務商，雖然是目前最主要的加速運算裝置用戶（以智慧型網路卡為主） ，但是都更傾向於自己開發需要的智慧型網路卡硬體。

目前三大公有雲服務商——AWS、微軟Azure與阿里雲，都已有自身開發的智慧型網路卡類型裝置，如AWS在Nitro架構中使用的Nitro卡，阿里雲在X-Dragon架構中使用的MOC卡，微軟也在Project Catapult計畫下，為Azure開發了可程式化硬體加速卡。長期而言，主要公有雲服務商自製加速運算裝置的趨勢，勢必也會影響到這類產品的推廣與普及。

目前看來，要讓加速運算裝置的應用能夠更為普及，關鍵恐怕在於主要系統應用平臺廠商，如微軟、VMware等，能否提供直接的功能支援，才能藉此大幅降低加速運算裝置的應用門檻。

不過，加速運算裝置的應用若能進入普及階段，將會帶給伺服器運算架構翻天覆地的變化。

因為，各式各樣的高負載運算工作，都將被卸載到這些裝置上執行，而x86中央處理器原本的重要性與影響力，有可能會隨之大減，此外，這樣的態勢一旦成形，連帶也會給伺服器的應用，以及處理器市場的生態，帶來與今日完全不同的光景。