2022英特爾基礎設施處理器：Mount Evans

在資料中心運算平臺當中，中央處理器（CPU）的發展與應用時間最久，這幾年以來，隨著人工智慧／機器學習、高效能運算（HPC）的當紅，繪圖處理器（GPU）也浮上檯面，成為炙手可熱的企業IT重要產品，並大量用於多種協同加速運算的應用場景之中。

而在這一兩年來，由於雲端服務引發軟體定義網路的風潮，網路功能虛擬化（NFV）、虛擬網路功能（VNF）等技術應用，相繼浮上檯面，再加上後續有次世代無線寬頻網路5G崛起，帶動了虛擬無線接取網路（vRAN）的技術發展，使得原本只能在高效能運算領域打轉的SmartNIC、資料中心等級的FPGA加速卡產品，也開始廣泛受到各界重視。值此同時，還有人工智慧、機器學習的應用風潮持續發酵，各種創新產品相繼問世，於是，市面上，也出現幾種種融合式微型運算周邊裝置，例如，結合處理器與固態硬碟的運算型儲存裝置（Computational Storage Drive），像是NGD、三星與賽靈思等公司，都陸續推出這類產品。

到了2020年5月，Nvidia在自家的GPU技術大會，基於先前併購Mellanox納入的SmartNIC技術與產品，正式提出資料處理器（DPU）的概念，並將其與CPU、GPU並列，成為資料中心等級加速運算主要支柱，自此這類模糊／融合／顛覆既有運算型態的新型解決方案，拉抬至前所未有的市場高度。

相較之下，英特爾因為在2015年併購Altera公司的關係，而開始拓展FPGA技術與解決方案，這幾年針對資料中心、雲端服務與電信業數位轉型需求，陸續推出FPGA加速卡、SmartNIC，2018年併購eASIC，各界也在期待英特爾會如何跨入ASIC應用，以及能否針對這部份市場推出相關產品。

而這個答案可能會在不久之後揭曉，因為，在今年8月的英特爾架構日，他們宣布將推出基於ASIC架構的產品，研發代號為Mount Evans，而且，在解決方案的類型上，正屬於他們在6月開始主推的新型態產品：基礎設施處理器（Infrastructure Processing Unit，IPU），而IPU在概念與用途上，的確與前面提到的DPU、SmartNIC高度重疊，因為在該公司目前的基礎設施加速產品藍圖當中，除了ASIC架構的 IPU，也包含搭配FPGA的IPU與SmartNIC──英特爾也趁著年度架構日的舉辦，公布兩款IPU相關產品，研發代號分別是Oak Springs Canyon、Arrow Creek。

第一款ASIC架構IPU首度公開

2021年英特爾開始主推基礎設施處理器（IPU），除了既有搭配FPGA的SmartNIC產品，他們也將推出ASIC架構IPU，研發代號Mount Evans，該公司的乙太網路平臺事業群主任工程師暨首席架構師，也在今年英特爾架構日首次公開這款晶片的廬山真面目，以及技術架構概要。圖片來源／英特爾

首款ASIC IPU，整合英特爾自行發展與併購的多家廠商技術

關於Mount Evans的開發，英特爾資料平臺事業群技術長Guido Appen表示，是與大型雲端服務供應商一起合作，這款產品的首席架構師Naru Sunder也說，他們從這些業者的實務服務維運上，學習到不少經驗，而這些將會反映在Mount Evans架構設計的取捨上，他強調，這是基於實際工作負載的大規模效能擴充需求，所設計出來的產品，而在能充分因應超大規模執行的就緒狀態下（Hyperscale-ready），他們也針對安全與隔離的功能需求，從底層架構重新設計出整張晶片。

在技術創新上，Mount Evans的首要特色是可程式化封包處理引擎，英特爾自詡為業界最佳的技術，可支援多種現行的應用案例，像是虛擬交換器（vSwitch）的卸載，以及虛擬防火牆、虛擬路由器，而且，在發展上，他們表示，有足夠的空間，支援各種未來的應用需求。

第二個特色是從Optane固態儲存技術所延伸的技術──NVMe儲存控制器，英特爾實作了硬體加速NVMe儲存介面，使得Mount Evans能夠以此來模擬NVMe裝置。

第三是提供新一代的高可靠度傳輸（Reliable Transport）協定，這是與雲端服務供應商合作的成果，能在高度耗損的網路環境中，協助業者與用戶解決「長尾（Long tail）」的延遲性問題。

第四種特色則是提供進階的加密與壓縮加速器，可廣泛適用於多種場景，而在這當中，Mount Evans也運用英特爾長期發展的QAT技術（Quick Assist Technology）。

除了硬體的強化與最佳化，軟體環境的生態系與支援，對於ASIC IPU能否應用於更多場域，也至關重要。英特爾在此引入2019年併購Barefoot Networks之後的收穫，也就是P4程式語言在IT產業的運用，而在IPU當中，他們將會針對IPU用於可程式化網路的資料層（Data Plane）處理，提供標準應用框架。

由於英特爾也在此提到源於Barefoot的可程式化網路軟體開發工具P4 Studio，顯然他們將在此提升IPU的軟體支援。

同時，為了善用與發揮IPU的功能特色，英特爾也將延伸既有的基礎設施軟體開發套件，像是DPDK、SPDK。

英特爾的IPU產品版圖

目前英特爾擁有多種運算與網路技術，因此，無論是早先的SmartNIC，或是最新推出的IPU，這幾年以來，都因不同的搭配方式而發展出多種產品，依據今年英特爾架構日公布的IPU資料來看，大致上可分為純ASIC、Xeon處理器搭配FPGA晶片、FPGA晶片搭配英特爾網路晶片等三種類型，英特爾也預告，將來可能會推出整合ASIC與FPGA的產品。圖片來源／英特爾

區分成兩大單元：運算複合體與網路子系統

關於Mount Evans晶片的硬體設計架構，英特爾架構日也首度對外公開整體配置。基本上，這款產品可區分成：運算複合體（Compute），以及網路子系統（Network Subsystem），而其中，又以後者最受矚目，因當中結合的技術較為多元、複雜。

Mount Evans的技術組成

類似當前的DPU、SmartNIC產品，英特爾Mount Evans同樣包含運算、網路等兩大技術單元，其中運算的部分，包含16顆Arm Neoverse N1核心、英特爾QAT技術，以及用於平臺管理的處理器，網路的部分，則內建封包處理引擎、NVMe、200GbE網路、RDMA等技術。圖片來源／英特爾

在網路子系統的部分，英特爾首先強調的技術特色，是200Gb/s網路全雙工連線能力，而且，可同時支援4臺Xeon伺服器存取；其次是RDMA類型存取協定的使用，Mount Evans支援資料中心日益普及的ROCEv2，以及上述的高可靠度傳輸技術。

第三是源於Optane固態儲存技術的NVMe引擎，能將高效能的NVMe儲存裝置直接「暴露」給伺服器的處理器存取（意思應是指處理器可直接存取NVMe固態硬碟）。

而這項特色能讓基礎設施供應商（雲端服務業者、資料中心管理者）去實作他們想要使用的儲存協定，無論其面對的是硬體加速NVMe over Fabrics，或自行開發的軟體化後端（應指軟體定義）運算系統，均可因此獲益。

接著是內建可程式化封包處理器，可執行前述的虛擬交換器卸載、虛擬防火牆、遙測功能，而在真實世界的處理效能上，英特爾表示，可達到每秒2億個封包的規模。

最後則是提供線上IPsec加密處理能力，可防護網路傳送的每一個封包。

而在運算複合體的部分，英特爾Mount Evans採用的處理器，是Arm的Neoverse N1平臺，當中搭配16顆高時脈核心，以及大容量的系統層級快取，同時，還設置了3個LPDDR4記憶體控制器（可實現3個記憶體通道）。

值得注意的是，網路子系統的加速器能運用運算複合體的系統層級快取，作為最末一階的快取，為Mount Evans的兩個主要單元提供大頻寬、低延遲的連接方式，從而促成彈性的硬體與軟體封包處理方式。

不僅如此，運算複合體本身內含後備型（lookaside）加密與壓縮引擎，亦即上述Mount Evans支援的QAT技術，目前可支援Zstandard壓縮演算法的處理。

最終，運算複合體也配置了雙核心的管理處理器，可針對平臺與調度指揮層提供存取介面，以便支援各種系統管理的要求。