英特爾5月公布IPU發展藍圖，揭露2022至2025年上市的IPU產品概況

面對這幾年快速崛起的資料處理器（DPU）的產品與技術，英特爾在2021年6月正式提出了基礎架構處理器（IPU）來因應，而在2022年5月的Vision全球用戶大會期間，他們也公布IPU發展藍圖，呈現今年、明後年，以及2025年之後即將問世的產品與平臺。

協助雲端服務業者提高工作負載力，IPU開拓資料中心新價值

關於IPU這類產品的提供，英特爾過往已有Xeon D、FPGA、乙太網路控制器與介面等元件供應市場需求，也陸續推出整合這些技術的產品，例如，基於2015年併購Altera公司得來的FPGA架構，從2017年10月起，開始推出多款可程式化加速卡（Programmable Acceleration Card，PAC）：PAC with Intel Arria 10 GX FPGA、PAC with Stratix 10 SX FPGA（之後改名為FPGA PAC D5005），FPGA PAC N3000。

隨著5G核心網路崛起，帶動網路功能虛擬化（NFV）、虛擬化無線存取網路（vRAN）的大規模部署之餘，掀起一波智慧型網路介面（SmartNIC）採用浪潮，在2020年下半，英特爾推出了FPGA SmartNIC N5010（代號為Lightning Creek），以及FPGA SmartNIC C5000X代號為（Big Springs Canyon）

IPU成軍

在2021年6月，英特爾首度提出IPU的產品概念，目的是改善資料中心效率與管理簡便度，並強調這是唯一與超大型雲端業者合作建構的加速與卸載解決方案。他們當時預告將推出兩種產品，一是基於FPGA架構而成的IPU平臺，另一是專屬的ASIC晶片的IPU，並且能搭配強大的軟體基礎環境，用戶可藉此建立頂尖的雲端調度指揮軟體以發揮成效。

根據他們當時的定義，IPU是一種可程式化的網路裝置，可供雲端服務供應商（CSP）與通訊服務供應商（CoSP）用來減少處理器的運算負擔，釋出更多效能，用戶能搭配這種安全、可程式化、穩定的解決方案，平衡運算與儲存的負載，更有效地運用IT資源。

針對資料中心常見功能導入安全的加速機制，IPU能夠聰明地管理系統層級的IT基礎架構資源，如此一來，雲端服務維運人員能將整個儲存與網路架構提升至完全虛擬化的狀態，又能同時維持高效能、可預測性，以及高度控制的狀態。

而且，對於資料中心裡面、執行在微服務架構之上的現代化應用程式，IPU可提供專屬的加速功能。英特爾強調，有了IPU，雲端業者與服務供應商能夠安全地管理基礎架構，同時，還可以讓用戶完全控制處理器與系統記憶體的功能。

簡而言之，英特爾認為IPU提供4種能力，首先是能透過專屬協定加速器來承載IT基礎架構的「功能」，包含儲存虛擬化、網路虛擬化、安全防護處理；當上述功能從原本由CPU執行的軟體，轉介到IPU處理之後，就可以解開CPU核心的桎梏；而由於工作負載的執行位置能夠因此獲得彈性，連帶也改善了資料中心的資源利用率；基於這樣的使用模式，雲端業者也能根據軟體執行的步調速度，來自定IT基礎架構的「功能」。

揭露3款IPU產品，分別對應ASIC、IPU平臺、SmartNIC

到了2021年8月舉行的英特爾架構日，他們公布IPU產品線的整體陣容，並且揭露兩個發展路線，

一個是基於專屬ASIC晶片的IPU，代號為Mount Evans，

另一個則是基於FPGA架構的兩種加速解決方案，分別是：代號為Oak Springs Canyon的IPU平臺（搭配Xeon D與Agilex FPGA，提供2個100GbE埠），

代號為Arrow Creek的IPU平臺FPGA SmartNIC N6000（搭配Agilex FPGA與Ethernet Controller E810，提供2個100GbE埠）。

關於採用IPU的效益，英特爾也提出三個論點。首先，若能將IT基礎架構功能與租戶工作負載區分出來，租戶就可以更完整控制CPU；

第二，如果雲端業者的維運人員能將IT基礎架構的日常工作，卸載到IPU來執行，就可以將資料中心CPU資源的使用率提升至最大程度，雲端服務的整體營收也能跟著水漲船高，因為業者可以釋出更大量的伺服器CPU資源、開放給用戶付費租用（英特爾聲稱IPU能促使100%的伺服器CPU全部開放出來供用戶租賃）；

第三，IPU能夠管理資料儲存的存取流量，例如，透過無磁碟的伺服器架構的搭配，可以更有效地運用整體儲存容量，而且能夠運用IPU兼具安全性、可程式化、穩定度的特色，進行運算與儲存資源的平衡處理。

IPU成為推動Intelligent Fabric的關鍵

在2021年10月舉行的Innovation年度用戶大會，英特爾重新聚焦在開放式可程式化網路環境的打造，強調他們提供完整的軟體與硬體，能透過伺服器級CPU、支援P4程式語言的IPU與交換器，協助企業建構全方位的可程式化網路環境。

為此，他們提出智慧型交織網路平臺「Intel Intelligent Fabric」的概念，而在具體產品的搭配上，首先，是ASIC架構基礎架構處理器Mount Evans，英特爾也宣布與公有雲業者Google Cloud展開深層合作，雙方將針對P4程式語言，以及基礎架構程式設計師開發套件（IPDK）的支援，進行共同設計與開發，簡化開發者對於這類技術的存取；第二是智慧型交織網路處理器（Intelligent Fabric Processor，IFP）Tofino 3，可在網路交換器增添P4可程式化能力，以及AI工作負載的加速處理，將網路傳輸程序的決定權交還給網路程式設計師，並以此建構更安全、且具備自我修復力的雲端交織網路。

而在今年2月的投資者大會期間，英特爾強調將推動資料中心有線網路環境的轉型，將其提升為軟體定義交織網路，而當中所仰賴的關鍵元件，包含：乙太網路卡、基礎架構處理器（IPU），以及P4可程式化智慧型交織網路處理器（IFP）。他們期望在不改變硬體的狀況下，也能針對網路上的裝置進行可程式化控制處理，以獲得更大的彈性，進而讓所有位於資料路徑的網路裝置都能具備可程式化能力，最終強化整體網路環境的彈性與可擴展性。

到了5月的Vision年度用戶大會，英特爾揭露目前至2025年以後的IPU發展藍圖，當中將基於目前已知的兩大運算架構來推出對應的產品，並持續推動資料中心網路環境的升級。

以2022年，以及2023年至2024年而言，英特爾這兩波新發表的IPU產品，將分別對應200 Gb、400Gb的網路環境，

以FPGA搭配Intel架構的IPU平臺為例，將依序推出「Oak Springs Canyon」，以及代號為Hot Springs Canyon的產品；至於ASIC架構的IPU，也會陸續推出「Mount Evans」，以及代號為Mount Morgan的產品。到了2025年，英特爾IPU將支援800Gb的網路環境，兩大IPU產品線也將各自推出次世代的解決方案。

針對兩種IPU應用特性的差異，英特爾也在此做出最新的詮釋。若是基於FPGA架構而成的IPU，能更快供應市場需求，支援持續演化的網路標準，透過能重複進行的可程式化特性，以及安全的資料傳輸路徑，能夠彈性處理多種自訂型工作負載；如果是基於ASIC架構而成的IPU，可提供最佳效能與功耗的搭配，能用於確保網路與儲存等任務領域的安全性。

今年將推出第二代IPU，第三代IPU預計明後年登場

關於近期問世的IPU產品定位，英特爾將今年陸續上市的Oak Springs Canyon，以及Mount Evans，視為該公司發展的第二代IPU，目前正供應給Google與其他服務商使用──今年Oak Springs Canyon以限量方式供貨，Mount Evans也將對Google供貨，到了2023年，這兩個IPU產品將會更廣泛供應市場。

它們均可卸載200 Gb網路流量的工作負載，加速資料中心基礎架構的運作，並且能與採用Xeon處理器的伺服器系統協同運作。

這兩款IPU均支援開放原始碼、不受限於特定廠商技術的通用程式模型，稱為IPDK（Infrastructure Programmer Development Kit），這套框架提供驅動程式與應用程式介面，可用於各種執行CPU與IPU的IT基礎架構，進行卸載與管理。

在運算晶片的搭配上，Oak Springs Canyon整合Xeon D系統單晶片處理器，以及Agilex FPGA晶片；至於Mount Evans，則是英特爾第一款基於ASIC架構而成的IPU，當中特別內建了封包處理引擎，可支援多種網路應用類型，像是vSwitch的卸載、防火牆、虛擬化路由，IPU本身也實作了NVMe儲存加速介面，可運用與延伸英特爾Optane NVMe控制器，進而模擬支援超高IOPS傳輸率的NVMe裝置。

關於IPU實際成效的展現上，英特爾找來公有雲業者微軟為其證言。

該公司的合作夥伴架構師Derek Chiou表示，微軟在全球各地的資料中心，已部署數百萬個英特爾FPGA晶片，橫跨多個世代，用來加速網路運作，而且在每一代當中，都獲得頻寬與延遲等層面的效益。

以Azure執行個體服務用戶而言，若啟動Azure Accelerated Networking加速機制，網路存取延遲縮減幅度可達到5倍之多，進而能完整運用他們購買的網路頻寬，同時，也能善用更多Xeon處理器核心，提升使用效率。基於這樣的成效，關於英特爾發展FPGA架構的IPU，微軟認為，也能針對雲端服務與電信通訊市場中建置的各種分散式應用，提供類似的最佳化支援，他們也將繼續與英特爾在IPU領域進行合作，而能在運作效率、能否持續使用等層面取得重大突破。

英特爾在今年5月舉行的Vision大會期間，也首度公開ASIC架構IPU的效能。在該公司的效能測試結果公告網站Performance Index上，他們列出一份相關報告來印證。

此項測試是在Kubernetes環境執行，服務等級協定限定需在5微秒延遲的狀態下，他們針對3種系統組態（第三代Xeon Scalable、第四代Xeon Scalable、第四代Xeon Scalable搭配IPU），觀測grpc伺服器可負荷的個人端執行個體數量。

結果顯示，搭配第三代Xeon Scalable的伺服器在這樣的條件下，只能負荷到300臺；搭配第四代Xeon Scalable的伺服器，可負荷到600臺；搭配第四代Xeon Scalable搭配IPU的伺服器，可負荷到1,200臺。

值得注意的是，英特爾在Performance Index的列表摘要介紹中，提到相較於搭配第三代Xeon Scalable的伺服器，搭配第四代Xeon Scalable的伺服器效能改善30%，而當搭配第四代Xeon Scalable的伺服器透過「負載平衡器」的轉介，將工作負載從CPU搬移到IPU時，效能又再提升了30％，而且還特別以Intel IPU ES2000來稱呼Mount Evans，這很有可能會是此產品的最終名稱。

IPU系列產品的下一步會是什麼？根據英特爾在Vision大會公布的最新消息指出，到了2023年，他們將推出具有400 Gb網路處理能力的第三代IPU，以FPGA架構的產品而言，會是Hot Springs Canyon，以ASIC架構的產品而言，則是Mount Morgan，預計在這一年開始供貨，2024年將會更廣泛供應市場。

再下一個階段，英特爾將推出具有800 Gb網路處理能力的次世代IPU，預計在2025年、2026年供貨。

而有了這些硬體，固然能讓雲端服務業者將基礎架構處理的工作負載轉移到IPU執行，將伺服器端全部的運算資源開放出來，供所有的個人端用戶業務邏輯執行之用，英特爾強調，他們持續強化IPU之餘，也將積極發展開放原始碼的相關軟體，尤其會著重在抱持著廠商中立態度的IPDK，而目前的IPDK版本建立在他們長期投入發展的多種IT基礎架構軟體開發套件，包含SPDK、DPDK、P4，這些都是網路、儲存、IT基礎架構應用開發者常用的工具鏈。

展望未來，英特爾也將協助合作夥伴與用戶發展各種基礎架構處理軟體，像是網路虛擬化、儲存虛擬化、Kubernetes、容器網路，而且促使這些軟體的加速執行不會受制於特定的硬體，實現只需撰寫一次應用程式、就能在各種硬體、軟體平臺執行的理想，如此一來，能讓用戶聚焦在應用程式、業務邏輯，而非底層的應用程式介面或是硬體內部的運作架構。