Nvidia推出入門級資料中心GPU，搶攻邊緣運算AI推論市場

在11月第二週舉行的GTC 2021秋季大會期間，Nvidia發表Ampere架構的入門款Tensor Core繪圖處理器A2，強調可針對邊緣環境的應用，支援低功耗、小型的深度學習推論加速處理。若以處理器為基準，A2可提供20倍以上的推論運算效能。而在Nvidia主導的產品認證系統當中，也將涵蓋A2這款用於邊緣伺服器的GPU。

除了用於推論處理，A2還可支援智慧型視訊分析應用（IVA），以及其他的多精度機器學習與深度學習部署，也能涵蓋到視訊轉碼、渲染、音訊與視訊的AI特效處理、數據分析、虛擬工作站、桌面虛擬化等工作負載。

由於它的體型較小，本身是採用被動式散熱的單槽短版PCIe介面卡（半高半長、PCIe 4.0 x8），採用熱功耗為40瓦到60瓦（Nvidia這幾年主推的T4是70瓦），特別適合空間與散熱需求局限的場所使用，像是5G邊緣設備與工業環境。

基於上述特性，用戶在入門級伺服器快速安裝這款產品，即可提升AI推論處理的能力。而就伺服器廠商方面，也有公司表態支持A2。例如，技嘉科技表示，將會延伸伺服器驗證範圍，涵蓋A2；雲達宣布6款伺服器將支援A2，包含：QuantaGrid系列的D53X-1U、D52B-1U、D43K-1U、D52BQ-2U，以及QuantaEdge系列的EGX63IS-1U、QuantaEdge EGX66Y-2U；浪潮（Inspur）也宣布在AI與邊緣推論伺服器產品線搭配A2，像是NF5280M6、NE5260M5，均可使用A2；HPE則預計在2022年上半推出結合A2的伺服器，他們看重的是A2能在邊緣環境加速推論處理，而不因此導致耗電量大增。

根據HPE目前的規畫，ProLiant Gen10 Plus伺服器的部分機型將會搭配A2，像是DL325 Gen10 Plus v2、DL360 Gen10、DL365 Gen10 Plus，能在最低耗電的狀況下，執行推論處理。若需要更強大的推論處理，可運用DL380 Gen10 Plus搭配A30，來因應更大規模的深度學習工作負載。

同時，在ProLiant系列、Edgeline系列、Synergy系列等產品線上，HPE也完成A2這款GPU的測試與驗證。

而在效能增長的幅度上，HPE也提出他們的數據。以入門級的價格而言，相較於純CPU伺服器，搭配A2的伺服器可提供37倍的推論效能，而在電腦視覺這類智慧視訊分析應用上，可提升30％的效率。

產品資訊

Nvidia A2
●原廠：Nvidia
●建議售價：廠商未提供
●I/O介面：PCIe 4.0 x8
●外形：單槽短版PCIe介面卡
●GPU架構：Nvidia Ampere
●GPU核心：10顆RT Core
●GPU記憶體：16 GB GDDR6
●記憶體頻寬：200 GB/s
●運算效能：FP32為4.5 TFLOPS
●多媒體引擎：1個視訊編碼器，2個視訊解碼器
●支援運算API：CUDA
●耗電量：40到60瓦

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】