AWS二代巨量記憶體運算系統配備1,920顆CPU與32TB記憶體

針對需要配置較多記憶體容量的應用系統建置與執行需求，全球三大公有雲業者都提供記憶體最佳化的運算服務，單就這類型的虛擬機器／執行個體而言，記憶體容量最大可配置到何種程度，以便因應超大型記憶體內資料庫系統的工作負載？

以微軟Azure為例，Mv3系列提供1,792顆vCPU與30,400 GiB記憶體的虛擬機器，在去年9月正式推出，採用英特爾第四代Xeon Scalable處理器（Xeon Platinum 8490H）；若是Google Cloud，X4系列提供1,920顆vCPU與32,768 GiB記憶體的虛擬機器，是在去年8月正式推出，採用英特爾第四代Xeon Scalable處理器（Xeon Platinum 8490H）；對於AWS而言，EC2的U7i系列提供896顆vCPU與32,768 GiB記憶體的虛擬機器，在去年5月正式推出，同年12月增設U7inh組態（u7inh-32tb.480xlarge），提供1,920顆vCPU與32,768 GiB記憶體的裸機系統。

回顧過去，AWS先前針對大型記憶體內資料庫系統提供的雲端執行個體，最早是2016年5月發表的EC2 X1系列，搭配Haswell架構的Xeon E7 8880 v3處理器，記憶體容量提供1,952 GiB，隔年推出配備3,904 GiB記憶體的執行個體選擇；接著是2018年9月發表的EC2 U1系列，搭配Skylake架構的Xeon Scalable處理器Xeon Platinum 8176M，執行個體可配備12 TB記憶體，隔年10月U1執行個體可配備24 TB記憶體，搭配Cascade Lake架構的Xeon Scalable處理器Xeon Platinum 8280L。

接下來，則是2023年11月底發表的EC2 U7i系列，可支援多種大型記憶體內資料庫系統，像是SAP HANA、Oracle、SQL Server的部署，AWS此時宣布開放U7i系列的預覽測試，提供記憶體容量分別為16 TiB、24 TiB、32 TiB的執行個體，也就是u7in-16tb.224xlarge、u7in-24tb.224xlarge、u7in-32tb.224xlarge，而且正在發展12 TiB的執行個體u7i-12tb.224xlarge，這些虛擬機器都採用英特爾第四代Xeon Scalable處理器（代號Sapphire Rapids）的專屬訂製款式，每一臺均搭配896顆vCPU。

關於效能表現的增長，根據AWS當時的預告，比起第一代記憶體最佳化執行個體U-1系列，U7i系列處理器運算效能可提升25％，記憶體效能提升20％，存取雲端區塊儲存服務的網路頻寬大多都提升至2.5倍（25 Gbps vs. 100 Gbps，u7i-12tb.224xlarge的EBS頻寬為60 Gbps）。

隔年5月AWS宣告U7i系列正式上線，提供4個執行個體組態，比起U1系列，運算效能提升幅度上修為35％，記憶體效能提升幅度改為15％，性價比增加45％，EBS存取頻寬的增長大多與先前預告一致，執行個體重新啟動速度則為U1系列的2.5倍。

而在網路規格的部分，去年11月預告U7i系列提供100 Gbps的頻寬，等到5月正式上線之後，u7in-16tb.224xlarge、u7in-24tb.224xlarge、u7in-32tb.224xlarge的網路頻寬，均提高至200 Gbps，u7i-12tb.224xlarge維持100 Gbps。關於網路配接卡，U7i系列全都支援ENA Express，可支援每個流向配置25 Gbps頻寬，若以執行個體之間的存取而言，P99.9存取延遲指標（呈現極端或特殊狀況性能）的表現可因此改善85％。

在此同時，AWS EC2 U7i系列也獲得SAP認證，可用來執行SAP旗下多種商用軟體，像是：SAP Business Suite on HANA（SoH）、SAP Business Suite 4 SAP HANA（S/4 HANA）、SAP Business Warehouse on HANA （BW/4HANA），作為正式的生產環境。

值得注意的是，AWS這項雲端服務上線時，也標榜他們是第一家基於8路運算架構，而能提供巨量DDR5記憶體執行個體組態的雲端業者。

到了12月，AWS接連宣布U7i系列增設更多執行個體組態，而且在這個月之內陸續通過SAP硬體驗證。

首先是在12月9日，AWS開始正式提供記憶體容量為6 TiB與8 TiB的U7i執行個體：u7i-6tb.112xlarge、u7i-8tb.112xlarge，vCPU數量均為448個；一週之後，AWS開始正式提供記憶體容量為32 TiB的U7inh執行個體：U7inh-32tb.480xlarge，vCPU數量增加至1,920個，EBS儲存頻寬也躍升1.6倍、來到160 Gbps。

令人意外的是，AWS特別表明此處採用其他廠商的16路伺服器：HPE Compute Scale-up Server 3200，並且將其建置在AWS Nitro System當中，以便與其他EC2執行個體完全整合、提供一致的管理方式，而且U7inh-32tb.480xlarge仍是虛擬機器，並非裸機。

不過，AWS為何刻意採用HPE Compute Scale-up Server 3200建置U7inh？他們並未詳細說明這麼做的考量，只提到兩件事：首先，這是他們與HPE合作建置而成的雲端運算服務，以及可執行最大型的記憶體內資料庫工作負載，或將原本執行在HPE硬體系統的工作負載遷移到AWS使用。對比於Google Cloud在2024年8月正式推出的X4，雖然他們僅提供3種組態，但當時已能提供1,920顆vCPU與32,768 GiB記憶體的裸機系統，可惜並未透露所用的硬體設備來源。

就產品特色而言，HPE Compute Scale-up Server 3200有何能耐是AWS可能必須仰仗的？基本上，這是專門針對大型關鍵應用系統建置需求的產品，於2023年底正式推出，本身是可透過多臺模組化機箱擴充執行規模的機架式伺服器系統。

在處理器方面，企業可搭配8至60顆核心的英特爾第四代Xeon Scalable，並且支援多種安裝數量的組態：4顆（單臺5U機箱）、8顆（2臺5U機箱）、12顆（3臺5U機箱）、16顆（4臺5U機箱）；記憶體方面，企業可在此搭配單支容量為32 GiB至128 GiB的DDR5-4800。

單就每顆處理器而言，這套系統的設置是各自對應16個記憶體插槽，因此，整臺伺服器最大能提供32 TB容量的共享記憶體（16顆處理器x 16個記憶體插槽 x 128 GiB記憶體 = 32,768 GiB），符合AWS EC2 U7inh-32tb.480xlarge的32,768 GiB記憶體配置。。

而在伺服器的處理器的配置上，由於HPE Compute Scale-up Server 3200最高可搭配60顆核心、120個執行緒的Intel Xeon-Platinum 8490H，若採用16路運算配置，整臺伺服器系統可提供960顆核心、1,920個執行緒，而能對應到AWS EC2 U7inh-32tb.480xlarge的1,920顆vCPU配置。

產品資訊

AWS Amazon EC2 U7i系列
●原廠：AWS
●建議售價：隨需定價模式，美國西部（奧勒岡）區域，u7i-6tb.112xlarge每小時62.79美元（448顆vCPU、6TiB記憶體）
●採用處理器：英特爾第四代Xeon Scalable系列 
●提供服務規模選擇與最大組態：
u7inh-32tb.480xlarge，1,920顆虛擬處理器、32TiB記憶體、網路頻寬為200 Gbps，硬碟儲存搭配AWS雲端區塊儲存服務EBS，EBS存取頻寬為160 Gbps

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】