Intel
英特爾在今年Computex電腦展發表Xeon 6處理器,由搭載效率核心(E-core)版本的Xeon 6處理器先打頭陣,本周英特爾再補齊Xeon 6處理器產品線,推出搭載效能核心(P-core)版本,提高核心數及記憶體頻寬,最高至128個核心。
Xeon 6為伺服器專用處理器,是英特爾首款採用Intel 3節點設計的產品,其中分為搭載E-core效率核心版本(代號Sierra Forest),以及搭載P-core效能核心版本(代號Granite Rapids)。今年6月,英特爾先推出E-core版Xeon 6處理器,鎖定超多核心需求,最高擁有144個E-Core核心,主要鎖定高密度、高能源效率資料中心使用需求,適用於雲原生、CDN、微服務架構等應用。
至於新推出的P-core版本Xeon 6處理器,鎖定密集型工作負載需求,AI及高效能運算市場,不僅增加核心數,並且將AI加速功能嵌入到每個核心,記憶體頻寬也加倍。英特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求,強調能在不需獨立加速器之下,執行數十億參數的AI模型。
根據官網的訊息,Xeon 6900P系列搭載的P-core為超執行緒核心,針對AI、HPC、資料等工作負載需求,採用矩陣引擎,最高擁有128個核心,最多504MB的快取記憶體;而E-core版本的Xeon 6700E系列,使用單執行緒提高核心密度,並且省略矩陣引擎,單處理器最高擁有144個核心,英特爾計畫今年底再推出更高核心數,將單插槽核心數推升至288個核心。
除了P-core版Xeon 6的推出,英特爾也更新旗下的AI加速器Gaudi 3,強調為大規模生成式AI需求設計的Gaudi 3,擁有64個張量處理器核心、8個矩陣乘法引擎,內建128GB HBM2e記憶體,支援24個200Gb的網路埠,使新的Gaudi 3 提升20%的吞吐量,英特爾強調和Nvidia的H100相比,在Llama 2 70B推論時,同樣成本下提供2倍的效能。
英特爾指出,Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。目前英特爾已和合作夥伴聯手,針對生成式AI最佳化的方案,例如戴爾合作規畫設計RAG方案。
熱門新聞
2024-11-29
2024-11-20
2024-11-15
2024-11-15
2024-12-19