開發者可用最新CPU、GPU、AI加速器測試，Intel雲服務上線

這幾年來，伺服器CPU、GPU、加速運算卡推陳出新的速度加快，然而，受限於晶片本身的產能短缺，系統廠商設計製造相關產品的市場獲利考量，以及雲端業者將這些運算平臺轉為可營運的執行個體服務，需要投入時間、人力進行規畫等因素，最終用戶要能實際接觸到這些新產品，進行測試、評估、驗證，可能要等上一年半載。

因應這方面的需求，處理器廠商英特爾在2019年，推出雲端硬體部署測試平臺Intel DevCloud for the Edge，企業透過這個涵蓋英特爾旗下多款CPU、整合GPU、獨立GPU、VPU、FPGA等運算平臺的環境，可在此開發與測試基於OpenVINO Toolkit與其他軟體工具而成、用於邊緣運算工作負載的程式碼。

2021年10月Innovation大會期間，該公司設立開發者專區，統合了開發者軟體型錄、DevCloud開發環境；隔年9月Innovation大會期間，英特爾宣布擴充Intel Developer Cloud，將會供應多款硬體平臺，作為這些產品上市之前的系統開發與測試之用，並開放部分開發者與合作廠商進行試用，使他們能更早接觸到英特爾幾個月至1年後推出的產品。透過這項雲端服務，可搭配英特爾提供的開發工具與資源，諸如Intel  oneAPI Toolkits、電腦視覺AI模型開發軟體平臺Intel Geti，設計出具有最佳效能的應用系統，對於利用英特爾平臺所組建而成的解決方案，可藉此縮短上市時間。

在Intel Developer Cloud的環境當中，用戶可存取哪些新產品？英特爾表示，能使用2022年上半問世的Habana Gaudi 2深度學習加速器、8月登場的Data Center GPU Flex系列，以及後續即將上市的產品，像是內建HBM記憶體的第四代Xeon Scalable處理器、代號為Ponte Vecchio的Data Center GPU（這兩款產品同年11月發表，分別是Xeon Max系列CPU與Data Center GPU Max系列），以及第四代Xeon Scalable處理器（2023年1月推出）。

到了今年9月的Innovation大會，英特爾宣布Intel Developer Cloud正式上線，

而在11月在臺Intel Innovation Taipei 2023大會，也有這套雲服務的功能特色展示。

最新推出的Intel Developer Cloud當中，提供最新發表的硬體平臺，包含已發表的Data Center GPU Max系列，就連12月14日推出的第五代Xeon Scalable處理器（代號Emerald Rapids），也即將在此上架，屆時有意試用的個別開發者、企業，不用苦苦等候伺服器廠商、公有雲業者將相關產品服務準備好，無需歷經廠商宣布開放試用、登記、核準等程序， 就能在最快時間之內，開始著手評估新一代處理器的能耐與功效。

目前Intel Developer Cloud提供哪些功能？最吸引大家使用的部分，主要是英特爾目前最新與即將推出的硬體平臺，在這項服務的硬體型錄當中，涵蓋CPU、GPU、AI加速器等3大類型，用戶可在此建置虛擬機器、裸機、容器等3種環境。

以第四代Xeon Scalable處理器為例，用戶能存取虛擬機器與裸機型態的伺服器，最大組態為2路、256GB記憶體、2TB硬碟；若是內建HBM記憶體Xeon Max系列處理器、Data Center GPU Max系列、Data Center GPU Flex系列、Gaudi2加速器，目前僅能存取裸機型態的伺服器。

隨著Intel Developer Cloud問世，英特爾也持續擴充當中的功能。根據目前公布的版本更新資訊來看，Intel Developer Cloud是在9月19日正式上線，版號為1.0.2，用戶可在此建立虛擬機器，可存取採用第四代Xeon Scalable處理器的伺服器，也能在此建立裸機運算環境，存取搭配深度學習加速卡Gaudi2的伺服器、採用第四代Xeon Scalable處理器的伺服器，以及採用Xeon Max系列GPU的伺服器。

10月3日Intel Developer Cloud升級至1.0.3版，可提供Gaudi2叢集（執行個體群組），目前這項雲端服務的最新版本為1.0.4，10月24日上線，增加許多新功能，例如，提供教育訓練與工作坊——針對AI、C++ SYCL、生成式AI，提供Jupyter Notebook腳本，當中可透過預載相依性元件與可執行範例，協助學生、教授、研究人員練習；增加新的生成式AI訓練服務，藉此了解Intel Data Center GPU Max系列用於這領域的成效，而這部分服務可適用不同類型的使用者，包含AI開發者、創作者、工程人員，以及一般人士。

在此同時，Intel Developer Cloud在教學文件區，也新增Gaudi2訓練AI模型的作法。而在整個管理主控臺的介面上，也提供深色、高對比背景模式（Dark mode）的切換，便於開發人員在亮度較低的現場環境進行操作。

同時，在Intel Developer Cloud這個環境當中，也能運用英特爾發展的開放軟體基礎平臺oneAPI，供應支援多架構與多廠商程式模型的軟體與工具，協助開發人工智慧（AI）、高效能運算（HPC）領域的應用系統，在此進行組建、測試、調校工作，並且執行小型至大型的AI訓練、模型調整、推論工作負載，便於後續能以高效能、高效率的方式進行部署。

根據英特爾公布的產品簡介文件，英特爾是以軟體型錄的方式，提供多種經過調校的英特爾開發工具包、程式庫軟體，以及AI框架、延伸套件、軟體套餐，並且也預計提供AI服務，可使用多種AI基礎模型。可惜的是，目前這兩大部分的服務尚未上架到Intel Developer Cloud。

值得注意的是，Intel Developer Cloud推出之後，英特爾就明確列出3種服務等級，有免費的標準版，提供社群論壇支援、無服務等級協定，也有付費的尊爵版、企業版——若是存取裸機環境，兩個付費版用戶均可操作到單一節點的系統或叢集，並且可存取Kubernetes叢集；技術支援方面，尊爵版提供週一至週五上午8時至下午5時的英特爾技術工程師，企業版提供24x7，以及1小時至1天的電話、文字交談、求助工單等支援。

此外，免費版與尊爵版僅開放單一使用者存取，企業版允許多人團隊存取。

產品資訊

Intel Developer Cloud
●原廠：英特爾
●建議售價：標準版免費，尊爵版依使用小時計費，企業版採月訂閱制、依點數計費
●提供硬體運算平臺：CPU（第四代Xeon Scalable、Xeon Max系列）、GPU（Data Center GPU Max系列、Data Center GPU Flex系列）、AI加速器（Habana Gaudi2）
●提供軟體開發平臺：Intel工具包與程式庫（oneAPI Base Toolkit、Rendering Toolkit、HPC Toolkit、Quantum SDK、Jupyter notebooks等）、AI框架（Optimization for PyTorch與TensorFlow、OpenVINO Toolkit、Neural Compressor等）
●AI服務：TII Falcon LLM、MosaicML MPT、Hugging Face BLOOM、Stability.AI Stable Diffusion、Meta AI Llama 2、Databricks Dolly

【註：規格與價格由廠商提供，因時有異動，正確資訊請洽廠商】