微軟開始在Azure提供Graphcore AI晶片雲端服務

英國人工智慧晶片開發商Graphcore與微軟合作，開發出了一款全新智慧處理單元（IPU），這塊晶片在初期會主要應用於Azure雲端，解決自然語言處理和電腦視覺領域的問題上。伴隨IPU釋出的Poplar軟體堆疊，跟深度學習函式庫TensorFlow以及ONNX模型格式整合，可良好支援現有的機器學習應用。

Graphcore解釋IPU跟CPU和GPU的不同之處，IPU是一種平行處理器，經過重新設計具高度靈活性，可為現在的機器學習模型提供良好的效能，用來執行模型訓練以及預測，Graphcore還提到，IPU除了可高效能執行複雜的模型之外，也能推動實現人工智慧領域的創新，高效率探索新技術，並讓企業建立可用較少的資料訓練的機器學習系統。

微軟和Graphcore合作兩年多，為Azure開發專門的系統，在IPU上強化電腦視覺與自然語言處理的模型。Graphcore表示，將IPU結合專門的Poplar軟體堆疊一併使用，可提供可擴展且高效率的人工智慧解決方案。研究人員使用BERT語言模型進行實驗，以一臺具有8片IPU處理器PCIe卡的IPU伺服器系統，在56小時完成複雜的BERT Base模型訓練，應用IPU系統讓BERT模型的預測吞吐量高了三倍，延遲也少了20％，能更快速地交付運算結果。

而Poplar軟體堆疊是研究人員與晶片一同開發，專為機器學習設計的圖工具鏈，Poplar與TensorFlow以及ONNX格式良好整合，開發人員可以方便地使用現有的機器學習開發工具和機器學習模型，Graphcore也為ONNX提供了完整的訓練Runtime，並且與ONNX組織緊密合作，要將該Runtime納入成ONNX的標準執行環境中。另外，對PyTorch的支援也會在2019年的第四季提供，並在2020年初提供進階支援。

目前Azure上Graphcore IPU預覽版已經可供用戶申請，目前會優先開放給自然語言處理創新應用的團隊使用。