圖片來源: 

Graphcore

英國人工智慧晶片開發商Graphcore與微軟合作,開發出了一款全新智慧處理單元(IPU),這塊晶片在初期會主要應用於Azure雲端,解決自然語言處理和電腦視覺領域的問題上。伴隨IPU釋出的Poplar軟體堆疊,跟深度學習函式庫TensorFlow以及ONNX模型格式整合,可良好支援現有的機器學習應用。

Graphcore解釋IPU跟CPU和GPU的不同之處,IPU是一種平行處理器,經過重新設計具高度靈活性,可為現在的機器學習模型提供良好的效能,用來執行模型訓練以及預測,Graphcore還提到,IPU除了可高效能執行複雜的模型之外,也能推動實現人工智慧領域的創新,高效率探索新技術,並讓企業建立可用較少的資料訓練的機器學習系統。

微軟和Graphcore合作兩年多,為Azure開發專門的系統,在IPU上強化電腦視覺與自然語言處理的模型。Graphcore表示,將IPU結合專門的Poplar軟體堆疊一併使用,可提供可擴展且高效率的人工智慧解決方案。研究人員使用BERT語言模型進行實驗,以一臺具有8片IPU處理器PCIe卡的IPU伺服器系統,在56小時完成複雜的BERT Base模型訓練,應用IPU系統讓BERT模型的預測吞吐量高了三倍,延遲也少了20%,能更快速地交付運算結果。

而Poplar軟體堆疊是研究人員與晶片一同開發,專為機器學習設計的圖工具鏈,Poplar與TensorFlow以及ONNX格式良好整合,開發人員可以方便地使用現有的機器學習開發工具和機器學習模型,Graphcore也為ONNX提供了完整的訓練Runtime,並且與ONNX組織緊密合作,要將該Runtime納入成ONNX的標準執行環境中。另外,對PyTorch的支援也會在2019年的第四季提供,並在2020年初提供進階支援。

目前Azure上Graphcore IPU預覽版已經可供用戶申請,目前會優先開放給自然語言處理創新應用的團隊使用。


Advertisement

更多 iThome相關內容