AI趨勢周報第143期：AI晶片設計更快速！工研院秀出AI晶片開發工具連台積電都採用

重點新聞(0918～0924)

AI晶片設計     架構搜尋     模擬器  

AI晶片設計更快速！工研院秀出AI晶片開發工具連台積電都採用

工研院日前在年度技術日上，展示自家開發的AI晶片設計工具，可縮短AI晶片的架構設計時間，並在模擬器中模擬成品參數與效能，省下打造樣品嘗試的成本，連台積電都採用。

這個工具由三部分組成，分別是NNArch、NNMap、NNSim。NNArch專門探索合適的AI晶片架構，號稱比一般架構搜尋器還要快上326倍，且準確度達99.38%。NNMap包括了資源排程器和深度學習編譯器，這個編譯器負責將深度學習模型轉換為可在晶片上執行的程式碼，最後由NNSim，也就是模擬器，來模擬、驗證所設計的架構。工研院資通所所長闕志克指出，編譯器包括了一系列工具，有模擬器、加速器、深度類神經網路函式庫，以及程式碼產生器和優化器，除了能轉換程式碼，還可藉量化或架構修剪，來壓縮大小、省下硬體資源，此外也能調整輸入模型的影像解析度，或是以知識蒸餾來優化模型。（詳全文）

  GPT-3     自然語言處理    預訓練模型  

微軟取得超大自然語言模型GPT-3獨家授權，要來開發更多自然語言生成服務

微軟日前宣布取得OpenAI開發的超大自然語言預訓練模型GPT-3獨家授權，微軟技術長Kevin Scott表示，團隊將藉GPT-3的自然語言生成能力，來開發更多與自然語言相關的AI解決方案。微軟舉例，自然語言生成技術可用於創作，或是描述、總結長篇文檔（包括程式碼），甚至將自然語言轉換為另一種語言。

GPT-3是OpenAI今年6月發表的模型，具1,750億個參數，在各項自然語言基準測試中，皆達高階水準。OpenAI表示，這項獨家授權並不會影響用戶從OpenAI API來使用GPT-3模型，未來仍可繼續用來開發不同的應用程式（詳全文）

  高通     AI加速器     Cloud AI 100  

高通最新AI雲端加速晶片開始出貨，明年正式商用，同時發布Edge開發套件

高通日前宣布，旗下AI加速晶片Cloud AI 100開始供貨，預計明年上半年正式商用化。高通去年在AI Day大會上揭露這款加速晶片產品，專為機器學習推論和邊緣運算而設計，瞄準資料中心、5G基礎設施和先進駕駛輔助系統（ADAS）等特定市場需求。Cloud AI 100運算能力可達每秒400兆次運算，該產品搭配的軟體套件則支援熱門ML框架，像是TensorFlow、PyTorch、Caffe等，該套件也包含應用程式SDK，來支援多種生產環境。

與此同時，高通也發布Cloud AI 100 Edge開發套件，要提供高效能AI推論、影片處理和5G資料處理能力，這款開發套件包括了Cloud AI 100加速器、用來處理影片的Snapdragon 865模組化平臺，以及處理5G訊號連結的Snapdragon X55 ModemRF系統模組等3個元件。（詳全文）

  高頻交易   FPGA       證交所  

工研院以金融FPGA網路卡打造高頻交易系統

工研院日前展示一款FPGA加速網路卡，專門用於券商機房工作站，來加速交易時間。這個網路卡有三大功用，首先是接收、解析證交所發出的交易訊息封包，再來是執行券商的交易策略，最後則是處理協定。其中，處理協定又可分為三部分，包括處理行情封包、決策運算和下單，工研院指出，傳統做法得靠三臺伺服器來分別執行這些工作，而他們自建的FPGA網路卡，一卡就能處理。

工研院透露，目前一家國內券商已採用這款網路卡，用來加速第一階段的封包解析；由於反饋良好，接下來，雙方也將利用該網路卡來執行券商策略、加速下單速度。（詳全文）

  臺大醫院     AI超級電腦    乳房超音波  

臺大醫院揭露醫療AI新進展，還斥資導入兩臺新一代超級電腦

臺大醫院日前分享兩項醫療AI新進展，分別是與臺大聯手開發的心臟主動脈鈣化和脂肪分析系統，以及乳房超音波電腦輔助診斷系統。以心臟主動脈鈣化來說，雙方團隊以心胸部電腦斷層掃描影像和自行設計的類神經網路架構，採聯合學習方法來訓練AI，該模型現可自動分類、計算胸腔鈣化量和脂肪定量，其中，心臟影像分割準確率達94.2%，分析一個病例只要0.4秒。

再來，乳房超音波電腦輔助診斷系統是透過醫生先掃描，再由機器輔助找出腫瘤位置。臺大資工系教授張瑞峰指出，光是以超音波掃描一位病人，就會產生1800張影像，要從中找出病灶十分耗時。而現在這套系統，可在0.8秒內看完300張影像，5秒就能檢查完一位病人。

不只如此，臺大醫院近日還斥資導入新一代AI超級電腦Nvidia DGX A100，要來加速醫療影像和臨床文字資料的處理時間，預計AI影像訓練可快上兩倍、自然語言模型訓練則快上五倍。（詳全文）

3D重建    Kubernetes     Kartta Labs  

靠歷史地圖和照片就能打造3D舊城，Google開源3D重建工具Kartta Labs

Google宣布將開源一套基於Google雲端和Kubernetes的3D重建工具Kartta Labs，可透過歷史地圖和照片，來重建舊城市的3D樣貌。Kartta Labs包含了3個模組，分別是時間地圖伺服器、群眾外包平臺，以及3D平臺；時間地圖平臺可用來顯示一地隨時間變化的動態過程，群眾外包平臺則是讓使用者上傳歷史地圖、修正地理位置，手動校正舊地圖的座標並對應到現今地圖的位置。而3D平臺藉助深度學習，結合資料庫中的地圖資訊和歷史照片，來重建3D建築場景。（詳全文）

IBM    量子電腦     處理器  

IBM目標在2023年建置1,000量子位元處理器

IBM日前發表量子電腦發展藍圖，揭露未來3年的量子電腦計畫，要從目前充滿雜訊的小型裝置，發展到具有百萬量子位元的裝置。9月時，IBM發布最新65量子位元的Hummingbird處理器，明年還要推出127量子位元的處理器，而2022年，則要發布433量子位元的Osprey系統，並計畫在2023年發表1,121量子位元的Condor處理器。

IBM指出，Condor的出現，將代表IBM有糾錯和擴展量子系統的能力，也意味著量子電腦將達夠複雜的程度。為因應Condor的到來，IBM還需建造夠大的稀釋冰箱。完成後，每個冰箱將可容納100萬個量子位元，還能透過連接冰箱，組成一個大規模平行量子電腦。（詳全文）

去背     降噪      Nvidia  

一般配備也能產出專業級直播效果！Nvidia釋出AI去背和降噪的影音直播套件

Nvidia釋出一款通用的即時直播擴充套件Broadcast，可提供聲音降噪、虛擬背景甚至是自動追蹤攝影鏡頭的影音處理功能，用戶可結合熱門的即時串流媒體、語音聊天和視訊會議應用程式一起使用。

這款Broadcast套件，能讓直播主靠一般標準攝影機和麥克風，就能擁有工作室等級的效果。這是因為，Broadcast在聲音處理上，能即時消除狗叫聲或門鈴聲等噪音，甚至可消除通話另一方的鍵盤打字聲。在影像處理上，Broadcast能即時處理視訊畫面，移除人物背景，替換成其他背景。另外，Broadcast還能自動追蹤直播主的頭部運動，即便左右移動，AI模型仍能讓頭部維持在畫面中心，該功能以Beta測試版釋出。（詳全文）

圖片來源／高通、臺大醫院、Google、IBM、Nvidia

攝影／王若樸

 AI趨勢近期新聞 

1. Adobe深度學習模型HDMatt可處理影像中比髮絲還細的細節

2. 柏克萊大學打造無獎勵機制強化學習模型，勝過現有高階獎勵機制模型

3. IBM與ProMare打造的無人自駕船正式啟航進行海洋研究

資料來源：iThome整理，2020年9月