Deepmind

華為發表更輕更小的自然語言處理預訓練模型TinyBERT，比Google BERT小7倍，推論速度卻快上9.4倍。TinyBERT採用知識提煉（KD）和師生框架來改善Google BERT，利用小型學生網路來模仿大型老師網路行為，而KD則著重於Transformer提煉和兩階段學習框架，在大型文本語料庫和下游微調過的TinyBERT之間，增加一個通用TinyBERT。

OpenSpiel提供了各式增強學習的研究環境以及演算法，以促進通用增強學習的發展

想要試試看有深度學習加持的電腦玩家有多強嗎？星海爭霸 2玩家在歐洲區的天梯，將有機會與人工智慧AlphaStar一較高下

DeepMind用強化學習訓練AI玩家，在複雜多人連線3D遊戲中的奪旗競賽場景，AI玩家的表現已達人類水準

成大今年將針對自家電資學院開設醫療AI課程，由醫學中心資深醫師、教授領軍，教導學生AI如何判讀醫療影像、如何將檢驗數據和基因庫等資料，轉換為具臨床意義的模型等。另一方面，英特爾開源影像標註工具CVAT，來加速電腦視覺模型的訓練時間。Amazon則推行Project Zero計畫，透過機器學習來抓仿冒品。

DeepMind對Google在美國的風力發電廠應用機器學習技術，以天氣預測以及渦輪運轉資料，預測未來36小時的電力輸出，降低風力發電的不可預測性。

雖然Deepmind只訓練了人工智慧AlphaStar14天，但使其經歷200年的遊戲時間，對戰的頂尖玩家表示，AlphaStar使用了他過去沒想過的策略。

AlphaZero為一個完全未經訓練的神經網路，經由與自己對戰數百萬回合強化學習，經過自我訓練後，4個小時後擊敗西洋棋程式Stockfish，2小時後勝過將棋程式Elmo，並於30小時之後擊敗了圍棋程式AlphaGo。