【Google Cloud落地新戰略】首款Edge TPU出爐，Google改靠硬體搶攻IoT戰局

這場雲端三巨頭的IoT市場大戰，早從4年就開始了。但是，AWS、Azure和GCP三巨頭的IoT布局卻有很大的差別。

微軟先在2015年3月時，發表了Azure IoT套件（Azure IoT Suite），這是一個可用來打造出多租戶架構的IoT PaaS平臺。而Google則是同一年5月I/O大會時，發表了用輕量版Android打造的IoT作業系統Brillo，希望將Android作業的優勢，擴大延伸到IoT戰場上。

AWS也不遑多讓，在同一年10月年度大會時，推出了Amazon IoT平臺測試版，提供了從裝置端、閘道端一直到雲端的IoT租用服務方案。微軟瞄準IoT雲端需求，Google從裝置端OS著手，而AWS則是想要從端到雲都通吃。

隔年，三巨頭IoT平臺相繼正式上線，競爭進入白熱化，微軟持續擴大IoT雲端平臺功能，而Google的Brillo專案，則成了Android Things作業系統，但AWS的IoT布局，在2016年底的年度大會上，開始微調轉向。

想要通吃端到雲的AWS，發現網路中斷和延遲問題是IoT應用最擔心的痛點，轉而率先聚焦在邊緣運算，發表了Greengrass軟體，要作為邊緣運算設備的底層軟體，當時AWS就將無伺服器運算Lambda技術，透過容器技術放進Greengrass環境中執行。不過，Greengrass的挑戰是，需要一定運算效能的主機才能順利運作。

AI成為IoT邊緣運算的新競爭點

2017年，IT技術成了邊緣運算的競爭重點。AWS進一步強化Greengrass，推出ML Inference功能，可以將機器學習模型放入邊緣裝置中執行。另外還推出了FreeRTOS，這是一套可以串連雲端服務的IoT OS軟體。

而微軟也從2017年開始聚焦AI邊緣運算應用場景，提出了智慧邊緣（Intelligent edge）概念架構，但直到2018年5月的Build大會，微軟轉而決定全力擁抱智慧邊緣市場，來建立新的企業AI戰場，推出Azure IoT Edge服務，同樣在Edge端提供和雲端同樣的容器環境，將雲端Azure程式和AI能力，帶進企業本地邊緣端的環境中。

不只如此，微軟更進一步開源釋出了IoT Edge Runtime軟體，這就像是一個輕量級的IoT Edge層OS，可以輕易部署到其他OS或設備中，將它們變成了微軟Azure的智慧邊緣設備。

但Google遲遲沒有加入這場邊緣運算的戰局，直到2018年Next年度大會，才終於揭露了IoT邊緣運算戰略。Google在Next雲端大會第二天，發表了自家搶攻IoT邊緣運算的戰略武器，其中最引人關注的就是Edge TPU晶片。Google要靠自家超強的AI專用晶片技術，從硬體來搶攻IoT邊緣運算。今年10月還將開賣Edge TPU開發板，要讓企業可以快速打造自己的IoT應用。

Google早在今年5月時，就發表了第三代AI晶片TPU 3.0，可以比前一代提高了8倍效能，能處理到100petaFLops，企業能上雲租到的這顆AI晶片，可以媲美一臺超級電腦的運算效能。在Next大會第一天，Google首席科學家李飛飛宣布TPU 3.0進入了Alpha版本，意味著產品化腳步不遠了。不只如此，Google在Next大會第二天主題演講中，新任Google Cloud物聯網副總裁李仁鍾（Injong Rhee)，從自己褲子口袋中拿出了Google第一款邊緣運算晶片Edge TPU。這個不到一美分硬幣四分之一大小的Edge TPU晶片，是用來執行ML模型推論預測（inferences）用的AI專用晶片，目前是Alpha版本。除了硬體之外，Google同時發表了支援Edge TPU的Google IoT Edge軟體，可以在Android Things 或以 Linux OS 為基礎的裝置上執行。

「Edge TPU是和Cloud TPU互補的產品，你可以透過Cloud TPU來加速訓練機器學習模型，再將訓練好的機器學習模型，放到Edge設備中，用Edge TPU晶片高速進行推論預測。」Antony Passemard強調，如此一來，就能利用感測器蒐集更多的資料，尤其是大量即時性、在地性的資料來進行決策。

Google預計10月推出Edge TPU開發板套件，內建NXP CPU處理器、Edge TPU、Wi-Fi功能和加密晶片，支援SD卡，可快速用來打造出一臺Edge TPU運算主機。 攝影／王宏仁

Edge TPU平均功耗預估不到2瓦

Cloud IoT產品管理部門負責人Antony Passemard表示，Edge TPU是Google自行設計的超低功率ASIC晶片，可以在邊緣運算設備上執行TensorFLow Lite機器學習模型，但是，不同於Cloud TPU，Edge TPU晶片不是用來訓練機器學習模型，而是用來執行已經訓練好的模型，來進行預測之用。因此，不像Cloud TPU那樣具備peta等級的計算能力，但卻可以用超低功率，以高度省電的方式，在邊緣運算設備或裝置上執行TensorFlow機器學習模型。

Google沒有揭露Edge TPU功耗資訊，但據臺灣第一家Google邊緣運算合作夥伴凌華科技董事長劉鈞透露，跟一般GPU相比，Edge TPU晶片是一個平均功耗的超低功率ASIC晶片，因此，能夠以高度省電的方式，讓訓練完成的機器學習模型或AI模型直接在Edge TPU內執行，用在邊緣運算設備上，可以獲得比一般GPU更好的推論效果。Edge TPU也可和CPU、GPU或FPGA晶片搭配來加速ML推論計算，根據Google官方資料，Edge TPU也可用於分析串流影片，可達到每秒處理30幀的能力。

Edge TPU適合處理時間序列資料

劉鈞指出，Edge TPU能夠處理許多不同類型的資料，像是除了影像或圖像以外，還有溫度、壓力、震動等這類按時間發生順序排列的資料，就很適合用Edge TPU來處理，「這是Edge TPU的強項」他說。

目前也有幾家企業，參與Edge TPU晶片的前測，例如LG CNS將其用於智慧工廠，而Smart Parking則用Edge TPU來改善停車管理和調度，另外也有自駕車系統業者XEE將Edge TPU用於車外攝影和雷達數據的分析。

為了加快企業開發IoT應用，Google還進一步發表了Edge TPU開發板套件（module development kit）。

就像樹莓派開發板Raspberry Pi那樣，Edge TPU開發板就是一個小型的AI晶片主機板，大約是長約3個臺幣十元硬幣，寬約2個10元硬幣大小的開發板，內建了NXP CPU處理器、Edge TPU、Wi-Fi功能和加密晶片，另外也可支援SD卡來儲存資料，可以快速用來打造出一臺Edge TPU運算主機。Edge TPU開發板預計今年10月開始供貨，但Google還沒有揭露售價。

 相關報導  Google Cloud落地大進擊