IoT應用開發有新作法！Arm把SoC硬體虛擬化搬上雲，讓開發者也能用CI/CD流程加速IoT開發

為了加速IoT開發，Arm在今年的DevSummit大會上發布了IoT全面解決方案，涵蓋從定義、設計到開發三階段加速的產品，並宣稱最多可縮短2年IoT開發周期，來加快上市時間。這三階段產品分別是標準化的開發規範與平臺Project Centauri、可加速硬體設計的Corstone，以及可加速軟體開發的虛擬硬體服務（Virtual Hardware Targets）。其中的虛擬硬體服務，更是這次產品發布核心，透過將SoC硬體架構虛擬化搬上雲，並結合CI/CD、DevOps、MLOps等一般軟體開發常用方法，目標要加速IoT軟體應用的開發。

IoT開發周期過長，未能像手機App創造規模化經濟效益

Arm首席應用工程師張維良歸納，當前IoT開發無法加速的主因有三。第一，是產品設計週期過長，從IC規格制定到實際下線製造出晶片，整個流程要花費5年以上；第二，軟體開發效率低下，IoT應用需根據實體設備，才能進行開發與測試；第三，則是軟體與服務開發無法跨平臺一體適用，使IoT開發難以規模化。

舉例來說，若要開發一套IoT智能咖啡機，讓咖啡機自動辨識人臉，再向顧客推薦個人化飲品，這套AIoT設備的開發，首先就會面臨軟硬體設計缺乏參考標準的問題，需從頭設計硬體、製造出矽晶圓，再依據硬體來開發軟體應用，大約要3～4年才能完成雛形。同時，還須考量設備的安全防護，確保沒有資安疑慮，才能取得顧客信任。

但是，張維良描繪，一隻手機App從設計、開發到上市，已經縮短到數個月的時間，尤其在軟體開發上，可以透過CI/CD、DevOps等自動化協作開發流程，來縮短App的開發生命週期，ML開發也能透過MLOps，更快速的部署到生產環境，來執行測試、上線與維運，更重要的是，這些手機應用的開發，鮮少需要考慮能否支援全球上千個手機硬體平臺的問題。

這個手機App開發的市場現狀，正是Arm為IoT應用開發，所刻畫的未來藍圖。張維良指出，「如何讓全球數百萬開發人員，採用更現代化的軟體開發方法，來加快IoT產品上市？」Arm最新釋出的IoT開發解決方案，嘗試克服這項挑戰，關鍵就是靠雲端虛擬化SoC硬體架構，再結合軟體開發常見的CI/CD與DevOps，來推動IoT開發周期的改變。

Arm發布IoT解決方案涵蓋三大產品，核心虛擬硬體服務可大幅提升開發效率

Arm這次發布的解決方案包含三大產品。在IoT硬體設計的階段，Arm整合了過去就已經用於加速SoC設計的解決方案Corstone，這是一套將NPU、CPU與系統IP整合在內、且經過驗證的硬體子系統，從2018年推出以來，已經協助矽晶圓業者發布了超過150種設計。

基於這套子系統，Arm也發布了領先業界的虛擬硬體服務（Virtual Hardware Targets），來加速IoT軟體應用的開發。Arm物聯網暨嵌入事業部副總裁Mohamed Awad指出，這套解決方案運用了大量建模的技術，建立起整合式子系統Corstone的雲端虛擬版本，讓OEM廠商或軟體開發者，不需再等到實體硬體開發完成後，才能開發軟體應用，而是能透過雲端Arm架構的虛擬SoC模型，包括虛體記憶體與周邊設備，來進行軟體開發，這個作法也消除了軟體開發對硬體的相依性（dependency），讓軟硬體開發能各自獨立且並行。

「虛擬硬體一大優勢，是簡化嵌入式系統的開發流程，節省過去打造實體電路板、線路、跨接線，所投入的資源。」Mohamed Awad指出，透過在矽晶圓製造完成之前，就先進行軟體應用的開發，可將IoT產品設計周期從平均5年縮短為3年，加速IoT產品上市。

過去開發IoT應用時，通常需等到矽晶圓製造出來後，才能根據硬體來進行軟體開發。

透過虛擬硬體服務，軟硬體可獨立且並行開發，將IoT開發周期縮短2年。

Mohamed Awad更指出，透過雲端來開發IoT軟體的方法，更與現在手機App、資料中心雲端原生軟體的開發方法不謀而合，尤其，因雲端資源具有擴充性，開發者可以透過更現代化、敏捷的方法來開發軟體，比如利用CI/CD、DevOps、MLOps等自動化與協作方法，但不需要額外建立與維運硬體設備。

Arm也在自家部落格中指出，開發人員可以在雲端執行和擴展CI基礎設施，在數秒鐘內啟動數千個虛擬開發板，並且同時執行所有的測試套件。對資料科學家來說，還能直接在雲端測試不同的ML網路配置和最佳化策略，開發速度甚至能比在真正的硬體上更快。

這項服務可在Linux環境中作為應用程式執行，目前則釋出Beta版本，已經能透過AWS Marketplace取得，但尚未能在其他公有雲服務中使用。

最後一項產品，則是Arm為了實現標準化的開發規範與平臺而推出，稱為Project Centauri，這是一項相對於Project Cassini的計畫，兩者目的都要推動IoT開發的開放、協作及安全性標準，但後者是針對基於Cortex-A系列裝置的生態系，前者則是針對Cortex-M系列裝置。Project Centauri包含了對PSA的認證與Open CMSIS-CDI的支援，也要藉由Cortex-M生態系的建立，來推動開發用的參考程式碼、軟體套件與工具，並擴大合作夥伴。

目前，第一代Arm IoT解決方案已經上市，以Corstone-300子系統為基礎，虛擬硬體服務則支援Cortex-M55與Ethos-U55兩種裝置，主要適用通用運算及語音關鍵字識別的ML開發場景，未來也將持續支援更多硬體裝置與軟體應用。

Arm指出，已經採用的客戶包括Amazon Lab126，利用虛擬硬體服務來擴大Alexa喚醒詞的迴歸測試，奇景光電也採用了IoT解決方案，更進一步將符合虛擬硬體配置的自家處理器，在還未製造出實體晶片前，就讓開發者透過虛擬硬體服務，在雲端進行軟體開發。

Google TensorFlow Mobile技術總監Pete Warden更指出，Tensorflow已經能支援Arm的Cortex-M55 CPU與Ethos-U55 NPU，過程中，Google也利用了虛擬硬體服務，來開發與測試支援兩種硬體的函式庫，讓Tensorflow在矽晶圓上市前就能支援這些處理器，且透過雲端CI系統，也確保了任何修改過的程式碼都已經完成測試。