邊緣AI的五大優勢

身處在一個即使是與世隔絕之處，都能有某種形式的資料連線世界中，為什麼還需要邊緣AI？如果強大的網路伺服器只有一步之遙，那麼能夠自行決策的小型裝置還有什麼意義？加進這些額外的複雜考量之後，難道不會讓生活變得更加艱困嗎？

正如您可能猜到的那樣，答案是否定的！邊緣AI解決了一些非常實際的問題，否則這些問題將阻礙那些增進人類福祉的技術持續發展。

用BLERP口訣了解邊緣AI的好處

BLERP是什麼意思？Edge AI and Vision Alliance公司創辦人Jeff Bier推出了這款出色的工具，並充分表達邊緣AI的好處。它包含了五個詞：頻寬（Bandwidth）、延遲（Latency）、經濟效益（Economics）、可靠度（Reliability）、隱私（Privacy）。

掌握BLERP口訣之後，任何人都可以輕鬆記住並說明邊緣AI的優點。它也可以作為一個篩選器，幫助您決定邊緣AI是否適用於某個特定應用。

頻寬

物聯網裝置擷取的資料量通常會超過它們的傳輸頻寬。這代表它們所擷取的絕大多數感測器資料甚至還沒使用就被丟掉了！想像一下，有一個用於監測工業機台振動情形的智慧感測器，可透過簡單的門檻值演算法來理解機器的振動何時太大或太小，然後藉由低頻寬連線來傳送這些資訊，以判斷機台是否正常運作。

這聽起來已經很有用了。但如果您可以辨識出資料中的不同樣式，而這些樣式可以提供機器是否即將故障的線索，聽起來如何？只要頻寬充足，我們確實可以把感測器資料發送到雲端並分析，藉此了解是否即將發生故障。

然而在許多情況下，可動用的頻寬或能源預算都不足以持續地將大量資料流發送到雲端。這代表大部分的感測器資料只能被迫丟棄，即使它包含的訊號再有用也一樣。

頻寬受限是非常普遍的狀況。這不只與可用的連線速度有關—還牽涉到能源問題。網路通訊一般來說都是嵌入式系統所執行任務中最耗電的一項，代表限制因素往往來自於電池壽命。某些機器學習模型可能需要大量運算，但相較於傳輸訊號所需的能源其實還是比較少的。

邊緣AI這時候就登場啦。如果物聯網裝置本身就能分析資料而無需上傳，事情會不會不一樣？這樣一來，如果分析結果顯示機器即將故障，我們依然可透過有限的頻寬來發送通知。這會比把所有資料串流出去要可行多了。

當然，裝置完全沒有（或無法進行）網路連線功能也很常見！在這種情況下，邊緣AI會讓以往根本不可行的諸多案例成為可能。

延遲

傳輸資料需要時間。就算可用的頻寬超級充足，從裝置到網際網路伺服器來回還是需要數十或數百毫秒。

某些應用還需要更快有所回應。例如，使用遠端伺服器來控制移動中的車輛可能是不切實際的。控制車輛在環境中導航時，需要不斷回饋方向盤轉動程度和車輛位置。在高延遲的情況下，控制方向盤轉多少變成了一個大挑戰！

邊緣AI藉由完全消除來回時間來解決這個問題，自駕車就是最好的例子。車輛的AI系統是運行於車載電腦上，這使得它能夠對各種變化快速做出反應，例如前方駕駛猛踩煞車。

經濟效益

建立網路連線需要花很多錢。連網產品使用起來自然更為昂貴，且其所仰賴的基礎建設也需要製造商投入資金。所需頻寬越多，成本就越高。對於部署於天涯海角而需要通過衛星進行長距離連線的遠端裝置來說，情況尤其糟糕。

透過在裝置端直接處理資料，邊緣AI系統減少或避免了以網路傳輸資料和在雲端處理資料的成本。這使得許多以往無法實現的案例變為可能。

在其他情況下，連線成本可能不是問題。然而，對於依賴伺服器端來提供AI功能的產品來說，維護伺服器基礎架構的成本可能會使您的商業模式更為複雜。如果您必須支援一批需要「打電話回家」才能做出決策的裝置，就可能會被迫採用訂閱模式。您還必須承諾長期維護伺服器—冒著顧客因為您決定不再支援而讓裝置「變磚」的風險。

不要低估經濟效益的影響力。藉由降低長期支援成本，邊緣AI實現了許多以往視為不可行的應用案例。

可靠度

由裝置端AI所控制的系統有機會比那些仰賴雲端連線的系統更可靠。當您為裝置加入無線連網功能時，實際上是加入了一個巨大且高度複雜的相依網路，包含了連接層通訊技術，到運行您應用程式的網路伺服器。

這團謎霧的許多地方都超出了您的可控範圍，因此即使所有決定都是正確的，還是會面臨與您所用的分散式運算堆疊相關的可靠度風險。

對於某些應用，這也許還可以容忍。如果您正在開發一個可以回應語音指令的智慧音箱，當使用者家中的網路連線中斷時，他們應該可以理解為什麼裝置無法辨識指令了。但不論如何，這件事還是令人洩氣！

但在其他情況下，安全性就至關重要了。想像有某個基於AI的系統，用於監測工業機台以確保機台是否在安全參數範圍內運作。如果它在網路斷線時就無法運作的話，這可能會危及人類生命。如果AI可以完全在裝置端運行的話，就算它在連線出狀況的時候也能夠運行，這樣就更安全了。

可靠度往往是一種妥協，而所需的可靠度等級則根據使用案例而有所不同。邊緣AI可作為提高產品可靠度的強大工具。雖然AI本質上相當複雜，但它實際上代表了另一種有別於全球網路連線的複雜性，在許多情況下反而更容易管理風險。

隱私

在過去幾年，我們都不得不在便利和隱私之間有所妥協。理論上，如果希望各種科技產品更具智慧也更能提供幫助，我們就必須放棄自身資料。由於智慧產品以往都是在遠端伺服器上來做決策，因此它們通常會持續把感測器資料回傳到雲端去。

對於某些應用來說，這可能還好—例如，我們不太需要擔心物聯網恆溫器把溫度資料回傳給遠端伺服器會發生什麼大不了的事情。但對於其他應用來說，隱私就是大問題了。很多人會猶豫是否要在家中安裝一台可連網的監控攝影機。它確實能提供一些令人安心的保障，但代價是最私密空間的即時影音資訊會傳播到網路上，這似乎不值得。即便攝影機的製造商完全值得您信賴，資料仍有可能因為各種安全性漏洞而曝光。

邊緣AI提供了一種替代方案。與其把即時影片與聲音串流到遠端伺服器，安全攝影機可運用板載的智慧應用來辨識當屋主外出時是否有入侵者闖入。它能以適當的方式來通知屋主。如果資料能在嵌入式系統上處理，而不會送到雲端的話，使用者的隱私就能得到保護，也更不會有遭到濫用的機會。

邊緣AI對於隱私保護的能力使得更多令人振奮的應用案例變得可行。這對於安全、工業、幼保、教育和醫療等領域的應用尤其重要。實際上，由於這些領域中多數都有著對於資料安全性的嚴格規範（或客戶期望），因此隱私保護程度最高的產品就是徹底避免去蒐集資料。（本文摘錄整理自《邊緣AI》第一章，碁峰資訊提供）

圖片來源_碁峰資訊

 書名  邊緣AI：使用嵌入式機器學習解決真實世界的問題（AI at the Edge）

Daniel Situnayake, Jenny Plunkett／著

CAVEDU教育團隊 曾吉弘／譯

碁峰資訊出版

定價：880元

 作者簡介 

圖片來源_Daniel Situnayake

Daniel Situnayake是Edge Impulse的機器學習部門主管，負責嵌入式機器學習的研發工作。

圖片來源_Amazon

Jenny Plunkett是Edge Impulse的資深開發者關係工程師，同時也是一位技術講者、開發者傳教士和技術內容創作者。