物件偵測模型如何輕量化？中華電信研究院分享自家3秘訣

中華電信研究院今（25日）線上分享物件模型輕量化經驗，把輕量重點放在模型頸部和頭部，用近似運算來減少核心參數量和運算量，比如用差值讓長寬一致、用一層卷積讓Channel數一致，以及用深度可分離卷積來重組頭部。但這樣還不夠，損失函數也要輕量設計才行。

從智慧交通AI引發的模型輕量化研究

近年來，中華電信研究院接下不少智慧城市AI專案。光是去年，他們就部署了影像辨識AI，來實現機場防闖電子圍籬、北市府跨年防疫人流偵測、高鐵違規上下車取締。今年，他們更把影像辨識AI部署在桃機捷運，來偵測擁擠程度和遺留物，也運用在高雄市交通科技執法，來揪出闖紅燈的行人，甚至也用在中華電信自家園區，來辨識越線的車輛和車牌。

「但這些AI應用，都在遠端機房計算，」中華電信研究院交通院方研究所研究員陳逸夫指出，遠端運算有著網路、主機存放等大量成本。為降低成本，中華電信思考，這些AI模型的推論作業，是否能在邊緣運算就好？

但要實現AI邊緣運算，得考量邊緣裝置的限制，比如模型大小、運算複雜度、速度和準確度等。能做到這一點的，就是模型輕量化，中華電信也因此著手研究。

輕量化重點1：骨幹直接採用新技術

首先，他們參考科交大人工智慧普適中心舉辦的物件偵測模型輕量化比賽，以去年7月公布的第一、二名表現為基準（Benchmark），來設計輕量化模型。這些模型的評分包括準確度、模型大小、複雜度和速度。

接著，中華電信著手調整物件偵測模型。陳逸夫指出，物件偵測模型由3大部分組成，也就是骨幹（Backbone）、頸（Neck）和頭（Head），骨幹負責收集特徵，頸負責連結、融合骨幹抽取的特徵，頭則是預測物件。

通常，骨幹需要大量資料來進行預訓練，比如用ImageNet，因此「成本很高。」如果這部分改用其他資料來訓練，勢必得花更多成本來驗證。

陳逸夫建議，直接採用最新技術會是個不錯的選擇，比如Google去年3月發表的輕量化結構EfficientNet-Lite，特別是第2版和第3版。

輕量化重點2：頸部用近似運算減少參數量和運算量

至於頸部的用途，則是融合骨幹抽取的特徵。從技術發展來看，「融合不同尺度的特徵，模型可以學得很好，」但陳逸夫也指出，這背後的代價是用運算成本非常高的卷積（Convolution），讓不同的長、寬、Channel數一致，才能融合。「我們輕量化的重點，就是這些卷積。」

於是，中華電信改用差值讓長、寬一致，再用一層卷積讓Channel數一致，如此就能減少卷積的使用。他表示，這些近似運算可保有多尺度融合的精神，「大量減少參數量和運算量。」

輕量化重點3：頭部用深度可分離卷積重組、莫忘損失函數

至於頭部，則由許多卷積組合而成。「這些卷積得保留，」因為，模型就是靠這些卷積來學習任務和預測，因此，中華電信採用深度可分離卷積，來重組頭部。這個深度可分離卷積，與一般卷積近似，保留了卷積的功用，卻大幅減少參數量和計算量。

至此，中華電信的模型輕量化告一段落，核心思想就是以近似運算，來減少參數量和運算量。不過，他們後來發現，這個近似方法讓模型難以收斂。

於是，他們也把損失函數納入輕量化設計，將難以訓練的損失函數，融合到其他損失函數中，直到可以收斂為止。

最後，中華電信將輕量化的模型，部署到前述競賽的邊緣運算平臺PX2上，發現不管是模型大小、準確度、複雜度和速度，都達到原先設定的標準，也就是平均準確度均值（mAP）達49.25%、模型大小為4.68MByte、複雜度8.96GOP/Image、速度為每128.4毫秒辨識一張影像。文◎王若樸