BSI呼籲重視AI科技風險，強調臺灣企業要提升AI治理力

全球都在聚焦的數位信任、AI、永續發展議題，臺灣企業同樣十分關注，隨著2024年即將結束，在今年英國標準協會（BSI）舉辦的數位信任國際標準管理年會上，他們不僅點出企業這一年來必須掌握的重要變化，更是強調AI治理及永續治理，對於未來的重要性。

BSI東北亞區董事總經理蒲樹盛指出，繼200年前第一次工業革命後，當前正迎來兩場新革命。一是數位工業革命，例如輝達執行長黃仁勳所提倡的AI工業革命，另一場則是永續綠色工業革命，不論歐洲、英國，都將之視為人類未來30年發展的新契機。

然而，儘管數位信任持續被強調，加上科技的進步與教育的提升，理應促進全球信任，但現實卻顯示出，社會對立與信任流失日益嚴重。尤其是在強人工智慧（Strong AI）的出現，錯誤資訊與假消息的傳播將使情勢更加複雜，眼見不再為憑，甚至威脅到數位信任的基礎。

蒲樹盛特別引用了2024世界經濟論壇（WEF）全球風險報告，指出今年有一項非常重要的變化：WEF將「錯誤資訊與假消息」列為短期全球首要風險，與往年排名相比躍升幅度相當之大，他指出這背後就是AI風險所帶來的影響，也意味著AI風險躍居第一。

這也是首次由科技類型風險躍居榜首，亦反映AI引發的錯假消息，對近代社會的可能衝擊非常大。

若以未來10年審視全球風險，主要有兩大類型，一類是環境風險，因為10大風險有一半屬於此類，持續突顯永續議題的重要性，另一類是科技風險，在10大風險占了3項，包含錯誤資訊與假訊息、AI技術的不良後果，以及網路不安全（Cyber insecurity）。

BSI蒲樹盛引用2024世界經濟論壇（WEF）全球風險報告，指出儘管極端氣候仍是全球重要風險，但短期來看，「錯誤資訊與假消息」躍居10大風險之首，顯現AI引發的錯假消息，對近代社會可能造成極大衝擊。

強化AI管理與AI治理成最新挑戰，企業需要積極應對

從今年BSI年會演講的內容來看，在數位信任與資安議題之下，AI當然是重點，原因不僅是上述提及的AI風險，成為近兩年來最大風險挑戰，若從國際標準組織（ISO）的發展來看，AI也是主角。

以國際標準動向而言，過去一年的重大突破在於：全球首部AI治理國際標準的推出！ISO 42001這套人工智慧管理系統標準（AIMS），正式在2023年12月出爐。

蒲樹盛指出，ISO 42001將縮小我們對AI信任的差距，而這項標準的關鍵就是AI的風險管理，這其實與國際的公司法或許多管理系統框架一致，強調風險管理，並要達到透明公開、可以解釋、能夠當責等條件，解決個資、隱私、倫理、歧視、未成年等各方面問題。而此標準能適用所有規模的企業組織，不論你的身分是開發者或使用者，皆可藉此幫助企業建立負責任的AI治理框架。換言之，ISO 42001是企業在AI轉型過程的重要參考。

AI治理同樣是國內企業需要正視的議題，蒲樹盛指出這是臺灣不足之處。從近期臺灣現況調查來看，儘管大多數企業都認為AI很重要，但實際導入的可能仍不到3成，顯然還有很多公司仍處於觀望階段。

從先行導入AI的企業或組織來看，他認為，雖然臺灣在AI的數據力、技術力、創新力都表現不錯，運算力也不差，治理力卻是相當欠缺。

企業該如何強化AI治理力？他強調，AI治理應從董事會層級出發，不是AI部門負責就好，也要建立明確的責任分工與當責機制，因為一旦出事卻找不到人負責，這樣的AI治理架構顯然有問題，無法確保AI技術的安全與可持續應用，同樣會面對很高的訴訟風險。

隨著AI技術的普及，建立大眾對AI技術的信任變得至關重要，BSI東北亞區董事總經理指出，這一年來，ISO 42001的人工智慧管理系統標準（AIMS）已經發布，可幫助提供或使用AI系統產品服務的企業，從多面向提供奠定信任基礎的指引。

臺灣需跟上AI應用腳步，重視提高生產力與改善客戶關係

無論如何，AI應用風潮已是全球進行式，上述提及國內有7成企業未能導入AI，顯然還有很多進步空間。

蒲樹盛特別引用去年BSI與富比士的調查指出，當前全球AI應用有兩大目標，第一是提高生產力，第二是改善客戶關係。因此，若臺灣企業未能將AI用於這兩個關鍵目標，會是相當可惜的事，恐錯失重要的發展契機。

當然，臺灣也已經有企業成功落實生成式AI應用的案例，能為其他企業提供寶貴的參考。他舉例，金控業有公司運用AI技術優化銀行授信流程，大幅節省人力時間；製造業則有公司利用AI進行產品布局（Product Layout）設計，好處是快速優化整體配置，並帶來更好的良率。

在這場BSI年會上，還有兩位AI領域專家發表探討AI應用機遇與挑戰的演說。

一位是歐洲在臺商務協會科技委員會的律師曾更瑩，她剖析歐盟AI法案的企業挑戰與因應，並聚焦產品安全，她提醒大家注意：只要產品屬於AI系統，會輸出到歐盟境內使用，就會受其規範。此外，會中BSI蒲樹盛也提到違反歐盟AI法案可罰全球營業額7%，已經比GDPR的4%更高。

另一位是台灣人工智慧學校校務長蔡明順，他闡述百工百業用AI的最新態勢，強調用AI的人將淘汰不用AI的人，就像農耕機取代農夫的情形一樣，也呼籲大家要理解AI Safety治理與安全的重要性，不論在法案、標準與聯盟的發展上，都已成為先進國家爭相競取話語權的關鍵。

整體而言，由於AI將深刻影響未來競爭格局，但身處發展AI的過程中，大家很有可能輕忽一些議題與面向，尤其是關於AI治理與安全的討論，牽涉眾人工作與生活的福祉，我們必須持續關注接下來的發展。