治理 AI：未來的藍圖

本藍圖旨在透過公共政策、法律和規範解決許多目前和新興的 AI 問題。我們提出這份藍圖的同時，也意識到其中的每個部分都能從更廣泛的討論中獲益，而且需要更深入的發展。我們希望這能對未來的工作做出有建設性的貢獻。

第一點，實作並建立在政府主導的新 AI 安全架構上。

通常，成功的最佳途徑是以他人的成就和好點子做為建立基礎，當我們希望快速取得進步時，這點就尤其明顯。在這種情況下，目前有個重要的機會，可以建立在美國國家標準與技術委員會 (NIST) 於 2023 年一月剛完成的工作上。屬於美國商務部的 NIST 已經完成並啟動了新的 AI 風險管理架構 (AI Risk Management Framework)。我們提供了四個具體建議來實作並建立在這個架構上，包括 Microsoft 為了回應白宮邀集主要 AI 公司召開會議所作出的承諾。我們也相信行政當局和其他政府可以根據這個架構，透過採購條例加速推動。

第二點，對於控制關鍵基礎結構的 AI 系統要求有效的安全制動裝置。

現在正是討論這個問題的理想時機。這份藍圖提出了新的安全要求，實際上將為控制指定關鍵基礎結構的 AI 系統建立安全制動裝置。這些故障安全系統將成為全面系統安全方法的一部分，並將有效的人類監督、彈性和穩健性列為首要考量。這些系統的精神類似工程師長期以來在其他技術中建立的制動系統，例如電梯、校車和高速列車，以安全地管理日常情況和緊急情況。

在這種方法中，政府將界定控制關鍵基礎結構的高風險 AI 系統類別，並保證將此類安全措施列為全面系統管理方法的一部分。新的法律會要求這些系統的營運商從設計階段開始就在高風險 AI 系統中內建安全制動裝置。然後，政府將確保營運商定期測試高風險系統，以確保系統安全措施有效。而控制指定關鍵基礎結構作業的 AI 系統僅部署在獲得授權的 AI 資料中心，透過應用這些安全制動裝置的能力提供第二層保護機制，進而確保有效的人類控制。

第三點，根據 AI 的技術架構研擬廣泛的法規制度。

我們認為，AI 需要一個能反映 AI 本身技術架構的法規架構。簡而言之，法律需要根據管理 AI 技術不同層面的角色，對不同的參與者施加各種監管責任。因此，這份藍圖包含了建立和使用新生成式 AI 模型所需部分關鍵要素的相關資訊。根據這些背景資訊，此藍圖提議，不同的法律應該在技術堆疊的三個層次上，對行使特定責任的組織施加特定的監管責任，包括應用層、模型層和基礎結構層。

首先，應該在應用層針對使用 AI 的情況應用現有的法律保護措施。這是人們安全和權益受到最大影響的層次，尤其因為 AI 的影響在不同的技術情境中可能明顯有別。在許多領域，我們不需要新的法律和法規。不過，我們需要應用及執行現有的法律和法規，幫助執法機構和法院發展因應新 AI 情境所需的專業知識。

接下來，需要為功能強大的 AI 基礎模型制定新的法律和法規，最好由新的政府機構負責實施。這將影響技術堆疊的兩個層次。第一個層次將對這些模型本身要求新的法規和授權。第二個層次涉及到開發和部署這些模型之 AI 基礎結構營運商的義務。下面的藍圖為每個層次提供了建議的目標和方法。

在執行過程中，這個藍圖部分借鑑了近幾十年銀行業所發展的原則，目的是防範洗錢以及罪犯或恐怖分子使用金融服務。這項「了解您的客戶」(Know Your Customer，KYC) 原則會要求金融機構驗證客戶身分、建立風險設定檔，並且監控交易以協助偵測可疑活動。在 AI 情境中應該採用這項原則並應用產生特定義務的 KY3C 方法，這些義務包括：了解自己的雲端、自己的客戶和自己的內容。

第四點，提高透明度並確保學術和非營利組織對 AI 的存取。

我們認為，重要的大眾目標是提升透明度並擴大對 AI 資源的存取。雖然透明度與安全需求之間存在一些重要的緊張關係，不過還是有很多機會以負責任的方式讓 AI 系統更透明。正因如此，Microsoft 才致力於發佈年度 AI 透明度報告以及其他擴大 AI 服務透明度的步驟。

我們還認為，擴大學術研究和非營利組織對 AI 資源的取用至關重要。自 1940 年代以來，基礎研究，特別是在大學進行的基礎研究，對美國的經濟和戰略成功具有根本的重要性。但是，除非學術研究人員能夠取用更多計算資源，否則科學和技術探究將面臨真實的風險，包括與 AI 本身相關的探究。我們的藍圖建議採取新的步驟，包括我們在 Microsoft 內部採用的步驟，以解決這些優先事項。

第五點，尋求新的公私合作夥伴關係，使用 AI 做為有效工具以應對新技術帶來不可避免的社會挑戰。

現在需要進行的重要工作包括，運用 AI 保護民主和基本權利、提供廣泛獲取 AI 技能的機會以促進包容性增長，並且利用 AI 的力量推動地球的永續發展需求。其中最重要的是，新的 AI 技術浪潮提供了一個大膽思考、勇敢行動的契機。在每個領域，成功的關鍵將是制定具體的計劃，並且讓政府、備受尊崇的公司和充滿活力的非政府組織一起推動這些計劃。我們在這份報告中提供了一些初步的想法，期待在未來的日子裡完成更多目標。

本文節錄自 治理 AI : 未來的藍圖 : https://r.itho.me/GoverningAI