微軟頒布AI使用限制，將監控蒐集用戶對話防止濫用

因應AI被用於侵權、傳播deepfake影片或惡意程式等行為，微軟9月30日將實行AI服務政策，防範消費者濫用或惡意使用AI服務，也將監控用戶輸入及使用行為。

微軟於7月30日公布更新版微軟服務協議（Microsoft Services Agreement），新增AI服務的5項相關規定，包含不得逆向工程、汲取資料、濫用AI服務的產出，以及用戶的法律責任等。新規定預訂9月30日正式實施。

微軟規定使用者不得以其AI服務來探詢其底層元件，包括模型、演算法和系統，他們也不得判斷或改變模型的權重。此外，除非特別准許，使用者不能用網頁爬蟲、網頁抓取或網頁資料擷取手法，從AI服務取得資料。微軟還禁止用戶利用AI服務或其產生的資料，來訓練、打造或改進其他AI服務。

這些規定是防範一般用戶濫用Bing Chat或Windows及微軟服務內建Copilot，達到惡作劇或不法意圖。Bing Chat今年初剛開放測試時，曾被一名用戶以「提示注入」手法，引導Bing洩露其工程代號為Sydney，迫使微軟加入輸入提示上限。之後更有以AI輔助生成deepfake影片、撰寫惡意程式，甚至利用AI幻覺傳播惡意程式等犯罪活動。另一個大問題是，創作者創作被AI用來開發程式或圖片，使AI社群平臺Reddit或X，也因應網頁抓取行為的盛行，而實行API收費政策。

微軟新政策說明，為了提供AI服務，微軟將處理、儲存用戶輸入的提示及其產出，以監控和防範濫用，或是惡意使用的行為。微軟並指出，若用戶使用其AI服務的結果導致第三方單位追究，包括侵害版權或其他與內容有關的責任，一切法律責任全在用戶身上。