AI代理人的機會與考驗

今年微軟Build大會有場GAI開發工具新功能的演講，格外讓我印象深刻，再次擴大了我對GAI應用可能性的想像！講者舉了Copilot最新代理能力的三種應用場景，IT求助桌、新人上手助教和第三種「私人門房」，以第三種最讓我驚艷。

AI代理可以扮演一位私人專屬的數位門房，當你收到一封來自客戶下單買東西的Email，不用等到自己讀信，就會先觸發了AI代理Copilot。這隻AI代理，先看懂信中的「訂購」意圖，彙整信中提供的訂購資訊，建立一張新的服務訂單。查了一下CRM，發現這名顧客帳戶是熟客後，就調出他過往的訂購紀錄，也參考了過去的訂購對話，補齊更多下單需要的資訊細節，再同步比對庫存系統中的商品數量，最後，AI代理彙整了這些行動得到的資訊，將顧客來信轉成了一份真正的訂單，並產生一封訂單確認信，寄回給顧客確認細節，問對方是否滿意。一但收到對方確認無誤的回信後，AI代理就可以真正送出這份訂購單，交給出貨部門接手。

在這個過程中，原本要負責處理訂單Email的真人業務員，幾乎可以完全不用動手。AI代理以這名業務人員的身分（因為從他的筆電上，以他的帳號來行動）來閱讀信件，查詢CRM、建立新訂單、回信給顧客、送出訂單。真人業務頂多只需要在寄給顧客確認訂單之前，多看一眼（金額不高的話，甚至可以不用看）。

這個私人門房的場景，不只是業務人員訂單，只要是經常用Email溝通的辦公人員，都可以建立不同「用途」的AI代理，自動在背景處理不同類型的信件。甚至不只Email，即時通訊軟體、社群平臺等不同數位通路上，都可以設立不同的AI代理，作為來訊處理的私人門房。

今年兩大公雲巨頭，Google、微軟在年度大會上，都開始強調AI代理是GAI應用的新主流，兩家的AI開發工具也要開始支援這類應用的打造。不過，單從「AI代理可以用你的身分來採取行動」，這麼簡單的一句話，很難具體想像，有哪些實際可能的應用。這場演講提到的私人門房場景，一下子就打開了我的想像空間，各種可能的商用機會點子，不斷冒出來。

代替你的身分行事的作法，並不稀奇，企業常見的RPA腳本機器人也能做到，但是，LLM所打造的AI代理，最大的突破是能判斷人類的意圖，可以進行簡單的推理和技術，打破了過去「靠一套固定規則來行動」的RPA代理模式，才成為更具智慧的AI代理。

但是，從另一個角度來思考，若是惡意程式，變成了惡意的AI代理，那又會如何？

新亮相的AI PC，在本機端內建了NPU，微軟新的Windows Copilot Runtime也要將具備推理和理解能力的小模型SLM，內建到OS層級的函式庫中。惡意AI代理程式一旦有機會植入到AI PC上，只需呼叫本機端GAI API，就能「暗中」運用推理能力，慢慢計畫嘗試各種滲透，甚至以你的身分進入企業內部應用，竊取機敏資料。過去，只有熟諳APT技巧的資深駭客才能做到的事，隨著AI代理能力越來越強，這類惡意AI代理的威脅性，也相對比過去更高。

企業如何發現這些更懂得匿蹤、更擅長滲透的惡意AI代理，只能靠隨時觀察企業內網種種可疑行為，才能及時發現。在今年臺灣資安大會主題演講中，奧義智慧科技創辦人邱銘彰（Birdman）回顧十年資安發展，他強調：「雲端時代的戰場，不再是端點，而是各式各樣的工作流程中的身分風險。」

Birdman更歸納了資安典範的轉移，從過去以「了解敵人」的「什麼不能出現的Security典範」，現在變成了企業得「了解自己」的「什麼不該出現的Safety典範」。這一席話正點出了對抗惡意AI代理的關鍵策略。