臉書訓練AI系統如何談判，電腦竟學會「說謊」

採用人工智慧(AI)技術的聊天機器人受到越來越多科技公司青睞並投入研發採用，科技公司也持續想方設法讓聊天機器人更聰明，社交網路龍頭臉書(Facebook)的人工智慧研究部門(FAIR)近日便發表一項研究，意外發現在訓練AI如何談判的同時，竟讓電腦學會利用「說謊」來達到談判目的的技巧。

FAIR團隊設計了一個實驗，讓兩個聊天機器人進行談判—提供一組物品，並針對兩個機器人提供每個物品不同的價值評分，讓兩個機器人進行談判，透過必要的交涉與取捨，各自分得不同的物品，並得到對各自而言合理的分數，以結束談判。

機器人被提供了5808段真人的談話內容當作訓練的資料，以讓電腦學習人類的談話方式，尤其是如何在談判過程中妥協、達成協議的方式。電腦軟體被預設為倘若有一方因條件太差而放棄談判，或談判經過10回合仍無法達成協議，雙方都只能得到0分，創造出達成協議的動機。

由於不同的物品對於兩造有不同的價值分數，因此電腦清楚對自己最有價值的物品為何，研究人員發現，有時候系統會假裝對某個低價值物品深感興趣，並在談判過程中假扮自己被迫放棄該物品以達成協議，以取得更高價值的物品。

這項研究以書本、帽子、球等物品讓兩個電腦系統學習交涉：(來源：臉書)

研究人員表示，電腦系統之所以學會說謊，是因為他們發現這是種有助達成目標的策略，也許類似作法在訓練電腦的Amazon Mechanical Turk資料源中出現過幾次，因而讓電腦習得此種技巧。

研究人員表示，訓練電腦系統談判，在未來可望採用在自動化的產品銷售談判，或是與他人協議會議時間等。研究人員已經將相關研究成果發表，並將談判使用的軟體程式碼公布於GitHub，供開發社群參考。