遊戲公司Ubisoft、Riot Games合作以機器學習技術，打擊遊戲聊天頻道中的有害行為

Ubisoft和Riot Games兩家遊戲公司，共同開展一項研究專案Zero Harm in Comms，最終要發展一個框架，來降低線上遊戲聊天頻道中，可能出現的傷害。

這兩間公司因為面對共同的挑戰，而且也都對目前的關鍵字偵測模型解決方案不滿意，因此聯手進行Zero Harm in Comms專案，目前他們創建了一個匿名資料的共享資料庫，用來訓練Ubisoft和Riot Games的系統，以偵測和降低破壞性行為。

資料庫的內容來自Ubisoft和Riot當前遊戲內的聊天記錄，這些聊天紀錄會被清除個人可辨識資訊，並且加上像是中立、種族主義、性別歧視等標籤，以用於訓練自動化系統，更有效地辨識和分析這類有害行為。兩間大型遊戲公司合作的優勢，在於能夠收集到龐大的玩家聊天資料，訓練系統除了偵測關鍵字之外，還能透過理解對話脈絡，找出更多有害的行為。

Ubisoft提到，部分有害關鍵字可以立即被辨識出來，但是有許多情況需要深入解析，才能判斷有害與否，像是在聊天中出現「我要帶你出去玩」，這句話出現在競技射擊遊戲中可能是合理的對話，但是在其他遊戲，情境就可能完全不同。

但是Ubisoft也提到，難以教導人工智慧理解每一種有害情況，目標是要能夠藉由微調系統尋找特定案例，並且提高偵測的機率。