Ubisoft和Riot Games兩家遊戲公司,共同開展一項研究專案Zero Harm in Comms,最終要發展一個框架,來降低線上遊戲聊天頻道中,可能出現的傷害。
這兩間公司因為面對共同的挑戰,而且也都對目前的關鍵字偵測模型解決方案不滿意,因此聯手進行Zero Harm in Comms專案,目前他們創建了一個匿名資料的共享資料庫,用來訓練Ubisoft和Riot Games的系統,以偵測和降低破壞性行為。
資料庫的內容來自Ubisoft和Riot當前遊戲內的聊天記錄,這些聊天紀錄會被清除個人可辨識資訊,並且加上像是中立、種族主義、性別歧視等標籤,以用於訓練自動化系統,更有效地辨識和分析這類有害行為。兩間大型遊戲公司合作的優勢,在於能夠收集到龐大的玩家聊天資料,訓練系統除了偵測關鍵字之外,還能透過理解對話脈絡,找出更多有害的行為。
Ubisoft提到,部分有害關鍵字可以立即被辨識出來,但是有許多情況需要深入解析,才能判斷有害與否,像是在聊天中出現「我要帶你出去玩」,這句話出現在競技射擊遊戲中可能是合理的對話,但是在其他遊戲,情境就可能完全不同。
但是Ubisoft也提到,難以教導人工智慧理解每一種有害情況,目標是要能夠藉由微調系統尋找特定案例,並且提高偵測的機率。
熱門新聞
2024-10-05
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07
2024-10-07
Advertisement