AI幻覺

為了解決模型生成錯誤資訊的幻覺問題，Google利用檢索交錯生成（RIG）以及檢索增強生成（RAG）技術，讓開源模型Gemma結合開源知識圖譜Data Commons，發展出查證能力更好的DataGemma模型

Google Cloud宣布Vertex AI平臺提供的grounding功能，能夠基於Google搜尋或第三方資料，來減少Gemini輸出結果的幻覺問題

微軟公布Azure平臺上的AI安全工具，協助生成式AI應用開發單位偵測及防範提示注入攻擊、AI幻覺、模型濫用等風險

非營利機構AI Forensics與AlgorithmWatch在今年8月到10月間的實驗發現，微軟基於AI的搜尋引擎Bing Chat針對歐洲選舉資訊提供的資訊，3成有事實上的錯誤，包括投票日期錯誤、列出以前的候選人、虛構特定候選人醜聞

安全風險管理廠商Vulcan研究發現，ChatGPT在回答常見的程式開發問題時，會提供不存在的Python與NPM套件資料，這讓攻擊者得以利用這類AI幻覺捏造出來的套件散布惡意程式

考量到ChatGPT等對話AI所生成的法律資訊正確度有待商榷，美國開始有法官要求訴訟雙方提出的文件，除了應告知是否有生成性AI內容，也必須證明已通過人類審查其準確性