AI搜尋給出離譜答案，Google緊急撤除

Google AI搜尋服務上周出現異常，給出要使用者為披薩加入膠水，以及歐巴馬是穆斯林等答案，Google已在周末緊急關閉某些答案，並稱這只是少數個案。

出問題的是Google I/O 2024上公布的AI Overview。這是Google將AI整合進搜尋的實驗中的功能，原先名為搜尋生成體驗（Search Generative Experience），Google自去年就陸續測試，並在上周開發者大會上擴大部署。不同於一般的Google搜尋是Google根據用戶輸入的關鍵字產出搜尋結果，旨在引導用戶連到第三方網頁，AI Overview是在所有搜尋結果上方，列出以AI模型產出的答案。

多名用戶測試後通報AI Overview給出離譜的答案。例如AI Overview建議一名用戶在起司中加入膠水以增加在披薩上的黏著性，這建議是取自Reddit上用戶張貼的笑話貼文。另一名用戶被告知吞一些岩石以協助攝取礦物質、維生素及幫助消化，這通常是來自動物學文章。

圖片來源／SG-r01 on X

另外，AI Overview也給出明顯錯誤的資訊。例如它告訴一名用戶，美國前總統歐巴馬（Barack Obama）是穆斯林，以及傑克遜總統（Andrew Jackson）畢業於威斯康辛大學麥迪遜分校。

在媒體報導後，Google已經將這些答案移除。Google官方回應，AI Overview給的答案大部份都是來自網頁深層連結的高品質資訊，而許多（報導中的可笑）案例是「少見的查詢」，而也已經修正，未能為該公司複製。

Google並重申，一如搜尋服務其他功能，AI Overview經過廣泛測試。Google已依據其內容政策「迅速行動」，移除這些答案，並將利用這些案例作為開發改良基礎，包括已經推出的AI Overview。