美議員質疑Google醫療AI模型訓練資料來源、病患保護措施

美參議院本周去信Google執行長Sundar Pichai，針對Google醫療專用的AI模型Med-PaLM 2表達疑慮，並要求Google更清楚說明參與測試的醫院、Google如何訓練模型，以及如何保護病患自主及隱私權益。

Med-PaLM 2是Google最新大型語言模型PaLM2用於醫療業的特化版本，今年Google I/O上也發表了相關報告。Google 4月已開始和一群客戶測試Med-PaLM 2，包括知名的Mayo Clinic，測試項目包括最新的聊天機器人，用以回答醫療問題、為文件重點摘要及整理健康資料。

圖片來源_Google

美國參議院情報委員會主席Mark Warner在致Pichai的信件中說，雖然AI科技號稱有極大幫助，但Google資深研究人員也對自家科技的成熟度態度保留。此外，Google對Med-PaLM 2是在哪裏測試、用以訓練的資料來源、病患知道多少、能不能拒絕AI，以及Google採取哪些措施防範AI偏差，這些外界大部分無所得知。

雖然AI對改善病患照護及健康有很大潛力，但Warner擔心未經驗證的科技過早部署可能導致削減醫療機構與專家的信任、加深現有存在醫療治療效果的種族不平等，以及診斷和照護疏失風險增加。

他並直指AI公司將搶占市場的考量置於病患福祉之前，也擔憂Google在未告知且獲得病患同意下，以其敏感資訊來訓練Med-PaLM 2。這早有前例：2019年《華爾街日報》報導，Google和醫療體系Acension合作時，未經病患同意存取了上千萬病患姓名、診斷資料。

Warner提出多個問題要Google回應。包括Med-PaLM 2如何避免大型語言模型的已知問題，像是「諂媚者」（sycophany，即模型會提供使用者偏好的答案）現象，後者可能導致醫療誤診。他並質疑，Google從未對外公開過Med-PaLM 2文件，包括訓練資料是否包含機密的健康資訊、也從未說明Google對Med-PaLM 2多久重新或部分再訓練一次。他希望Google提供參與Med-PaLM 2的醫院清單，以及Google是否提供Med-PaLM 2系統文件或測試資料給參與測試的醫院，包括Mayo Clinic。

在病患權益問題上，Warner要求Google說明如何防範Med-PaLM 2濫用、誤用、或是模型部署中，如何防範病患資料外洩。另外，在醫院測試時，病患是否知情及知道多少，以及病患是否有opt-in或opt-out的權利，以確保不加入測試。

Google官方初步回應，Med-PaLM 2已提供給特定醫療機構進行少部分測試以探索使用場景及提供回饋意見，這些客戶擁有資料控管權。Google並指出Med-PaLM 2是PalM 2針對醫療應用微調出的版本，而Warner混淆了Med-PaLM 2和聊天機器人。但Google未說明，Pichai是否會正式回應議員的問題。

Warner的動作反映美國行政當局規範AI的意圖，AI業者預計多半會從善如流。上個月包括OpenAI、微軟、Google等7大AI業者向白宮承諾將協助AI的安全、可靠發展，包括安全為優先的產品開發、建置計畫、打造標記AI內容的技術，以及確保防範AI侵犯隱私、深化偏見及歧視等。