加州州長否決可關閉模型的AI法案SB 1047

加州州長周日（9/29）Gavin Newsom 否決了一項具爭議的AI法案SB 1047，該法案要求模型開發者必須設計一個可完全關閉模型的能力，也必須經過第三方審核，以防止AI帶來重大傷害。

Newsom說，全球50家領先的AI公司有32家位於加州，它們是現代歷史上最重要進步技術之一的先驅，有許多與AI相關的法案在今年送到他桌上，但SB 1047放大了關於部署AI可能出現威脅的說法，爭議之一為應否將開發AI的成本及運算數字作為納入監管的門檻，SB 1047只針對大規模模型的要求可能帶來一種虛假的安全感，因為小模型跟大模型一樣、甚至更危險，通過SB 1047的代價可能是削弱有利於公共利益的進步創新。

Newsom認為，要監管一個尚處於起步階段的技術，需要一個微妙平衡，但SB 1047並未考慮AI系統是否部署於高風險環境中，是否涉及關鍵決策，或者是使用敏感資料，反而就算是大型模型的最基本功能都必須符合嚴格的標準，這不應是保護公眾免受AI威脅的最佳方法。

總之，雖然SB 1047法案當初主要的爭議在於要求開發者得以控制模型的開關，但Newsom卻是以該法案的適用範圍過於狹窄而予以否決。

全球第一個AI法案是由歐盟催生的AI Act，它定義了4種風險等級不同的AI系統與其行為準測，最高風險的AI系統必須符合最嚴格的要求，諸如AI醫療軟體，亦有某些AI系統直接被禁止，例如由政府或企業主導的「社會評分」（social scoring）AI系統。AI Act已於今年8月1日正式生效，歐盟各國將陸續於兩年內實施。