十多名OpenAI及DeepMind員工簽署公開信，期望獲得警告AI風險的權利

有11名OpenAI的前任及現任員工，再加上兩名DeepMind的前任與現任員工，在本周簽署了一封公開信「對先進AI發出警告的權利」（A Right to Warn about Advanced Artificial Intelligence），在這13名AI從業人員中，有6名現任員工，但有5位是匿名的，或許是擔心遭到報復或受到杯葛。

他們在信中表示，相信AI對人類帶來好處的潛力，但也理解AI可能帶來的嚴重風險，包括強化現有的不平等、操縱、不實資訊，或是失去對AI系統的控制而造成人類滅絕等，它們是AI領域公開承認的風險，原本期望可在科學界、立法者與公眾的充分指引下得到緩解，然而，他們認為AI公司有很強的財務動機來避免有效的監督。

此外，AI公司擁有大量的非公開資訊，包括系統能力與侷限性，保護措施的充分性，以及不同傷害的風險等級等，但它們現階段只有與政府分享部分資訊的微小義務，而未與民間分享。當政府未能對其有效監督之際，員工就是少數能夠督促它們負責的人，但他們擔心各種的挾怨報復。

因此，他們提出了幾點的呼籲，包括不強制員工簽署禁止批評公司的協議，也不報復那些提出風險批評的員工；AI公司應建立一個匿名舉報機制，以允許前任或現任員工可向董事會、監管機構或獨立組織來檢舉風險問題；AI公司應該在貿易機密與智慧財產權受到適當保護的情況下，支持開放批評的文化；不報復那些在其它檢舉途徑失效，而公開分享風險機密訊息的員工。

該活動的召集人之一是OpenAI治理部門的前研究員Daniel Kokotajlo，他透過X解釋，他在失去對OpenAI可負責任建置通用AI的信心之後，於今年4月辭職。

Kokotajlo表示，他在加入OpenAI時，曾經希望隨著系統變得更強大，會在安全研究上投入更多的資金，但OpenAI從未有此轉變，意識到此事的同事開始離職，他不是第一個，也不會是最後一個。此外，在他離職的時候，OpenAI要求他簽署一份協議，阻止他批評公司，若不簽署就會失去他的OpenAI股權。

Kokotajlo認為，AI系統並非普通軟體，它們是從大量資料中學習的人工神經網路，對於這些系統的運作、可能超越人類智慧，或是能否具備與人類一致的利益，都有許多的未知，與此同時，相關技術幾乎缺乏監督，反而是由AI企業自治，而經濟動機與對技術的興奮，不時令這些業者快速行動並打破常規。

最後決定拒絕簽署噤聲協議的Kokotajlo強調，讓研究人員噤聲並使他們害怕報復是危險的，因為他們是目前唯一能夠警告公眾的人。