情境示意圖,photo by Clem Onojeghuo on unsplash

包括Meta與IBM等十多家業者在周三(12/8)宣布成立資料暨信任聯盟(Data & Trust Alliance),將共同打造一致的標準,以減輕人力資源與勞工決策中所存在的資料及演算法偏見,包括招聘、薪資及員工發展等。

Data & Trust Alliance的創始會員包括美國運通(American Express)、CVS Health、Deloitte、Diveplane、General Motors、Humana、IBM、Mastercard、Meta、Nielsen、Nike、Under Armour與Walmart,它們的員工總數超過350萬名。

該聯盟表示,其成員有一個共同的信念,即相信於即將到來的時代中,資料與智慧系統為創造經濟及社會價值的關鍵,但必須負責任的部署。

其實上述成員已經開始利用資料、演算法與人工智慧來尋找人才,包括仰賴那些已採用AI及機器學習的人力銀行、人才網站、顧問公司或招聘公司,然而,它們同時也認為利用相關技術的最大風險為可能隱藏著不公平的偏見。

因此,Data & Trust Alliance建立了演算法偏差保護措施(Algorithmic Bias Safeguards),首個計畫就是「演算法的安全性:減少勞動力決策的偏見」(Algorithmic Safety: Mitigating Bias in Workforce Decisions),以協助企業根據相關標準來評估招聘服務的供應商,之後也會將該保護措施整合到企業的程序中。

目前Algorithmic Bias Safeguards設計了13種類別的55個問題,以作為評估供應商的標準,涵蓋訓練資料、模型設計、偏差測試方法、偏差矯正、透明化與問責、AI倫理與多元性承諾等。

熱門新聞

Advertisement