UCSF接受微軟、英特爾和Fortanix的支援,開發了一個名為BeeKeeperAI的平臺,該平臺讓資料管理員和演算法開發人員,能夠以更安全的方式協作,不需要移動或是共享資料和演算法,就能安全地驗證和測試人工智慧模型。

人工智慧已經被證實,能夠應用在醫療領域,有效地提升病患治療結果,但事實上,人工智慧目前卻難以實際的應用到臨床上,FDA核准的演算法不到35種,甚至其中只有2種被認為是真正創新的發明。而其中的問題在於,要獲取具通用性、透明性,並能減少偏差的大型資料集,既困難又耗時,而這很大程度的原因,在於為了保護病患資料隱私而制定的監管限制。

BeeKeeperAI則是試圖要突破此一限制的研究,透過在信任環境,實現演算法開發者和資料管理員間的安全協作,使得人工智慧能夠被更廣泛地應用在醫療保健領域中。BeeKeeperAI仰賴Azure機密運算解決方案,該解決方案虛擬機器使用支援英特爾SGX(Software Guard Extensions)技術的處理器,SGX能夠創造一個安全的記憶體和處理器安全區,加密並隔離內部程式碼和資料。而Fortanix則提供軟體,處理加密、金鑰管理和工作流程。

微軟進一步解釋,資料方上傳加密的資料到他們的雲端環境,並以加密連接傳送至SGX安全區,而演算法開發者則透過提交加密的容器化人工智慧模型到SGX安全區,兩個元件都不會離開安全區,即便是惡意的管理員,或是遭到惡意軟體破壞的系統元件,也都無法存取演算法和資料。

在模型執行後,開發人員會收到一份演算法效能報告以及資料特徵摘要,並且可以請求儲存包含驗證結果資訊的加密構件,以符合法規要求。當所有工作完成,資料和演算法便會被平臺系統抹除。

BeeKeeperAI已經在2021年6月的時候經過驗證,能夠透過Azure機密運算環境,讓演算法模型使用到資料,模型和資料會進入英特爾SGX安全區運算,模型者看不到資料,而資料擁有者也看不到演算法模型,甚至連BeeKeeperAI也無法看到模型和資料。目前該平臺已經通過第三方HIPAA審核,第一個產品版本EscrowAI,預計將在2022年3月於Azure市集上商用。

目前微軟正在與總部位於法國的合作夥伴aiScreenings合作,測試該平臺,以證明該平臺具有全球適用性,aiScreenings執行長提到,符合歐盟通用資料保護法規的資料安全標準,是BeeKeeperAI零信任環境的優勢。


熱門新聞

Advertisement