微軟、Nvidia、英特爾及Google共創安全AI聯盟CoSAI

專門推動全球結構化資訊標準的非營利組織OASIS Open，在周四（7/18）發表了安全AI聯盟（Coalition for Secure AI，CoSAI），這是一個開源倡議，計畫建立一個協作生態體系，以分享與AI安全設計有關的方法、標準化框架及工具。其主要贊助者為Google、IBM、Intel、Microsoft、Nvidia與PayPal，其它贊助者還包括Amazon、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI及Wiz。

身為CoSAI的創始成員，Google揭露了該聯盟計畫與產業及學術界共同解決的3個重點領域，分別是AI系統的軟體供應鏈安全性、讓防禦者為不斷變化的網路安全領域作好準備，以及AI安全治理。

此外，CoSAI也將與Frontier Model Forum、Partnership on AI、Open Source Security Foundation及ML Commons 等組織合作，以共同推動負責任的AI。

思科則說，CoSAI的範圍涵蓋安全的建置、部署與運作AI系統，以減輕專屬於AI的安全風險，像是模型操縱、模型竊盜、資料中毒、提示注射，以及機密資料汲取等，替業者提供整合的安全解決方案，才能令它們在無需成為AI各方面專家的前提下，利用最先進的AI控制能力。

思科認為，安全需要集體行動，為了安全地參與數位生態體系，大家都應該採用通用的安全標準與最佳實踐，而AI也不例外。