英國釋出AI模型安全評估平臺Inspect

英國的人工智慧安全研究所（AI Safety Institute）上周五（5/10）釋出AI模型安全評估平臺Inspect，該平臺具備了擴充性，可供全球AI社群協作以開發AI評估能力。

Inspect為AI安全研究所所打造的大型語言模型評估框架，它基本上是個軟體庫，所內建的三大主要元件包括資料集、求解器（Solver），以及評分器，可用來評估各個模型的特定功能，包括其核心知識、推論能力與自主能力等，並根據其結果進行評分；除了內建元件之外，亦允許開發者以Python撰寫其它的套件。Inspect採用開源授權，因而可供AI社群免費使用。

圖片來源／AI Safety Institute

英國政府是在去年11月成立AI安全研究所，此一組織將負責測試各種即將發表的新型AI，以解決AI模型的潛在有害問題，包括探索涵蓋偏見、錯誤資訊或失去人類控制等風險，屬於英國國家組織，而Inspect即為全球首個由國家支持的AI安全測試平臺。

AI安全研究所主席Ian Hogarth表示，他們相信開源的力量，鼓勵更多人作出貢獻，提高透明度及可重複性，同時降低所有人的成本；AI的結構性挑戰之一是需要跨境與跨機構的協調，相信在開源的前提下，學術界、新創企業、大型企業、政府與公民社會都能夠更廣泛地協調，以發揮更大的作用。

除了Inspect之外，AI安全研究所也正與英國首相辦公室及AI育成中心（Incubator for AI）共同匯集不同領域的AI人才，以測試及開發其它的開源AI安全工具，以讓AI社群更容易將它們整合到模型中。