Databricks四大新工具助企業打造可靠AI代理人

資料分析與人工智慧平臺Databricks推四項人工智慧代理人開發工具，包括統一治理人工智慧模型的Mosaic AI Gateway、嵌入至各種生產力工具的Genie Conversational API套件、升級版的Agent Evaluation Review App，以及無需提前建置基礎設施即可進行批次推理的Provision-Less Batch Inference。

Databricks所推出的Mosaic AI Gateway，允許企業將內部開發或外部採購的各類大型語言模型端點，整合到同一平臺進行統一的治理與監控。該工具適合已有內部專用模型，且需要同時使用開源模型或GPT-4o等商業模型的企業，解決模型無法集中控管的問題。

針對開發團隊，Databricks推出Genie Conversational API套件，開發人員能透過API將人工智慧自然語言對話功能，整合到Teams、Slack、SharePoint或自行開發的客製化應用。與傳統的聊天機器人不同，該套件能記住對話的前後脈絡，大幅提升使用體驗。這項新工具讓企業不必自行開發複雜的人工智慧對話服務，大幅縮短智慧應用開發時間。

此外，Databricks還推出升級後的Agent Evaluation Review App工具，提升人工智慧代理人的可靠性與準確性，協助企業內部的領域專家可直接透過平臺標記，回饋代理人模型的錯誤或不足之處。過去企業須透過試算表或自行開發工具來處理這類回饋，現在可透過平臺內建工具，縮短人工智慧模型改進周期。

在基礎設施方面，Databricks新推出的Provision-Less Batch Inference，提供企業以簡單的SQL語句啟動大規模的批次推理任務，不必事先建置或管理額外的基礎設施，企業可用此功能批次處理像是非結構化的客戶意見回饋資料，或自動化文件分析工作。