Red Hat發表了Red Hat OpenShift AI 2.15,這是一款企業級人工智慧與機器學習應用平臺,可協助企業加速人工智慧技術的採用,並提升一致性。該新版本增加了模型註冊表與資料漂移偵測功能,並進一步支援跨混合雲環境的大規模人工智慧模型管理和部署。
Red Hat OpenShift AI 2.15的更新重點之一是添加模型註冊表預覽版。模型註冊表可供開發者集中管理已註冊的人工智慧模型,實現模型版本控制、共享、部署和追蹤。企業可透過該工具組織和管理生成式人工智慧模型的後設資料和模型資產,並可選擇建立多重模型註冊表,以應對不同業務需求。目前Red Hat已經將該專案捐贈給Kubeflow社群作為子專案,以進一步促進開源人工智慧社群的發展。
資料漂移偵測功能也是OpenShift AI 2.15本次的更新重點。隨著人工智慧部署至生產環境,輸入的資料可能隨時間變化,而資料漂移偵測功能則可以持續監控輸入資料變動的情況,並在實際資料與訓練資料出現偏移時發出通知。該項設計可確保模型反應實際情況,避免因資料變化導致預測結果偏差,提升模型在生產環境的可靠性。
Red Hat OpenShift AI 2.15中的LoRA技術讓微調大型語言模型變得更省資源。LoRA的原理是降低微調模型的運算複雜度,讓企業可以更高效地調整像是Llama 3這類人工智慧模型,LoRA技術充分利用雲端原生環境的彈性,最佳化模型訓練與微調過程,不僅提高了效能,也強化操作的靈活性。有了LoRA的加持,OpenShift AI 2.15能夠滿足不同規模的人工智慧工作負載需求,企業能以較低的成本和資源消耗進行模型微調。
此外,新版本還支援Nvidia NIM和AMD GPU整合,增加硬體加速的選項。Nvidia NIM提供了一組微服務介面,讓生成式人工智慧應用的部署更加簡單快速,並支援多樣化人工智慧需求。開發者只要透過API,NIM就能靈活地支援本地和雲端環境的推論服務,實現高度可擴展性。
Red Hat OpenShift AI 2.15提供企業AMD GPU的支援,使開發者能夠在模型開發、訓練和微調過程使用AMD的GPU。新的硬體支援讓企業擁有更多選擇,而且也能提升處理高運算需求工作負載的能力,使人工智慧應用的開發與部署,在不同硬體環境更具彈性。
熱門新聞
2024-11-18
2024-11-12
2024-11-20
2024-11-15
2024-11-15
2024-11-19