Google針對生成式人工智慧應用程式開發,釋出諸多新工具與功能,而這包含新的企業版Colab,並在全託管機器學習工具Vertex AI支援分散式運算框架Ray,同時還推出一系列MLOps功能,簡化模型調校、評估與使用。

Google新推出企業版Colab公共預覽版,企業版Colab是一個全託管服務,除了原先Google Colab筆記本的功能之外,還添加企業級安全性和法遵支援。Google Colab是由Google研究院開發的熱門雲端Jupyter筆記本,每月活躍使用者達700萬人,Colab讓使用者可以在瀏覽器中執行Python程式碼,支援圖表、圖像、HTML與LaTeX等多元內容,並且能夠方便地在團隊中共享專案。

企業版Colab加入Vertex AI支援,可以存取Vertex AI ePlatform上各式模型、調校工具、運算資源和機器類型,還有各種資料科學和MLOps工具。特別的是,企業版Colab有一個新的協作工作區,能夠探索、分享和預測BigQuery中的資料,官方提到,企業版Colab可以供用戶在BigQuery中啟動筆記本,以探索和準備資料,並且在Vertex AI打開同一筆記本,繼續使用專門的人工智慧基礎設施和工具工作,團隊間可透過企業版Colab高度協作,消除資料和人工智慧工作負載間的界限。

已經支援TensorFlow、PyTorch、scikit-learn和XGBoost等諸多框架的Vertex AI,現在進一步新增Ray框架。Ray是一個開源分散式運算框架,主要用來建置、執行大規模分散式人工智慧與Python應用程式。由於Vertex AI上包括企業版Colab、訓練、預測和MLOps功能等跨工具整合,用戶可以在現有Vertex AI工作流程應用Ray框架。

資料科學家的工作流程,可從Vertex AI目錄中選擇模型開始,選用像是Llama 2、Dolly、Falcon、Stable Diffusion等模型,並在企業版Colab中開啟,進行實驗、調整和原型設計,接著Ray框架便可充分運用運算資源,訓練生成式人工智慧模型。

除此之外,Google也針對生成式人工智慧推出新的MLOps功能,提供跨模式調校功能,PaLM 2 Text現在能以監督式調校之外,可根據人類回饋進行增強學習的RLHF(Reinforcement Learning from Human Feedback)功能也在預覽階段。還在文生圖模型Imagen加入Style Tuning調校方法,用戶只要提供10個參照圖像,Imagen就能創建符合品牌形象的圖像。

另外,用戶也可以透過自訂義指標,來評估模型的品質,以利後續迭代與改進,而Automatic Side by Side功能,則是運用大型模型評估正在測試的模型輸出,以擴大人類評估的規模。Google更在多個儲存服務中添加向量支援,使開發者可以更簡單地操作嵌入,強化人工智慧應用。

熱門新聞

Advertisement