Google機器學習平臺Vertex AI現提供低延遲高安全性的私有端點

Google宣布在其機器學習平臺Vertex AI上提供私有端點（Private Endpoints），這是Vertex Predictions中的一項新功能，藉由VPC對等連接，用戶可以配置專用的連接與端點通訊，因此用戶的資料就不需要經過網際網路，不只提高安全性，也可以降低線上預測的延遲。

Vertex AI是Google在2021年開發者大會Google I/O，所發布的全託管機器學習平臺，該平臺由一系列機器學習工具組合而成，簡化企業部署和維護機器學習模型的工作。Vertex AI解決機器學習工具過於破碎，使得開發流程不順暢的問題，Vertex AI提供一致的UI和API，供用戶簡單地操作Google雲端服務，來簡化建構、訓練和部署大規模模型的任務。

Google提到，要即時提供機器學習模型預測是一大挑戰，能夠低延遲提供結果，對各產業的機器學習應用都非常重要。而這也就是Google推出Vertex AI私有端點的原因，應用VPC對等連接提供低延遲的網路連接。

VPC網路是一種全域資源，由資料中心的地區虛擬子網所構成，所有子網都透過全域網路連接，藉由VPC網路對等連接，用戶可以跨兩個VPC網路連接內部IP地址，無論IP地址是否屬於同一專案或是同一組織，最終使得所有流量都能留在Google網路中。

Vertex AI供用戶使用Vertex Predictions，以無伺服器的方式提供機器學習模型服務，用戶可以在雲中託管模型，並且透過REST API進行預測。當用戶要在線上進行模型預測，則需要將模型部署到端點，用戶能選擇端點機器類型和自動縮放等參數，提供低延遲的預測服務。

而現在用戶還可以選擇創建私有端點，限制資料永不穿過網際網路，所以私有端點除了能降低系統收到請求的時間，還具有安全性優勢，Google提到，部署模型至私有端點的額外開銷很小，而且實現的效能幾乎與在GKE或GCE自己提供服務相同。