Snowflake正式開放跨區域AI推論功能，從AWS平臺著手

AI分析雲端服務商Snowflake宣布其Cortex AI服務套件啟用跨區域推論功能，以滿足某些區域沒有可用推論服務的用戶需求，本功能最先從Amazon Web Services（AWS）開始部署。

隨著更強大的大語言模型（LLM）出現，讓生成式AI服務快速增長。但有些用戶區域並沒有那麼快部署模型，限制了應用開發速度。Snowflake 的Cortex AI的跨區域推論已從測試版正式上線，讓用戶透過簡單設定，即可存取不同雲端區域上偏好的LLM。

這新功能可提升Snowflake Cortex LLM以及使用該LLM的功能，像是Snowflake Copilot和Cortex Analyst的用處。Cortex Analyst為Snowflake 6月份新宣布的服務，讓企業用戶可運用儲存在Snowflake上的分析資料，以無程式碼方式開發資料導向的AI助理應用，即將以公測版上線。

Snowflake Cortex是一組使用LLM模型的AI功能，提供理解非結構化資料、回應自由提問，以及提供智慧輔助等AI服務。Cortex在三大雲端平臺，包括AWS、Azure、與Google Cloud Platform（GCP）上都有代管服務。不過現在支援跨區域推論的，只有AWS。如果用戶在Azure或GCP上設定上述參數，呼叫就會導向AWS。

跨區域功能是預設關閉的，用戶須自行設定開啟。只要透過管理員用戶帳號，在帳號層級（account-level）設定參數CORTEX_ENABLED_CROSS_REGION，即可配置想執行推論的區域。可以選擇區域的參數值有三：AWS_US、AWS_EU和AWS_APJ。（配置方法如ALTER ACCOUNT SET CORTEX_ENABLED_CROSS_REGION = ‘AWS_US’;）用戶選定三大區域之一後， Cortex AI會自動選擇細部區域，例如AWS_US中可能分配到AWS us-east-1或us-west-2。

Snowflake表示日後會持續將這功能推向Azure、GCP等其他平臺上。