Google雲端在無伺服器串流分析服務Dataflow Prime,添加垂直自動縮放功能,透過自動擴展運算單元(Worker)記憶體,來提高Dataflow Prime的效能,由於是垂直擴展,因此用戶也就不需要手動調整運算單元的配置。

Dataflow Prime供用戶使用Apache Beam SDK或是Dataflow模板,編寫資料處理邏輯,並由Dataflow處理工作管線的最佳化、執行和可擴展性,Google提到,在部分情況下,用戶需要手動選擇記憶體等資源,如此系統才能獲得更佳的效能和降低成本。

調整資源是一個耗時的試錯過程,且同時可能需要調整多個運算單元,才可能達到工作管線最佳配置,此外,當資料處理需求發生變化時,靜態配置可能就不適用。Google雲端現在於Dataflow Prime提供垂直自動縮放功能,滿足這些配置調整需求。

垂直自動縮放功能會持續觀察串流傳輸工作管線中,記憶體不足(OOM)事件和記憶體使用的狀況,並依此觸發記憶體縮放,當記憶體利用率很高,垂直自動縮放功能便會替換更大記憶體容量的運算單元,Google提到,這個過程是迭代的,因此可能需要數分鐘的時間。

反之,當記憶體使用率較低,便會縮減使用較少記憶體容量的運算單元。系統會觀察工作管線的歷史資料,來考量縮減規模的方式,以確保工作管線的穩定性,垂直自動縮放會採用較保守的方式進行縮減,盡可能減少工作管線中斷。

熱門新聞

Advertisement