企業發展雲原生永續IT有新工具

「技術部門要在雲原生環境中觀察、記錄並評估碳排放，需要新工具來解決這個課題。」雲端原生運算基金會（CNCF）技術監督委員會成員Katie Gamanji最近在臺灣Kubernetes高峰會上強調，這正是K8s接下來在永續性的重要發展新方向。從CNCF基金會揭露的K8s未來發展，凸顯出企業為因應ESG或永續性，使得雲原生永續成了重要議題，如何整合雲端與永續發展的策略，成了實現綠色數位轉型的關鍵。

由於數位轉型，許多企業採用雲端架構推動內部IT基礎架構現代化、數位化，隨著雲原生技術的成熟，近幾年，多雲混合雲架構逐漸成為許多大型企業現代化IT策略的主流，也讓雲原生永續的議題，開始受到重視。

從雲原生永續角度來看，企業不能再像過去那樣僅僅以成本考量來使用雲端資源。過去，當雲端可用時，企業往往會盡可能使用免費資源，例如按日計費的虛擬機器，並不太關心使用了多少CPU資源。可是，追求永續發展以後，企業就不能僅僅關注成本，而是需要更加全面的思考，包括能源消耗和碳排放等環境影響。

尤其，近2年，生成式AI的快速普及，推動了AI運算能力的不斷提升，也帶來雲端資料中心日益增高的能源消耗和碳排放。這些大型語言模型（LLM）在訓練和推論階段需消耗大量能源。例如，每次ChatGPT查詢所耗電量幾乎是傳統Google搜尋的10倍之多。特別是影像、音樂和影片生成等運算密集型GAI應用，將進一步提升能源耗損，也大大增加碳排放量。

另一項調查預測，由於GAI需求激增，到2030年資料中心的電力需求將暴增160%，將從目前占了全球總電力消耗的1到2%，提升至3到4%，將大幅增加IT能耗與碳排量。由於這些AI模型需要大量運算，得在雲端環境上執行，促使雲原生永續關注度越來越高。

為何雲原生永續成為K8s未來的重要發展方向？

Katie Gamanji引用一項調查數據指出，當今全球碳排放量中有1.4%來自技術部門。若資料中心和資訊基礎架構全面轉用再生能源，可望減少80%的碳排，可是，目前技術部門行動力不足，導致技術部門未來十年產生碳排量，不但不會減少，反而預估還會增加10%。

隨著雲端成為主流IT架構，越來越多企業選擇K8s來調度和管理容器化應用與服務。而K8s本身不只是一個雲端維運工具，也是一個減少碳足跡的工具，甚至不僅僅是一個容器調度工具，也是雲端永續IT工具。

例如，K8s內建垂直Pod自動擴充機制，能幫助開發者自動調整容器的工作負載，避免讓應用程式長時間占用CPU和節點資源，造成資源浪費。此外，K8s還能配合優化排程，幫助開發者在非工作時段自動關閉不必要的資源，並在工作時間恢復。透過這樣的方式，就能節省大量能源，且不需額外成本。

但是，光靠K8s內建的功能不足以支持雲原生永續的發展，若沒有來自K8s詳細的IT能耗數據，來提供技術部門了解雲原生環境中的容器化應用消耗多少的能源和碳排放數據，也就沒辦法根據這些行為提出具體改進方案。這正是 CNCF基金會未來聚焦的一大重點，要提供新工具解決這個問題，讓技術部門能在雲原生環境中觀察、記錄並評估自身的碳排放情形。

K8s目前有兩大雲原生永續工具

目前K8s有兩個重要的雲原生永續工具，第一個是Kepler工具，這是一個利用eBPF來取得K8s叢集系統狀態的數據，並匯出成Prometheus指標進行監控和管理的工具。另一個工具是Carbon-Aware KEDA Operator功能，這是K8s事件式叢集擴充工具KEDA在2023年新增的功能，可以自動依據碳排放變化，來調整叢集的大小機制，就好像具備碳察覺的效果。

Kepler這套雲原生永續監控工具已獲得不少大廠的支持，包括IBM、紅帽、德鐵等。

Kepler工具可以提供以秒為單位的能耗指標，結合碳感知SDK使用，能實現雲端環境中更細緻的碳排放追蹤。這些即時數據不僅有助於精細掌握能源消耗的情況，還能將這些數據匯出至Prometheus彙整，並利用Grafana儀表板進行視覺化呈現。圖片來源／IBM

去年11月，在紅帽OpenShift 4.14版本中，推出了採用Kepler專案開發的電力監控功能，作為容器層級的電力監控工具提供，在裸機環境中，讓開發者可以透過安裝外掛的方式，直接將Kepler工具整合到OpenShift主控臺的儀表板上，方便用戶進行查看和分析OpenShift叢集中容器的功耗數據。今年1月底，這項功能進入技術預覽，之後將推出正式版。

又如德國鐵路集團開始用Kepler蒐集和監控混合雲環境的功耗和碳排資訊，還建立了綠色IT儀表板可提供每支容器化應用程式即時的能耗數據，作為追蹤和改善IT能耗以及碳排的重要參考。這是德鐵交給內部開發人員的第一個工具，協助集團達成綠色IT的目標。

不只大型軟體業者、企業採用，也有PALO IT等雲原生軟商將這套工具整合到自身產品中，可以在Kubernetes環境中建立更公開且透明的能源資訊，協助企業監控和管理雲端基礎設施的能耗。

Kepler這項碳足跡偵測工具會在每一個K8s叢集節點中，安裝一個Kepler探索器，用來收集容器和節點層級的能耗指標，主要透過eBPF追蹤CPU效能計數器和Linux核心Tracepointsa機制，來蒐集功耗和資源利用資訊，再進一步計算每個容器和節點所消耗的每小時KW能耗資訊，再乘上碳排放係數，來換算出這個能耗所產生的碳排放量。

Kepler工具可提供秒級的雲原生能耗指標

不像公雲碳排偵測工具使用上存在諸多限制，Kepler這套工具的最大特色是，不僅可以提供單一應用程式的能耗使用資訊，還能夠精細到從高層次，到容器層次的詳細能耗數據，並以接近即時的方式呈現，方便用戶能夠快速了解單一元件中能源使用狀況，進而做出相應的調整。

甚至，Kepler可以提供以秒為單位的能耗指標，結合碳感知SDK使用，能實現雲端環境中更細緻的碳排放追蹤。這些即時數據不僅有助於精細掌握能源消耗的情況，還能將這些數據匯出至Prometheus彙整，並利用Grafana儀表板進行視覺化呈現。

因應GAI風潮，企業可以利用這套工具監控雲端GenAI專案工作負載，估算出推論與訓練過程中的能源消耗，作為優化LLM模型能耗的依據，有助於降低模型的能耗，使其更具永續性。

Kepler最早由紅帽、IBM於2022年2月發起，並於隔年成為CNCF基金會旗下的沙盒專案，雖然Kepler還是一個新興專案，但自上架至GitHub以來，逐漸吸引越來越多開發者的關注和採用。在過去一年中，Kepler在GitHub上的星標數量已翻倍，累積超過12K顆星星。

除了開發者社群的力推，Kepler也開始在國際重要的雲原生技術會議中獲得關注，像是在KubeCon美洲和歐洲年會中，均設有專場介紹這套工具，並分享企業應用實例。甚至一些國際性重要組織，如綠色軟體基金會（GSF）、歐洲電信標準協會（ETSI）等都將Kepler納入其永續發展框架或標準中，進一步加速推動了其應用與普及。

儘管，雲原生永續在國外討論越來越多，但在臺灣的關注仍相對較少，意味著許多企業可能還未意識到其重要性，或是也不知道如何運用這些新工具，有效地追蹤和改善其雲端資源的消耗，進而減少碳排放。

隨著臺灣今年10月式正式公告碳費費率並於明年初生效，未來許多高碳排的企業將需依每噸碳排300元計算每年要繳交的碳費。對於企業而言，如何運用雲原生永續工具，來收集雲端環境中的能耗和碳排數據，並透過這些數據來優化資源使用，降低碳排放和碳費成本，將變得越來越重要。我們也專訪Kepler專案核心維護者，親自剖析雲原生永續關鍵手段。

 相關報導