德國鐵路是全世界第三大的鐵路網,每天班次高達3萬7千多班。因為採聯營集團發展模式,以五大不同運輸業務的公司為主,旗下更有近兩百家子公司。另外還成立了一個DB Systel公司,負責所有全集團數位轉型和IT戰略,等於是德國鐵路集團旗下的IT團隊。
他們這幾年決定以永續行動力(Sustainable Mobility)作為集團願景,不論是長短程運輸,或是物流,都開始推動綠色數位轉型,目標就是要做到綠色IT(Green IT),來降低對環境的影響。
德鐵綠色數位轉型的第一步就是要找出方法,來量測出工作負載的碳排放影響。DB Systel平臺策略和賦能首席技術顧問Gualter Barbas Baptista點出關鍵理由:「沒有好的數據提供資訊,就沒辦法思考替代方案。」就像火車誤點了,如果沒有提供延誤資訊,乘客就無從決定如何應對,要不要等待,還是趕快換一班車。「這正是為何必須建立資訊能見度。」他強調。
本來他們想用公雲供應商提供的碳排儀表板工具,來獲取這類資訊,但是,公雲提供的資訊,無法分辨單一AP的碳排放量,資料顆粒度也太粗,只能概略知道碳排分布百分比,而沒有更精確的數值,資訊即時性也不足,有些工具甚至要等到數據產生後3個月,才能提供。
後來,德鐵改用了一款開源的K8s能耗監控工具Kepler,來搜集自家雲端架構的能源使用率,再轉換成CO2碳排放資訊,打造出了給高層和開發人員都能用的綠色IT儀表板,連一個容器的碳排都能幾乎即時性的提供,每3秒就能更新一次,德鐵還嫌太頻繁,放寬到20秒一次。
這個碳排監控工具,讓德鐵開發人員和架構人員,真正可以用來衡量自己寫的程式碼,或所選擇的架構的碳排數據。
在今年K8s Summit大會上,我們特別找來Kepler專案維護成員IBM東京研究院的研究科學家Marcelo Carneiro do Amaral,對臺灣企業介紹這一款國外雲原生生態圈越來越重視的新工具。
Marcelo指出,目前要落實雲原生IT永續最大的挑戰是,缺乏統一的指標來監控雲原生環境的IT能耗與碳排放。各家業者有自己的指標和不同的碳足跡計算標準,甚至企業自家機房也採用不一樣的碳排計算標準,很難做到一致性的追蹤管理。
尤其是生成式AI的應用,如何得知你所打造的LLM應用,帶來多少能源消耗?甚至是哪一次的查詢,哪一次下的提示工程指令產生多少碳排,Kepler的追蹤顆粒度可以短到每秒一次,小到每一隻Process,也可以按容器、Pod叢集,來提供不同層級的能耗資訊透明度,彈性非常大,開始有雲端維運監控服務業者,將Kepler整合到自家雲原生監控儀表板了。有企業為了因應歐洲法遵,要求IBM提供LLM模型的能耗報告,也是靠這款工具來取得訓練和推理階段的能耗數據。
生成式AI是臺灣大型企業現在最想要導入的新興技術,但要如何兼顧企業長期永續發展的目標,Kepler看起來是目前的首選,這也是我們這一期的封面故事「雲原生永續數據怎麼量」的報導主題。
專欄作者
熱門新聞
2024-12-08
2024-12-10
2024-12-10
2024-12-10
2024-11-29
2024-12-08