Container快報第155期：生成式AI開始影響K8s開發工具鏈，越來越多容器工具商推出AI維運小助手

2023/10/20～11/20 精選容器新聞：

#GAI、#LLM
Docker推出第一款生成式AI工具，用LLM打造Docker配置小助手

看到GitHub Copilot用GAI輔助程式碼開發，Docker也推出自家第一款生成式AI工具，將Docker社群在GitHub以及Docker Hub上，對於中對於Dockerfile配置檔、Docekr Compose設定檔、Docker映像檔的相關討論集結，來訓練出這款Docker配置助手，可以用來引導新手開發者撰寫複雜的Docker配置。目前處於先期試用階段。

#K8s、#跨雲管理
SUSE雲原生管理平臺Rancher Prime推出2.0新版，強化跨雲K8s管理和新推AI助手

在北美Kubecon大會上，SUSE發布了新版的雲原生管理平臺Rancher Prime 2.0，更整合了容器漏洞檢查工具NeuVector，也強化了多項企業管理異質、跨雲K8s環境的管理能力。除了推出了新的UI擴充機制，可以將第三分工具整合到Rancher Prime的UI介面上，也更容易在UI上使用Cluster API來調度跨雲，甚至是邊緣裝置上的K8s叢集。另外，Rancher Prime也推出了生成式AI助手，可以整合到顧客的Slack頻道上，來提供配置安裝、效能調校和除錯的建議。另外，容器漏洞檢查工具NeuVector先前已經推出AWS版，也上架到AWS應用市集，今年底前計畫在推出Azure版，也計畫在今年年底前，上架到Azure市集，讓企業更方便整合到兩大公雲的K8s環境中啟用。

#GAI、#Docker
Docker發布生成式AI技術架構，宣稱幾分鐘就能打造GAI應用

搶攻生成式AI部署熱潮，日前，Docker公司和熱門生成式AI開發框架LangChain、圖資料庫廠商neo4j和LLＭ模型訓練工具商OllamaL聯手，發布了生成式AI技術架構GenAi Stack。在這個技術架構中，提供了預先配置的開源或企業級LLM模型的部署映像檔，包括了Llama 2、Mistral，也有OpenAI的GTP-3.5和GPT-4模型，可以透過Ollama工具快速在本地端執行LLM模型。預設資料庫則使用了Neo4j，作為LLM輸入的基礎知識來源資料庫。LangChaing則可用來調度LLM、AP和資料庫，來開發一個用LLM強化互動脈絡的應用程式。Docker號稱，使用這個技術架構GenAi Stack，開發者可以在數分鐘內快速打造出一隻生成式AI的簡單應用。

#可觀測性、#K8s
Grafana可觀測性平臺也開始支援K8s叢集監測能力

Grafana Labs技術長Tom Wilkie在Kubecon大會上展示了新的K8s叢集監測能力，使用Helm安裝工具，就可以在K8s叢集中部署一個Grafana代理程式，來搜集K8s效能矩陣、log紀錄和事件，整合到Granfana儀表板上來追蹤。Grafana代理程式優化了對OpenTelemetry蒐集器的支援。Tom Wilkie指出，企業需要建立一個系統化的方式來監控不同的雲原生開發環境，企業得針對不同團隊各自的開發環境個別人工配置可觀察性追蹤機制，透過Grafana代理程式可以統一搜集來自不同類型開發和運作環境的資料，統一管理和監控的方式。

#全快閃、#容器儲存
瞄準GAI訓練需求，Dell物件儲存軟體也能支援全快閃儲存設備XF960

Dell日前宣布旗下物件儲存軟體ObjectScale推出了1.3新版，同時也新增加對Dell最新一代的全快閃儲存設備XF960的支援版本。ObjectScale是一款可以用來支援K8s叢集和S3雲端儲存的物件儲存軟體，現在可以透過K8s容器儲存介面CSI，善用NVMe的頻寬，提供高達每節點每秒4.3GB讀取和3.3GB寫入的能力，來支援龐大LLM模型訓練資料的存取需求。根據Dell官方宣稱，目前可以支援到900個儲存節點的規模。

#CNCF、#自動擴充工具
AWS正將K8s自動擴充工具Karpenter捐給CNCF，開始梳理API命名提高穩定性

這是AWS在2021年釋出的K8s自動擴充工具，可用來管理節點的生命周期，來簡化K8s叢集擴充的複雜配置工作。Karpenter和Cluster Autoscaler最大不同是，Karpenter直接調動EC2 Fleets叢集，可以更快啟動，甚至也可以透過EC2 Fleets，自動使用競價型執行實例來擴充K8s，進一步降低執行的成本。在2023年，Karpenter這個專案獲得高度關注，貢獻者暴增到200人。目前這個專案正在進行捐贈給CNCF的流程，將加入K8s自動擴充SIG小組的專案之一。另外，也開始著手強化Karpenter API專案的穩定性，減少專案變動帶來的影響。像是將核心API名稱修改成以單一Node概念為核心的描述，來降低開發者的使用門檻，例如將調度器API，改名NodePool，將Machine改名成NodeClaim，將AWSNodeTemplate改為EC2NodeClass等。

#閘道API、#服務網格
K8s閘道器API推出4年終於進入1.0正式版，但服務網格支援仍在實驗階段

用來管理K8s網路服務模式的K8s閘道器API，經過4年發展，終於釋出了1.0正式版，包括GatewayClass、 Gateway、 HTTPRoute、TCPRoute都釋出正式版。這個API最初設計用來管理從外部使用者端到K8s叢集內服務之間的網路流量（Ingress的南北向網路流向管理），後來加入了服務網格社群的提案（GAMMA計畫），將這個閘道器API的擴大到K8s單一叢集內部服務之間的網路流量管理（東西向網路流量），讓這個閘道器API的功能更完整。目前閘道器API對Ingress的支援達到正式版，但是對於叢集內服務網格流量的管理，仍處於0.8版的實驗版本階段。

#配置程式碼化、#IaC
雲端配置管理新選擇，Pulumi ESC能用程式碼同時管理配置和機密資料

基礎架構程式碼化管理工具商Pulumi，最近推出了一款可用來管理所有雲端基礎設施、應用程式環境機密與配置的工具Pulumi ESC，可搭配配置即程式碼（Configuration as Code）策略，讓維運人員撰寫程式碼來管理機密與配置的階乘結構。這款工具可單獨使用，也可以與Pulumi IaC搭配運用，進一步強化配置管理的靈活性。透過Pulumi ESC CLI，用戶只需要使用一個指令，即可立刻經過身分驗證，短期存取任何雲端供應商的雲端憑證。所有環境操作都被詳細記錄下來，確保用戶能夠追蹤每個值的來源和變動。此外，Pulumi ESC融合身分驗證和基於角色的存取控制（RBAC）功能，確保組織內部資料的存取安全。

#Docker桌面、#記憶體優化
桌面版Docker小更新，4.24版能大幅釋出容器不用的記憶體

在2023年度產品大會上，Docker宣布桌面版Docker發布4.24版，這次小改版，主要是將資源節省功能（Resource Saver）和Docker Compose Watch納為正式版功能。資源節省可以自動偵測桌面版Docker所使用的記憶體，更快也更有效率的分配記憶體，官方宣稱，當Docker桌面版沒有啟用任何容器時，可以大幅減少高達10倍的記憶體耗用。包括Windows、Mac和Linux版本都支援。另外，4.24版也優化了Docker桌面版中對於Docker引擎狀態和相關操作的整合，讓開發者更清楚一鍵就能執行許多指令，來簡化容器任務的操作。

#SBOM、#軟體供應鏈安全
軟體供應鏈追蹤工具Docker Scout正式上市，來提高容器應用開發的能見度

Docker官方正式推出Docker Scout，可用來監控和管理，整個容器應用程式從建置到部署的開發流程，能整合Sysdig、JFrog Artifactory、AWS ECR、GitHub、GitLab、CircleCI和Jenkins等多種工具，提供開發者有關保護和管理供應鏈的即時建議和分析結果，還允許開發者根據現成的政策，持續評估容器映像檔，確保這些映像檔符合軟體供應鏈最佳實踐。除了根據監控結果和政策評估提供建議，助開發者最佳化和保護應用程式之外，官方還強調，該工具的監控範疇不僅限於生產環境中執行的容器映像檔，而廣泛地涵蓋整個軟體供應鏈。此外，Docker Scout也推出一套建議的工作流程，特別適合以Docker信賴內容為基礎建置Docker容器映像檔的開發者。

#微軟開發工具箱、#Docker桌面版
微軟開發工具箱開始內建Docker桌面版，可以預先配置常用映像檔

微軟正式推出開發工具箱Dev Box後大受好評，在今年年底Ignite大會上進一步推多項新功能，其中一項重要更新是將內建Docker桌面版的映像檔，可與用來和原本就內建的Visual Studio一起用來開發雲原生應用。這也可以讓開發者可以預先配置好的容器應用映像檔，來建立一個個不同用途雲原生應用的開發環境，需要時就直接開始一個開發工具箱。微軟也強化了開發工具箱的配置程式碼化能力，更容易針對不同開發者進行客製化或個人化的設定。企業可以預先設計不同開發團隊成員或專案任務所需的開發工具箱，內建對應的配置和基礎容器應用檔，快速開啟來使用。

更多新聞

• Docker發布遠端建置工具Docker Build和更完整的除錯工具Docker Debug
• CNCF宣布eBPF網路管理專案Cilium結束孵化階段，成為獨立運作的開源專案
• Linkerd發布2.14新版，強化多叢集在共享網路上的部署能力

責任編輯：王宏仁

圖片來源：Docker、Pulumi、Grafana Labs