五月最後的十天,兩大科技巨頭再次展開了生成式AI的新對決,微軟年度開發者大會Build和Google年度產品大會I/O,雙雙在同一周舉辦,雙方開場主題演講只差了一天,而且都瞄準了代理AI的新戰略布局,再次較勁的意味濃厚。

微軟喊出了開放式代理型網際網路(Open Agentic Web)願景,從基礎架構、資料工具、AI平臺工具到代理AI應用,祭出各項新功能和新產品。Google不只發表多款多模態的大型語言模型,更試圖將代理AI能力,整合到各式各樣的服務中,從Google搜尋、Chrome到自家各種GenAI應用程式中。

微軟、Google這兩家生成式AI巨頭較勁,看頭十足,也再一次翻新了眾人對於生成式AI可能性的想像,原來還可以發展出這麼多、這麼厲害的應用。

同一時間,我卻飛到了美國波士頓,參加老字號的商用開源作業系統廠商紅帽的年度大會,同樣感受到生成式AI、代理AI浪潮的影響力。

不同於AI巨頭們,如OpenAI與微軟聯盟、Google、Nvidia、AWS等,手上擁有龐大的算力、資料來發展各種大型語言模型,紅帽這家成立三十多年的老牌軟體商,堅持不走大型語言模型研發的路線,而是要善用自己原本的優勢,來卡位新的代理AI浪潮。

擁有深厚作業系統背景的紅帽,對硬體支援非常熟悉,也和雲端供應商、硬體晶片供應商有很好的合作夥伴關係。紅帽技術長Chris Wright用一句話點出紅帽的新戰略:「將底層硬體和熱門模型的軟體架構串連起來,是紅帽在整個GAI世界中的位置。」

紅帽的策略要將十多年來投入的混合雲戰略,帶入AI領域。紅帽瞄準了企業大規模運用GAI的需求,新產品戰略方向是,要讓任何模型,使用任何晶片,在不同雲端環境如公雲、私雲和邊緣上執行。新發表的商用Linux作業系統RHEL 10新版,可以通吃混合雲和AI工作運算需求。另外,也用可以加速LLM運作的開源專案vLLM為基礎,推出全新的AI推論伺服器,還發表一個大規模AI推論加速的開源專案llm-d,以K8s實現分散式推理架構,來突破vLLM單一伺服器的限制。

最後一項是宣布,旗下兩大AI產品線RedHat AI和OpenShift AI,都將支援Meta的Llama Stack框架和 熱門的MCP協定。

不只紅帽,5月初,我們另一位記者王若樸則飛到奧蘭多,參加另一家創立近50年的老字號數據分析品牌SAS年會,他們同樣也在今年大會宣布,新戰略全力瞄準代理AI浪潮(相關報導請見:老牌數據大廠的代理AI新戰略)。

原本就擅長各種數據分析技術和傳統預測式AI技術的SAS,有一套頗受企業青睞的數據分析工具和平臺,他們和紅帽一樣,沒有優先研發自己的大型語言模型,而是善用既有平臺產品優勢,來瞄準代理AI浪潮。

SAS在既有的決策平臺Intelligent Decisioning上,增加AI代理能力,尤其是可以提供各種客製化AI代理的開發工作。SAS提供了一套低程式碼AI開發工具,可以用拖拉式的操作,以視覺化的方式來建立代理AI的工作流程,不只可以用於開發設計,也能用這套決策平臺,來部署和擴展可以獨立運作的AI代理應用。

這個代理型AI平臺的特色是,結合了SAS擅長的傳統統計分析和LLM,來打造AI代理。更提供了AI治理可用的工具,來提高AI代理的透明度與可解釋性,像是整合了原本的模型卡(Model Cards)功能,可以呈現出所用模型的偏差評估結果,也提供了AI供應鏈追蹤功能(Lineage),源自傳統資料工程實踐,可以用視覺化的方式,來呈現從資料ETL流程、模型訓練、版本管理、模型部署到最後輸出決策的邏輯脈絡。

面對生成式AI巨頭不斷翻新技術的激烈競爭,老字號的軟體業者像是SAS或紅帽,都走出一條不一樣的AI路,善用多年累積的商用IT實力,創造出可以卡位代理AI新競賽的差異化競爭優勢。

專欄作者

熱門新聞

Advertisement