開源容器平臺Docker最近新添生成式AI工具,包括GenAI Stack和Docker AI,前者可加速生成式AI應用的開發,後者就像開發助理,可提供自動化指示。

重點新聞(1013~1019)

Docker     容器     生成式AI  

開源容器工具Docker也新添生成式AI工具,開發更快速

開源容器平臺Docker是目前許多AI應用的主流部署方法,其同名公司日前在年度技術大會Dockercon上,揭露一系列生成式AI新功能,首先是GenAI Stack,號稱只需幾分鐘,使用者就能開始開發生成式AI應用。

進一步來說,GenAI Stack簡化開發流程,將Docker容器與圖數據庫Neo4j、語言模型開發框架LangChain和模型管理工具Ollama整合在一起。比如,使用者可用Ollama在本地端執行LLM,並用預設的Neo4j圖形和向量搜尋資料庫,來讓AI模型更快、更準確。此外,GenAI Stack還提供預配置的開源大型語言模型(如Llama 2、Code Llama、Mistral)和私有模型(如GPT-3.5、GPT-4),來縮短開發時間。

除了GenAI Stack,Docker也推出首個AI產品Docker AI,是個類似程式開發助理Copilot的服務。團隊以長年來累積的百萬個Dockerfile、Docker Compose檔案來訓練Docker AI,能針對特定情境提供自動化功能,比如可在使用者編輯Dockerfile或Docker Compose檔案、在地端除錯docker build或在執行測試時,提供自動化指示,加速開發流程。(詳全文)

  台新金控     生成式AI     Chatbot  

台新金控揭露4大生成式AI實驗進展

台新金控揭露生成式AI進展,包括Teams Chatbot、知識管理平臺、程式助理Codex和虛擬智能客服等4大實驗案。其中,第一項導入的是微軟Azure OpenAI服務的ChatGPT,台新金控首選Chatbot的目的是讓集團各單位更了解生成式AI,於是在今年3月與廠商規畫、建置專屬Chatbot,租用微軟Azure OpenAI環境,5月正式將ChatGPT串接至Teams中,提供200個帳號供各單位使用。

再來,台新金控進一步結合生成式AI,打造知識管理平臺。該平臺能讓使用者向生成式AI提問,平臺再根據問題搜尋內部資料,找出最相關的資訊,由生成式AI彙整、回覆給使用者。該平臺還未正式上線,但未來完善後,會擴大發展為智能客服或其他應用。此外,台新金控也針對Codex進行一系研究,發現該Codex可提高程式開發效率,可協助IT人員完成資料表的建立、增刪減與重新規畫,以及撰寫初階和進階程式碼、撰寫程式碼說明等。不只如此,台新金控也用生成式AI打造虛擬客服,也就是生成一個擬真的客服人員,再利用語音轉文字、文字轉語音、人臉辨識等技術,來推薦理財商品給客戶。(詳全文)

  可解釋性      特徵      神經網路  

Anthropic用特徵解構神經網路,大幅提高可解釋性

OpenAI競爭者Anthropic在最新發表的AI研究論文〈Decomposing Language Models With Dictionary Learning〉中,提出一種字典學習方法,能提高對神經網路的解釋性。這項研究讓Anthropic更能監控模型,進而引導模型行為,提高企業使用AI的安全性和可靠性。

進一步來說,有別於在單一神經元中尋找規律,團隊擴大運用特徵(Feature)概念,藉由特徵對應到一群神經元活動模式的特性,來將複雜的神經網路,解構成更容易理解的單位。他們也在Transformer模型中,成功將一個含512個神經元的層,分解成超過4,000個特徵。同時,團隊還發展自動解釋方法,來驗證特徵的可解釋性。他們用大型語言模型來生成小模型的特徵描述,並以另一個模型來對描述評分,實驗結果也證實,特徵的得分高於神經元,也間接證明特徵的活躍和模型下游行為具一致性。(詳全文)

  自動駕駛     生成式AI     GAIA-1  

英新創擴大90億參數生成式AI模型,助自駕模型看見未來

今年6月,英國AI新創Wayve展開一項概念性驗證專案,要將生成式AI模型GAIA-1用於自動駕駛,這幾個月持續擴展,模型參數增加至90億個,能生成逼真的駕駛場景影片,呈現自動駕駛在各種情境的反應,並更好地預測未來事件。

GAIA-1可用不同模態的資料(如影片、文字和動作)來建立逼真駕駛場景影片,也能學習環境和未來動態表示,向自動駕駛模型提供一個結構化的環境理解,協助駕駛模型做出明智決策。GAIA-1的核心是世界模型(World model),是一個自迴歸Transformer,能預測序列中下一組圖像token;世界模型不只考慮過去的圖像token,還參照文字和動作token的上下文資訊。如此生成的這不只在視覺上連貫,也能和預期的文字、動作指引保持一致。

接著,影片解碼器開始運作,將這些圖像token轉換回像素空間,來生成語義一致的影片。GAIA-1的主要價值在於在自動駕駛中引入生成式世界模型概念,透過整合影片、文本和動作輸入,展示多模態學習在創建多樣化駕駛情境的潛力,並泛化至真實世界中,提高自駕車能力。(詳全文)

 

 

  PyTorch Edge     邊緣裝置     ExecuTorch  

PyTorch Edge新解決方案簡化邊緣裝置的AI推論

開源機器學習框架PyTorch Edge最近推出一款新解決方案ExecuTorch,獲蘋果、高通創新中心和Arm等科技巨頭支援,可實現跨行動裝置和邊緣裝置的模型推論工作。

進一步來說,ExecuTorch的目的是要解決裝置AI生態系碎片化的問題,其關鍵元件包含一個執行環境和輕量級操作登錄檔(Operator registry),範圍涵蓋PyTorch生態系中所有模型,可簡化PyTorch在裝置上執行的過程。ExecuTorch還有一個SDK和工具鏈,提供ML開發者直覺式的使用者體驗,能用來編寫、訓練模型和裝置授權,並整合在單一個PyTorch工作流程中。(詳全文)

  Google     搜尋     圖像生成  

Google在搜尋實驗室中新添AI生成圖像功能

Google日前在搜尋實驗室(Search Labs)中,新添了2項搜尋生成式體驗(SGE)功能,一是直接在搜尋列上執行生成圖像功能,二是請AI幫忙撰寫各種草稿。比如,使用者可在搜尋列上,輸入「請畫一張戴著廚師帽並正在做早餐的水豚圖像」,系統就會出現4張符合該描述的圖畫,隨便點選任何一張就能看到各自的描述,使用者也能編輯文字描述來修改圖畫。這些AI生成的圖像具有元資料標籤,並鑲有浮水印,Google還會封鎖違反使用政策的AI生成圖像,例如含有有害或誤導性內容。

另一個SGE功能則能用來協助撰寫各種草,比如撰寫邀請施工人員報價的草稿,還能要求SGE調整草稿的長度及語氣,再匯出至Google Docs或Gmail。搜尋實驗室是Google在今年5月發表的測試平臺,用來測試各種利用生成式AI並改善搜尋,不過,目前搜尋實驗室僅開放美國、印度與日本的少數用戶參與。(詳全文)

  Google Cloud     智財     生成式AI  

Google Cloud提供智財免責防護

為讓企業用戶安心使用AI服務,Google Cloud宣布提供AI免責防護,讓使用者不用擔心使用到版權內容而被告。今年8月,Google推出付費的Duet AI助理服務,並整合至生產力工具Workspace、雲端平臺Cloud Platform以及AI模型服務Vertex AI,企業可用Duet AI來生成所需內容,如行銷文案、廣告圖片或電子郵件等。

而最近推出的服務,則是要防止使用者可能遭遇的版權法律責任。新服務包含2部分,第1個與Google使用的訓練資料有關,第2部分則著重基礎模型的生成結果。首先,訓練資料的免責涵括所有Google用來打造其生成模型的資料集,當第三方單位宣稱客戶侵害了其智財權,責任全由Google承擔。第二部分則是當戶使用Google AI服務的輸出結果,被第三方單位宣稱侵害其版權時,責任歸屬在Google。(詳全文)

圖片來源/Docker、Anthropic、Wayve、Google

攝影/王若樸

  AI近期新聞 

1. OpenAI正式開放ChatGPT Bing網頁搜尋,公測DALLE-3

2. Adobe在旗下產品Photoshop和Preimere Elements新添20項AI功能

資料來源:iThome整理,2023年10月

熱門新聞

Advertisement