LLM

Nvidia發布Chat with RTX應用程式，讓用戶利用檢索增強生成、TensorRT-LLM和RTX加速等技術，在本地端自訂人工智慧聊天機器人，以快速且安全地執行查詢

Google新釋出的localllm工具和函式庫，允許開發者利用本機或是任何具有足夠CPU資源的機器上，執行量化大型語言模型，藉由減少對GPU的依賴，簡化開發流程並降低開發成本

Google開發ASPIRE框架提升大型語言模型的選擇性預測與自我評估能力，有效提高問答任務的準確性

AI新創Anthropic發表由眾多科學家參與的研究報告，指出他們得以訓練出能夠躲過AI系統標準安全培訓的AI模型，並讓模型的欺騙性後門持續存在

DeepMind發展AutoRT、SARA-RT和RT-Trajectory等系統，提升機器人決策速度與環境理解能力，朝向更高效的機器人技術邁進

MosaicML研究發現，用更長的時間和更多資料訓練小參數模型，可突破LLM擴展法則；摩根大通發表懂圖文的輕量級多模態模型DocLLM；研究員開源28億參數多模態小模型TinyGPT-V；金管會發布金融業運用AI指引草案；蘋果公布多模態AI模型Ferret

去年生成式AI大爆發，3大公雲業者也紛紛祭出LLMOps工具，如支援提示工程、RAG、模型自動評比，更預告將在今年亮相更多新工具

蘋果用2種技術，讓行動裝置也有辦法執行原本DRAM無法負荷的LLM應用；Google用LLM打造影片生成模型VideoPoet；微軟Azure AI再添新模型，Phi-2小語言模型也上架；瞄準GAI需求，Google要打造端到雲全套工具鏈