| Mistral AI | 大型語言模型 | Mistral Large | 聊天機器人 | Le Chat

Mistral AI發表Mistral Large模型及Le Chat聊天機器人,企圖與OpenAI較勁

Mistral AI聲稱Mistral Large模型提供一流的推論能力,可支援複雜且多語言的推論任務,在許多常用基準測試的表現上,贏過Gemini Pro 1.0、Meta LLaMA 2 70B等模型,僅次於OpenAI的GPT 4

2024-02-27

| PyRIT | 紅隊 | 演練 | AI | 大型語言模型 | LLM | 微軟

微軟開源可用來偵測生成式AI模型風險的紅隊工具PyRIT

微軟釋出大型語言模型專用的紅隊演練工具PyRIT,可自動化模型風險辨識程序,偵測出惡意程式生成、越獄或是資料竊盜等模型濫用行為

2024-02-26

| 國家級駭客 | 大型語言模型 | LLM | OpenAI | ChatGPT

微軟與OpenAI證實大型語言模型已被各國駭客用來協助網路攻擊行動

針對中國、伊朗、北韓濫用ChatGPT服務尋找程式碼漏洞與生成網釣內容的行為,微軟與OpenAI將透過禁用帳號、終止服務等方式,將與駭客組織有關的用戶列入黑名單

2024-02-15

| google | LLM | CPU | localllm | Cloud Workstations | 大型語言模型

Google推localllm命令列工具,支援本機CPU執行大型語言模型

Google新釋出的localllm工具和函式庫,允許開發者利用本機或是任何具有足夠CPU資源的機器上,執行量化大型語言模型,藉由減少對GPU的依賴,簡化開發流程並降低開發成本

2024-02-08

| 大型語言模型 | LLM | 生成式AI | AI監管 | 金管會 | 金融業運用AI核心原則 | AI系統生命周期 | AI評測中心

【2024 IT十大趨勢 7】AI監管浪潮捲進臺灣,產業指引將形塑未來1年臺灣企業的AI發展架構

生成式AI遍地開花,也強化了AI監管風氣。去年底,金管會開出產業主管機關第一槍,發布金融業AI運用指引草案,率先將AI系統的4大生命周期納入公平性、透明性和可解釋性等原則內

2024-01-05

| GAI | LLMOps | 生成式AI | 大型語言模型 | LLM

【2024 IT十大趨勢 5】雲端巨頭大推各類GAI工具,LLMOps工具鏈成形加速更多AI場景應用落地

去年生成式AI大爆發,3大公雲業者也紛紛祭出LLMOps工具,如支援提示工程、RAG、模型自動評比,更預告將在今年亮相更多新工具

2024-01-05

| Hugging Face | API漏洞 | LLM | 大型語言模型 | 供應鏈攻擊

Hugging Face API漏洞洩露驗證令牌,可讓攻擊者存取微軟、Meta、Google的AI模型

資安廠商Lasso Security發現AI模型資源平臺Hugging Face的API漏洞,讓該公司研究人員得以控制Meta Llama 2等熱門模型的程式碼儲存庫,也可能讓攻擊者透過污染訓練資料集等手法發動供應鏈攻擊

2023-12-05

| 台智雲 | 福爾摩沙大模型 | 大型語言模型

【本土LLM成果:台智雲福爾摩沙大模型】靠3種平行化技術提高訓練效率,加速繁中LLM產品化

平行化運算是訓練LLM不可或缺的關鍵。台智雲在2022年下半年展開研究,以資料平行化、張量平行化和工作流程平行化來打造福爾摩沙系列模型

2023-12-01

| 大型語言模型 | 繁中 | LLM | 國科會 | TAIDE | 國網中心 | AI超級電腦 | 臺灣杉 | 張朝亮

【LLM關鍵基礎建設:算力】因應大模型訓練需求,國網中心算力明年大擴充

算力9 PFLOPS的臺灣杉2號,今年因應TAIDE計畫擴充了4.8 PFLOPS。國網中心計畫,明年再增加16 PFLOPS算力,來因應更多AI大模型訓練需求

2023-12-01

| 大型語言模型 | 繁中 | LLM | 國科會 | TAIDE

【本土LLM:國科會TAIDE】打造臺版LLM供企業和公部門免費使用,還要開源繁中資料集

國科會以開源LLM為基礎,3步驟訓練出了懂臺灣用語的TAIDE模型,也將開源釋出給企業和公部門使用。對臺灣AI的長期發展更關鍵的下一步是建置繁中資料集

2023-12-01

| 大型語言模型 | 繁中 | LLM | 國科會 | TAIDE | 國網中心 | AI超級電腦

【一年從無到有,臺灣生成式AI發展下一步如何擴大?】臺灣發展LLM的4大挑戰

過去1年來,LLM成為各行各業甚至是國家秀AI力的亮點。臺灣產官學界都有LLM建置經驗,從他們的經驗,也看見不少臺灣長期發展的挑戰

2023-12-01

| 台灣大哥大 | 智能客服 | 嵌入式模型 | 大型語言模型 | LLM

【企業LLM實戰:台灣大哥大】全體動員嘗試LLM,2大流程讓客服AI回答更準也更豐富

智能客服是台灣大嚐鮮LLM應用的重點,先用LLM作為客服大腦,後來發現,嵌入式模型搭配知識點,採取前後臺不同作業流程的效果更好

2023-12-01