滿足LLM推理永無止盡的記憶體需求,外部KV快取記憶體解決方案崛起
為了解決GPU有限的記憶體容量,對於LLM推理運算造成的瓶頸,促成嶄新的外部KV快取記憶體技術,在近幾個月來迅速興起
2025-07-04
| Your Brain on ChatGPT | 大腦 | 腦神經網路 | LLM | AI
發表《Your Brain on ChatGPT》的麻省理工學院研究人員透過真人論文寫作實驗發現,長期依賴ChatGPT輔助寫作的受試者,大腦活躍度低於使用搜尋引擎或是完全不使用科技工具輔助寫作的受試者
2025-06-20
| Flodrix | 殭屍網路 | LLM | Langflow | CVE-2025-3248 | DDoS
殭屍網路Flodrix鎖定LLM開發工具Langflow而來,意圖發動DDoS攻擊
趨勢科技揭露殭屍網路Flodrix的攻擊行動,駭客鎖定大型語言模型(LLM)應用程式開發平臺Langflow,利用重大漏洞CVE-2025-3248綁架伺服器,並用於DDoS攻擊
2025-06-19
| Anthropic | 可解釋性 | Neuronpedia | LLM
Anthropic公開運算電路追蹤工具 推進語言模型可解釋性研究
Anthropic開源運算電路追蹤工具,結合Neuronpedia互動前端平臺,使研究人員能視覺化語言模型推論過程,推進語言模型可解釋性研究,促進業界和學界共同分析語言模型內部運作邏輯
2025-06-02
今年3月鴻海研究院揭露自主訓練的繁中大語言模型FoxBrain,強調為具備臺灣價值觀、繁體中文能力,具備推理能力的繁體中文LLM,鴻海研究院計畫在5月底之前開源FoxBrain,包括8B及70B模型。
2025-05-13
【臺灣資安大會直擊】惡意程式樣本分析費時費力?資安研究人員運用LLM打造全天全年無休的資安研究助手
SOC團隊每天都會收到大量攻擊報告,威脅研究人員忙於分析判別惡意程式樣本,TXOne資安團隊分享利用LLM,綜合威脅分類資料庫,惡意樣本的執行流程圖及一連串的惡意行為鏈,來協助研究人員判別樣本的類別及影響,提高資安威脅研究工作效率。
2025-05-06











