| LLM資安風險 | 提示注入 | 敏感資訊洩漏 | 錯誤資訊

【當心提示注入、敏感資訊洩漏、錯誤資訊等問題】已在真實世界發生的LLM資安風險

生成式AI不當使用出現實際案例！臺灣有北捷AI客服可代寫程式碼，國外有三星員工將內部資料上傳至公用服務，以及美國律師誤用AI虛構判例打官司，均具體呈現LLM在不同層面的潛在風險

2025-04-18

| WEF | 全球風險報告 | 網路間諜 | 假消息 | 錯誤資訊 | 社會兩極化 | 國家武裝衝突 | 地緣經濟對抗

2025年全球風險報告出爐，錯假訊息、網路間諜名列短期10大風險

世界經濟論壇（WEF）2025全球風險報告指出，以未來2年審視，全球十大風險主要有四個類型，在科技風險方面，錯誤資訊與假訊息名列第一大風險，網路間諜與戰爭位居第五大風險，而以未來10年來看全球重大風險，環境風險名列1到4名，科技風險位列第5、6、9名，不僅包含前面提到兩項，還有AI技術的不良後果

2025-01-25