| Llama 3 | Meta | 大語言模型 | AI基礎設施

【GPU是大型AI運算架構中最脆弱環節,自動化偵測與故障排除技術是確保維運關鍵】超大規模AI運算設施的維運挑戰

足夠的系統規模,只是執行Llama 3這類應用的必要門檻,而不能保證運算工作能順利進行,並獲得期望的成果,想要讓這類超大規模AI基礎設施充分發揮效益,還需要仔細的調校,並維持足夠的穩定性

2024-08-16

| Llama 3 | Meta | 大語言模型 | AI基礎設施

【2.4萬個GPU結合6千個CPU,打造當前全球最高規格AI運算環境】探索Meta Llama 3模型訓練的硬體基礎架構全貌

基於開放策略,Meta釋出當前炙手可熱的Llama 3大語言模型,也公開訓練這套模型的硬體基礎架構細節,使外界有機會瞭解這種超大規模AI運算設施的真實設置場景

2024-08-16

| 隱私強化技術 | 數位部 | 數位發展部 | 開放資料 | Open Data | moda | PETs | 資料分享 | 差分隱私 | 合成資料 | 大語言模型 | 生成式AI | 生成對抗網路 | LLM | GAN | 資料驅動治理

【moda專欄】隱私強化技術:平衡資料保護與資料應用

有哪些隱私強化技術可以幫助我們產生與原始資料特徵相似,但不洩漏隱私資訊的資料集,進而替代原始資料的釋出及運用,讓參與的各利害關係人,都能安心無負擔的進行資料分析

2024-05-25