| GAIIP | 資料中心 | AI基礎設施 | 投資基金

微軟、BlackRock及MGX共組AI合作投資框架,以解決AI運算與能源問題

微軟與BlackRock及MGX合作成立AI基礎設施投資基金,Nvidia也將在其中扮演技術支援的角色

2024-09-18

| Llama 3 | Meta | 大語言模型 | AI基礎設施

【GPU是大型AI運算架構中最脆弱環節,自動化偵測與故障排除技術是確保維運關鍵】超大規模AI運算設施的維運挑戰

足夠的系統規模,只是執行Llama 3這類應用的必要門檻,而不能保證運算工作能順利進行,並獲得期望的成果,想要讓這類超大規模AI基礎設施充分發揮效益,還需要仔細的調校,並維持足夠的穩定性

2024-08-16

| Llama 3 | Meta | 大語言模型 | AI基礎設施

【2.4萬個GPU結合6千個CPU,打造當前全球最高規格AI運算環境】探索Meta Llama 3模型訓練的硬體基礎架構全貌

基於開放策略,Meta釋出當前炙手可熱的Llama 3大語言模型,也公開訓練這套模型的硬體基礎架構細節,使外界有機會瞭解這種超大規模AI運算設施的真實設置場景

2024-08-16