Nvidia
Nvidia執行長黃仁勳本周稍早在CES 2025演說以及在Techcrunch訪談中指出,該公司AI運算能力的進展速度,已經超越摩爾定律。
摩爾定律(Moore's Law)是由英特爾創始人之一的Gordon Moore,在1965年首先提出對晶片製造的預測。該定律後來也經過調整,不過大致是指,積體電路的電晶體元件每18到24個月會成長一倍。隨著電晶體愈來愈小,使得翻倍的難度及成本愈來愈高,摩爾定律已經漸漸不適用,但仍然是資訊產業的重要指標。
同樣的,AI在經過近幾年的發展,也被部分人士質疑發展速度減緩。但是黃仁勳駁斥AI進展速度減緩,並說AI運算速度有自己的成長法則,是超摩爾定律(Hyper Moore’s Law)。原因是,由於Nvidia同時自建架構、晶片、函式庫和演算法,就可以超越摩爾定律。他在去年11月就提出了這個說法。
黃仁勳說現在AI有3個擴展法則,分別是預訓練(pre-training,以大量資料讓AI模型學習)、後訓練(post-training,微調),及測試時運算(test-time compute,推論期間,讓AI模型在回答前有更多時間思考)。
黃仁勳指出,該公司最新AI晶片GB200 NVL72比上一代H100運算速度快30倍。拉長時間來看,該公司AI晶片和10年前相比,更是快了1,000倍,並沒有減緩跡象。
一如摩爾定律藉由推升運算速度降低運算成本,黃仁勳相信,AI速度也愈來愈快,因而也能壓低推論成本。
OpenAI最新具思考能力的AI模型o3執行每次任務就要近20美元,但ChatGPT Plus訂閱費每月也才收20美元,令執行長Sam Altman哀怨用戶用太兇,害它虧很大。因此,黃仁勳相信,像OpenAI o3的模型推論成本長時間會下降。因為具思考能力的AI模型可創造更好的資料於AI預訓練及後訓練使用,進而加速AI模型運算效能。
熱門新聞
2025-01-06
2025-01-07
2025-01-08
2025-01-08
2025-01-06