Nvidia推出最新通用GPU L4，Google雲端率先推出搭載L4的G2 VM

Nvidia新一代通用L4 Tensor Core GPU是T4 GPU的後繼者，適用於影片、視覺計算、圖形、虛擬化、生成人工智慧等廣泛應用，L4可達T4 GPU 2.7倍的生成式人工智慧效能，圖形效能上升達4倍，人工智慧影片工作管線更可支援即時運算，特別的是，由於L4新增FP8支援，因此能夠更好地執行機器學習推理運算。

L4 GPU採用第4代張量核心的Ada Lovelace架構，以及第3代RT核心，擁有高達24 GB GDDR6的顯示卡記憶體，支援Shader execution reordering技術，能夠改善著色效能，同時也支援包括AV1解編碼等圖像和影片硬體加速處理引擎。

在FP32精度效能可達30 TFLOPS，在FP16精度下，更能擁有高達運算能力242 TFLOPs，而且L4 GPU除了INT8、BFLOAT16和TF32精度之外，還新增支援FP8，使得L4 GPU更適合執行機器學習推理工作負載。

L4 GPU的各項效能都高於T4 GPU數倍，除了生成式人工智慧效能的執行效能提升至2.7倍之外，由於第3代RT核心以及人工智慧加持的DLSS 3，L4能夠勝任圖形密集運算工作，在Omniverse、雲端遊戲和虛擬工作站上，可以提供4倍於T4的圖形效能，甚至可以用於即時計算電影品質的場景。

新GPU在影音處理上也馬力十足，搭載L4 GPU的伺服器能夠以720p30的解析度，同時支撐超過1,000個AV1影片串流，此外，L4 GPU還可以將多種解析度和格式串流傳輸至多個平臺，進而支援在社交媒體平臺等更多頻道上的影片播放。

而在Nvidia推出L4 GPU的同時，Google也發布首款採用L4 GPU的虛擬機器G2，Google提到，從A10G GPU切換使用L4 GPU，基礎設施的成本可下降達40％，而從L4 GPU切換至T4 GPU，則可獲得2到4倍的效能提升。Google最佳化Vertex AI對G2虛擬機器的支援，供用戶使用最新的生成式人工智慧模型和技術，而無序額外調校。