| AWS | SageMaker | 機器學習 | 無伺服器 | 推理

AWS正式推出SageMaker無伺服器推理服務

用戶可以選擇以無伺服器的形式,將模型部署至SageMaker機器學習服務,在不需要配置伺服器的情況下執行模型推理

2022-04-24

| Nvidia | TensorRT | AI | 推理

Nvidia釋出TensorRT 8強化大型語言模型推理

最新的深度學習推理SDK TensorRT 8,能夠加速所有基於Transformer模型的對話人工智慧,把推理時間縮短到前一代的一半

2021-07-21