| AWS | SageMaker | 機器學習 | 無伺服器 | 推理
AWS正式推出SageMaker無伺服器推理服務
用戶可以選擇以無伺服器的形式,將模型部署至SageMaker機器學習服務,在不需要配置伺服器的情況下執行模型推理
2022-04-24
| Nvidia | TensorRT | AI | 推理
Nvidia釋出TensorRT 8強化大型語言模型推理
最新的深度學習推理SDK TensorRT 8,能夠加速所有基於Transformer模型的對話人工智慧,把推理時間縮短到前一代的一半
2021-07-21