★ 248,179 · 更新于 2026-03-19
在NVIDIA GPU上优化LLM推理,支持量化和多GPU扩展
浏览使用该输入的技能列表。
★ 248,179 · 更新于 2026-03-19
在NVIDIA GPU上优化LLM推理,支持量化和多GPU扩展
★ 2 · 更新于 2026-03-19
使用 NVIDIA TensorRT 优化 LLM 推理,在 NVIDIA GPU 上实现高吞吐、低延迟的生产部署。
★ 18 · 更新于 2026-02-15
使用优化内核、vLLM或SGLang部署微调模型进行生产推理