★ 22 · 更新于 2026-10-05
在 8 张 RTX PRO 6000 Blackwell GPU 上使用 Docker 和 vLLM 或 SGLang 部署并提供 INT4 QAT 或 NVFP4 量化的 Kimi-K2.6 服务。
浏览带有该标签的技能列表。
★ 22 · 更新于 2026-10-05
在 8 张 RTX PRO 6000 Blackwell GPU 上使用 Docker 和 vLLM 或 SGLang 部署并提供 INT4 QAT 或 NVFP4 量化的 Kimi-K2.6 服务。
★ 0 · 更新于 2026-10-03
使用 NVIDIA ModelOpt 量化扩散 DiT,将 FP8 或 NVFP4 导出结果适配到 SGLang Diffusion,并验证质量与性能。
★ 1 · 更新于 2026-09-24
提供使用集成 Megatron-LM 与 SGLang 的 slime 框架进行大模型强化学习后训练的指导与工作流。
★ 650 · 更新于 2026-05-11
面向大规模MoE模型的企业级强化学习训练框架,支持FP8/INT4精度训练