sglang-diffusion-modelopt-quant - 量化并验证 ModelOpt 扩散模型检查点
使用 NVIDIA ModelOpt 量化扩散 DiT，将 FP8 或 NVFP4 导出结果适配到 SGLang Diffusion，并验证质量与性能。
标签
更新于: 2026-10-03能力
典型输入
典型输出
该技能可以做什么
- 使用 ModelOpt 量化扩散 DiT
- 将 FP8 导出结果转换为 SGLang 格式
- 构建 NVFP4 Transformer 检查点
- 验证轨迹相似度
- 基准测试量化性能
- 更新支持矩阵文档
输入
- 扩散模型检查点
- 量化格式
- 校准提示词文件
- 校准设置
- 基线运行配置
- 模型组件路径
- 输出目录
- 基准测试命令
输出
- 量化后的 ModelOpt 检查点
- 可由 SGLang 加载的 Transformer 检查点
- BF16 与量化结果的质量验证结果
- 性能基准测试结果
- 更新后的量化支持矩阵
要求
- NVIDIA ModelOpt
- SGLang Diffusion 环境
- 官方 ModelOpt 量化脚本
- 经过验证的 SGLang 辅助工具
- 已记录支持的模型系列