graph-mode-internals - LMdeploy图模式架构解析解释图模式如何捕获和重放计算序列,涵盖运行器架构、缓冲区管理和供应商差异标签更新于: 2026-06-30图模式推理性能优化运行器缓冲层供应商能力捕获图重放图分配缓冲区填充缓冲区典型输入批大小图元数据模型典型输出隐藏状态令牌该技能可以做什么捕获图重放图分配缓冲区填充缓冲区更新上下文获取输出比较供应商输入批大小图元数据模型设备输出隐藏状态令牌要求CUDA支持NPU支持CUDA图运行器NPU图运行器来源规范: SKILL.md