vllm-ascend-model-adapter - 在昇腾NPU上适配vLLM模型
适配并调试Hugging Face或本地模型在昇腾NPU上运行vLLM
标签
更新于: 2026-05-11能力
典型输入
典型输出
该技能可以做什么
- 收集模型上下文
- 分析模型文件
- 实现模型适配器
- 添加模型处理器
- 注册架构
- 使用虚拟权重验证
- 使用真实权重验证
- 发送推理请求
- 生成测试配置
- 生成教程文档
- 回传代码更改
- 提交签名更改
输入
- 模型路径
- 模型配置文件
- 模型检查点文件
- Hugging Face模型
输出
- 签名提交
- 测试配置YAML
- 教程Markdown
- 分析报告
- 操作手册
要求
- 昇腾NPU硬件
- vLLM工作空间
- Git仓库
- 8000端口