vllm-ascend-model-adapter - 适配模型在昇腾NPU上运行vLLM
适配Hugging Face或本地模型在vllm-ascend上运行，代码改动最小化
标签
更新于: 2026-05-11能力
典型输入
典型输出
该技能可以做什么
- 分析模型架构
- 检查模型文件
- 实现模型适配器
- 添加模型处理器
- 注册模型支持
- 映射模型权重
- 验证虚拟权重
- 验证真实权重
- 启动vllm服务
- 发送推理请求
- 验证多模态特性
- 生成测试配置
- 创建教程文档
- 回传代码更改
- 创建签名提交
输入
- 模型路径
- 配置文件
- 处理器文件
- 模型文件
- 分词器文件
- 模型检查点
- vllm-workspace目录
- 当前git仓库
- Docker环境
输出
- 签名git提交
- 测试配置YAML
- 教程markdown
- 教程索引更新
- 分析报告
- 运行手册
- 特性状态矩阵
- 提交哈希
要求
- Docker环境
- Git仓库
- vllm-workspace安装
- 昇腾NPU硬件
- OpenAI兼容API