LogoClawIndex
案例技能关于
LogoClawIndex

unsloth-inference - 微调模型的优化推理部署

使用内核优化、vLLM或SGLang部署微调模型进行生产推理

标签

更新于: 2026-02-15
推理模型部署优化生产服务

能力

典型输入

典型输出

该技能可以做什么

  • 启用优化内核
  • 合并LoRA权重
  • 导出用于生产服务
  • 提供OpenAI兼容端点

输入

  • 微调模型
  • 分词器
  • LoRA权重

输出

  • 优化推理模型
  • 合并模型文件
  • API端点

要求

  • unsloth库
  • PyTorch
  • vLLM（可选）
  • SGLang（可选）

来源

  • 规范: SKILL.md

ClawIndex

OpenClaw Skills 与 Use Case 索引

ClawIndex 是一个生态驱动的 OpenClaw Skills 与真实 Use Case 索引站。

索引

Skills·
Cases

Meta

关于·
声明·
邮箱·
GitHub
© 2026 ClawIndex 保留所有权利。
启用优化内核
合并LoRA权重
导出用于生产服务
提供OpenAI兼容端点
微调模型
分词器
LoRA权重
优化推理模型
合并模型文件
API端点