LogoClawIndex
案例技能关于
LogoClawIndex

llama-cpp - llama.cpp 辅助本地LLM推理引擎

辅助本地LLM推理引擎，用于直接运行GGUF模型、加载LoRA适配器、基准测试和自定义模型服务

标签

更新于: 2026-03-10
推理LLMGGUFLoRA基准测试本地服务器

能力

运行GGUF推理加载LoRA适配器基准测试推理启动API服务器

典型输入

GGUF模型文件LoRA适配器Ollama模型名称

典型输出

推理文本时序统计API端点

该技能可以做什么

  • 运行GGUF推理
  • 加载LoRA适配器
  • 基准测试推理
  • 启动API服务器
  • 转换LoRA为GGUF
  • 解析模型路径
  • 生成嵌入向量

输入

  • GGUF模型文件
  • LoRA适配器
  • Ollama模型名称
  • 提示词文本
  • 量化类型

输出

  • 推理文本
  • 时序统计
  • API端点
  • 转换后的GGUF模型
  • 基准测试报告

要求

  • 安装llama.cpp
  • GGUF模型文件
  • Apple Silicon支持

来源

  • 规范: SKILL.md

ClawIndex

OpenClaw Skills 与 Use Case 索引

ClawIndex 是一个生态驱动的 OpenClaw Skills 与真实 Use Case 索引站。

索引

Skills·
Cases

Meta

关于·
声明·
邮箱·
GitHub
© 2026 ClawIndex 保留所有权利。