★ 18 · 更新于 2026-03-10
辅助本地LLM推理引擎,用于直接运行GGUF模型、加载LoRA适配器、基准测试和自定义模型服务
浏览使用该输入的技能列表。
★ 18 · 更新于 2026-03-10
辅助本地LLM推理引擎,用于直接运行GGUF模型、加载LoRA适配器、基准测试和自定义模型服务
★ 18 · 更新于 2026-02-15
使用优化内核、vLLM或SGLang部署微调模型进行生产推理
★ 650 · 更新于 2026-02-14
使用优化内核和服务引擎部署微调模型进行生产推理