★ 0 · 更新于 2026-09-22
用于部署生产级大语言模型的高性能服务框架,支持 OpenAI 兼容 API、模型量化与张量并行。
浏览带有该标签的技能列表。
★ 0 · 更新于 2026-09-22
用于部署生产级大语言模型的高性能服务框架,支持 OpenAI 兼容 API、模型量化与张量并行。
★ 1 · 更新于 2026-06-30
大语言模型强化学习训练库
★ 4 · 更新于 2026-05-28
分析模型代码和部署配置,识别 KServe 推理服务的 CPU/GPU 优化机会
★ 0 · 更新于 2026-05-11
适配并调试Hugging Face或本地模型在昇腾NPU上运行vLLM
★ 0 · 更新于 2026-05-11
适配和调试模型在Ascend NPU上运行vLLM
★ 57 · 更新于 2026-05-11
为 vLLM 在 Ascend NPU 上适配和调试模型
★ 2,882 · 更新于 2026-05-11
适配和调试 Hugging Face 或本地模型以在 vLLM-Ascend 上运行,进行最小化修改和确定性验证
★ 602 · 更新于 2026-03-26
使用Unsloth通过4-bit量化和LoRA微调大语言模型