★ 0 · 更新于 2026-09-22
用于部署生产级大语言模型的高性能服务框架,支持 OpenAI 兼容 API、模型量化与张量并行。
浏览产出该输出的技能列表。
★ 0 · 更新于 2026-09-22
用于部署生产级大语言模型的高性能服务框架,支持 OpenAI 兼容 API、模型量化与张量并行。
★ 57 · 更新于 2026-06-30
使用 Docker Compose 部署包含 Prometheus、Grafana 和 Node Exporter 的监控栈
★ 650 · 更新于 2026-03-20
为 Windsurf 集成设置包含指标、链路追踪和告警的综合可观测性