gpu - Ollama GPU 监控
监控 Ollama 推理的 GPU 状态和性能指标
标签
更新于: 2026-05-28能力
典型输入
典型输出
该技能可以做什么
- 检查 GPU 状态
- 监控 VRAM 使用
- 查看已加载模型
- 测量推理性能
- 跟踪每秒令牌数
- 运行健康检查
- 基准测试模型
输入
- GPU 硬件
- Ollama 服务器 API
- GPU 监控工具
输出
- GPU 状态报告
- VRAM 使用数据
- 模型列表
- 性能指标
- 健康检查结果
要求
- 运行中的 Ollama 服务器
- GPU 硬件
- nvidia-smi 或 rocm-smi
- Python 子进程访问权限