gpu - Ollama GPU监控
监控Ollama的GPU使用率、显存、加载的模型和推理性能指标
标签
更新于: 2026-05-28能力
典型输入
典型输出
该技能可以做什么
- 检查GPU状态
- 监控显存使用
- 列出已加载模型
- 测量推理指标
- 跟踪GPU利用率
- 基准测试模型性能
输入
- Ollama API端点
- nvidia-smi工具
- rocm-smi工具
输出
- GPU状态报告
- 显存使用数据
- 已加载模型列表
- 推理性能指标
- GPU利用率读数
要求
- NVIDIA或AMD GPU
- Ollama服务器
- GPU驱动已安装