Vram-GPU-OOM - 多服务GPU显存共享管理
通过OOM重试和自动卸载管理多服务GPU显存共享
标签
更新于: 2026-03-23能力
典型输入
典型输出
该技能可以做什么
- 加载模型
- 捕获OOM错误
- 重试加载
- 清理GPU缓存
- 卸载模型
- 请求卸载模型
输入
- 模型路径
- GPU环境
- 服务配置
- 服务地址
输出
- 已加载模型
- 模型已卸载
- 卸载请求结果
- 服务状态
要求
- PyTorch
- GPU
- Python运行环境
通过OOM重试和自动卸载管理多服务GPU显存共享
标签
更新于: 2026-03-23能力
典型输入
典型输出