red-teaming-llms-with-garak - 使用 garak 对大语言模型进行红队测试
运行 NVIDIA garak 探测套件评估大模型端点安全,并分析命中率报告。
标签
更新于: 2026-09-24该技能可以做什么
- 枚举探测器与检测模块
- 配置目标大模型端点
- 运行安全探测套件
- 解读命中率报告日志
- 应用缓解措施后重新测试端点
输入
- 目标 LLM 端点
- API 密钥
- 书面测试授权
- YAML 或 JSON 配置文件
输出
- JSONL 评估报告文件
- HTML 评估报告文件
- 终端汇总输出
- 调试日志文件
- 漏洞命中日志文件
要求
- Python 3.10+
- garak 安装包
