ml-security - 覆盖机器学习全生命周期的安全防护
通过威胁评估、鲁棒性测试、隐私保护、工件安全和合规控制来保护机器学习系统与流水线。
标签
更新于: 2026-10-08能力
典型输入
典型输出
该技能可以做什么
- 评估机器学习安全威胁
- 测试对抗鲁棒性
- 检测数据投毒
- 防御模型提取
- 防御模型反演
- 应用差分隐私
- 保护联邦学习
- 加密并签署模型
- 验证机器学习工件
- 保护机器学习供应链
- 验证机器学习 API 输入
- 检测并匿名化 PII
- 配置审计日志
- 加固模型服务
- 审计模型公平性
- 映射 OWASP ML 风险
- 映射 MITRE ATLAS 威胁
- 管理机器学习密钥
- 扫描依赖项
输入
- 机器学习系统
- 模型
- 训练数据集
- 模型工件
- 机器学习 API 端点
- 模型注册表
- 依赖项
- 合规要求
- 威胁模型
输出
- 安全评估发现
- 鲁棒性测试结果
- 隐私保护模型
- 已签署并验证的工件
- PII 检测结果
- 匿名化数据
- 审计日志
- 合规映射
- 加固后的服务配置
要求
- 访问机器学习系统和工件
- 访问相关数据集
- 模型注册表和 API 的操作权限
- 兼容的机器学习框架