概览
{
“overview_html”: ““AI 工作流轻量红队师”是一个专为 AI 自动化流程设计的独立技能工具，核心职责是对其进行轻量级的红队演练，重点识别潜在的误用路径、边界失效风险以及数据泄露隐患。该工具并非用于生成可直接执行攻击的脚本，而是专注于防御性分析，帮助用户提前发现并修复系统脆弱点。它适用于需要快速评估 AI 工作流安全性的场景，尤其关注输入输出处理逻辑、权限控制边界和敏感信息流转路径。通过结构化输出攻击面摘要、误用路径清单和演练建议，该工具为开发者和安全团队提供了一套可审计、可回滚的安全评估框架。所有输出均遵循最小权限原则，默认只读操作，确保不会引入新的安全风险。”,
“feature_items”: [
“聚焦误用路径与边界失败分析，识别 AI 工作流中的潜在滥用场景”,
“提供结构化安全评估报告，包括攻击面摘要、数据风险点和缓解建议”,
“支持本地资源调用（如 spec.json 和 template.md），在无执行环境时仍产出文本结果”,
“严格区分审阅版草案与可执行清单，优先输出非破坏性测试方案”,
“内置安全边界机制，禁止输出直接用于攻击或系统破坏的内容”
],
“scenarios_html”: “该工具特别适合在 AI 工作流上线前或迭代过程中进行快速安全验证。例如，当企业部署一个基于大模型的客服自动回复系统时，可通过此工具模拟恶意用户尝试绕过内容过滤机制、注入提示词以获取内部数据等行为，从而发现模型响应逻辑中的边界漏洞。另一个典型应用场景是数据处理管道的安全审查：若某工作流涉及从外部 API 拉取用户信息并自动生成报告，红队师可帮助识别未加密传输、过度权限授予等数据泄露风险。此外，在 CI/CD 流水线中集成该工具，可实现自动化安全检查，确保每次代码变更不会引入新的安全隐患。由于输出内容均为可审计的非执行建议，因此非常适合合规要求严格的金融、医疗等行业使用。”
}