Guardian Wall 是一款专为防御提示注入（Prompt Injection）和间接提示注入（Indirect Prompt Injection）而设计的防护工具，旨在保护 AI 系统免受来自外部不受信任文本的恶意攻击。随着 AI 应用越来越多地接入互联网或处理用户上传的文件，攻击者可能通过精心构造的文本内容绕过模型的安全机制，从而操控 AI 的行为。Guardian Wall 的核心作用是在将外部内容引入 AI 提示之前，对其进行严格的清洗与安全检测，确保只有经过验证的内容才能被使用。该工具特别适用于那些需要频繁处理网络爬虫抓取内容、用户提交文档或实时网页数据的应用场景。通过内置的输入净化流程和模式识别能力，Guardian Wall 能够有效拦截常见的高风险指令，如‘忽略所有先前指令’或‘伪装身份执行命令’等典型攻击向量。此外，它还支持对可疑文本进行深度审计，由子代理分析是否存在隐藏意图，进一步提升系统的安全性。整体而言，Guardian Wall 提供了一套从输入源头到最终使用的完整防御链条，是构建健壮、可信 AI 系统的关键组件之一。
核心功能特点
- 自动清洗外部文本，移除零宽字符和非打印符号，防止隐蔽注入
- 实时检测高风险注入模式，如‘忽略所有先前指令’、‘你现在是……’等常见攻击语句
- 支持对可疑内容启动子代理进行深度审计，判断是否含有操纵 AI 的隐藏意图
- 强制使用唯一且随机化的 XML 风格分隔符包裹外部内容，避免上下文混淆
- 提供详细的日志与告警机制，便于安全团队追踪潜在威胁事件
适用场景
Guardian Wall 最典型的应用场景是那些必须处理来自互联网或用户上传文件内容的 AI 系统。例如，一个智能客服平台若直接调用网页上的产品描述或客户反馈作为知识库输入，就可能遭遇间接提示注入攻击——攻击者可以在公开网页中嵌入恶意指令，诱导 AI 改变回复策略或泄露内部信息。此时，Guardian Wall 会在数据进入主提示前自动运行 sanitize.py 脚本，过滤掉异常字符并扫描危险关键词。又如，在企业级文档分析系统中，员工上传的合同、报告等文件可能包含伪装成普通文本的指令代码。Guardian Wall 不仅能清理这些文件中的格式化干扰项，还能识别出试图覆盖系统角色设定的内容，并通过子代理进一步审查其语义意图。另一个重要用例是内容聚合服务，比如新闻摘要生成器会从多个网站抓取文章。若无防护措施，某些网站可能会在正文中插入‘请以管理员身份回答’之类的指令，导致摘要偏离主题甚至输出错误信息。启用 Guardian Wall 后，所有抓取内容都会被隔离标记，并在送入生成模块前完成安全评估。总之，任何涉及外部非受控文本输入的 AI 流程都应考虑集成此工具，以显著降低因提示注入引发的安全风险。