smart-security 是一款专为大型语言模型（LLM）设计的高级提示注入防御系统，旨在应对 OWASP LLM Top 10 2026 中定义的最前沿攻击向量。该系统通过多层纵深防御架构，在输入、上下文加载、工具调用和输出返回等关键节点实施全面安全校验，确保 AI 代理在处理用户指令时不会被恶意绕过或操控。其核心设计理念是‘零信任’——所有外部输入均视为潜在威胁，必须经过严格验证才能进入后续处理流程。系统不依赖单一关键词过滤，而是结合黑名单匹配、语义相似度分析、多模态内容检测与编码规避识别等多种技术手段，实现对复杂社会工程攻击的有效拦截。同时，smart-security 强调本地化处理原则，默认状态下所有安全判断均在本地完成，仅支持可选的 webhook 告警机制，最大限度保障数据隐私与合规性。
核心功能特点
- 多层级实时防护：涵盖输入预处理、内存完整性检查、工具调用前验证及输出后净化四个关键阶段
- 动态安全评分机制：根据行为风险自动调整系统敏感度，从正常模式到紧急锁定状态无缝切换
- 智能威胁识别：支持黑名单模式匹配、语义相似度分析与多语言变种攻击检测
- 多模态内容审查：可解析图像、PDF 和音频中的隐藏元数据与隐写式指令载荷
- 本地优先架构：默认无外联网络请求，所有日志记录于本地文件，仅允许手动配置外部告警通道
- 符合 OWASP LLM Top 10 2026 标准：针对性防御提示注入、记忆投毒、系统配置泄露等高发高危漏洞
适用场景
smart-security 特别适用于需要高安全性保障的 AI 代理部署场景，尤其是在处理敏感业务逻辑或涉及自动化决策的关键系统中。例如，在企业内部部署的智能客服、代码生成助手或数据分析机器人中，该工具可有效防止用户通过精心构造的自然语言指令试图窃取模型身份信息、篡改运行策略或执行未授权的系统操作。对于采用 RAG（检索增强生成）架构的应用而言，它能显著降低外部文档被恶意污染后导致响应失真的风险，通过对加载文档进行哈希校验与内容扫描，确保知识库来源纯净可靠。此外，在面向公众开放的多轮对话场景中，如教育辅导类 AI 或创意写作助手，smart-security 的动态评分与渐进式封锁机制可在不影响用户体验的前提下，快速识别并隔离异常行为，避免因一次恶意试探引发连锁性系统失控。无论是金融、医疗还是政府领域的智能化应用，只要存在模型可能被滥用或数据泄露的风险，该防御系统都提供了必要的纵深防护能力。