AI安全风险暴露蚂蚁集团开源两款安全模型SingGuard

文章报道AI编程工具Claude Code存在安全风险，蚂蚁集团开源两款AI安全模型SingGuard和SingGuard-NSFA，分别覆盖内容安全与行为安全，为智能体时代的安全治理提供技术路径。

7月8日，工业和信息化部网络安全威胁和漏洞信息共享平台发布了一则风险提示：AI编程工具Claude Code存在安全后门隐患，危害严重。这款由美国Anthropic公司开发的工具，在2.1.91至2.1.196版本中内置了监控机制，未经用户同意即可向远程服务器回传用户地域、身份标识等敏感信息。溯源信息显示，早在6月底，开发者就已通过逆向工程发现了这套隐蔽的识别机制。

这已不仅是单一产品的安全问题，而是对全球AI供应链信任体系的拷问。这两年，AI应用已从相对单一的大模型聊天，演进到复杂的智能体应用——AI有了"手和脚"，能自己定计划、调工具、执行任务。据预测，到2026年底全球40%的企业应用将嵌入具备任务执行能力的AI智能体。当AI开发工具成为供应链核心环节，软件基础设施一旦被植入"后门"，风险不亚于芯片中的硬件漏洞。

正是在这样的背景下，蚂蚁集团AI安全实验室近日连续开源两款AI安全模型——面向多模态大模型的安全护栏SingGuard，以及面向智能体的行为安全护栏SingGuard-NSFA，分别覆盖内容安全与行为安全两大方向，进一步完善了AI安全技术布局。

从"说什么"到"做什么"，两款模型覆盖AI安全两大核心场景

如果说内容安全解决的是AI"说什么"的问题，那么行为安全解决的则是AI"做什么"的问题。

此次开源的SingGuard，主要面向多模态大模型服务场景，可对文本、图片以及图文组合内容进行统一安全判断。相比传统依赖关键词匹配或单一模态审核的方案，它能够识别跨模态攻击，例如攻击者将恶意指令隐藏在图片中，或通过文字与图片组合绕过安全规则等复杂场景。同时，SingGuard支持运行过程中动态加载新的自然语言安全规则，无需重新训练模型即可完成规则更新，更适用于规则持续演进、业务流量较大的生产环境。

公开评测结果显示，SingGuard在文本查询、文本回复、图像、多模态、多语言等六大类任务、35个公开数据集上的综合表现达到领先水平。

另一款开源模型SingGuard-NSFA，则聚焦智能体行为安全。随着AI开始自主调用工具、运行代码、规划任务，提示词注入、权限滥用、恶意代码执行、敏感数据泄露等行为风险不断增加，传统内容审核体系已难以覆盖。

针对这一挑战，SingGuard-NSFA基于CIA三元组（机密性、完整性、可用性）原则，结合OWASP等国际安全指南，构建了覆盖7大类、28个风险类别、185个具体风险场景的智能体安全分类体系，实现从用户请求到模型响应全过程的风险检测。

在工程能力方面，SingGuard-NSFA离线安全审计与在线实时防护，可根据不同场景提供不同工作模式，并同步发布0.8B、2B、4B、9B等多个模型版本，该模型兼顾部署效率与安全能力。公开评测显示，该模型在智能体输入和输出安全检测等任务中均取得领先表现，同时支持通过轻量模块持续扩展新的风险类型，无需重新训练整个模型。

放眼全球，同时开源覆盖"内容安全"和"智能体行为安全"两类护栏模型的企业并不多，Meta与蚂蚁是其中少数完成完整布局的代表。