蚂蚁集团开源两款AI安全模型，涵盖智能体与多模态安全领域

正文：

在7月13日，蚂蚁AI安全实验室宣布开源其智能体安全防护模型SingGuard-NSFA，并同时发布了多模态安全防护模型SingGuard的详细信息。这两款模型分别针对“自主执行的智能体”和“多模态交互的大模型”两个前沿场景，进一步彰显了蚂蚁在AI安全领域的系统化布局。

随着AI技术从内容生成逐步转向自主执行，安全问题的范畴也从模型输出扩展到行为控制、权限管理和系统治理等多个方面。智能体如今能够自主调用工具、运行代码以及规划任务，同时模型对图像和文本等多模态信息的理解能力也在提升。这些能力的扩展为AI系统带来了新的安全挑战。

在过去的一年中，诸如提示词注入、权限滥用、恶意代码执行和数据泄露等安全事件频繁发生。从Amazon Q的提示词投毒、Microsoft Copilot的数据泄露事件，到开源智能体OpenClaw所暴露的提示词注入风险，均显示出智能体自主性的增强与安全风险的加剧之间的显著关联。2025年12月，OWASP发布了《智能体应用安全十大风险》，系统性梳理了智能体所面临的独特安全威胁；而在2026年5月，国家网信办、国家发展改革委与工业和信息化部联合发布了《智能体规范应用与创新发展实施意见》，首次从国家层面提出了对智能体安全治理的明确要求。

在此背景下，蚂蚁AI安全实验室推出的这两款开源安全模型，旨在为大模型和智能体提供更为全面的底层安全解决方案。

SingGuard-NSFA：为智能体操作提供“实时刹车”功能

随着智能体从“回答问题”向“自主执行任务”逐步演变，AI开始能够调用工具、执行代码和编排多步任务，安全风险不再仅限于内容层面，而更多体现在行为层面。提示词注入、敏感信息窃取、恶意代码执行、资源耗尽和权限滥用等问题，传统内容审核系统难以全面覆盖。

针对这一挑战，蚂蚁AI安全实验室推出了SingGuard-NSFA，能够在智能体执行动作前进行实时安全检测，构建起从请求拦截到响应兜底的全面行为安全防护体系。

SingGuard-NSFA遵循CIA（保密性、完整性、可用性）原则，并结合OWASP等国际安全指南，将智能体风险细分为七大类、28个中类和185个具体场景，建立了覆盖133种语言和近10万条样本的智能体安全评测体系。

在技术实现上，SingGuard-NSFA兼顾安全审计与实时防护的双重需求。它提供两种工作模式：一种模式生成详细的风险分析报告，便于事后审查和合规记录；另一种模式则在约50毫秒内完成单次风险判定，适合高并发的线上场景进行实时拦截。该模型还提供了0.8B、2B、4B和9B四种规模，以满足不同的部署需求。

多项公开评测显示，SingGuard-NSFA在智能体输入和输出的安全检测中表现优异。其中，0.8B模型的性能已可与8B模型相媲美，新增风险类别时只需训练轻量模块，无需重新训练整个模型，进一步提升现有安全防护的检测能力。

SingGuard：多模态内容安全的“全面守卫”

与智能体操作安全并行的另一道防线是多模态交互场景下的内容安全。今年6月，Anthropic发布了其旗舰模型Claude Fable 5，几天内便被研究者通过Unicode字符和西里尔字母替换敏感词绕过了安全防护——虽然模型能够还原原意，但分类器却将其视为陌生拼写，导致系统提示词被泄露。这一现象表明，模型越是能够理解变形文字、图片及跨模态信息，传统的关键词识别式护栏便越显乏力。

因此，SingGuard应运而生，作为专为此设计的多模态安全防护工具。它建立了统一的安全判断框架，面向文本、图片及跨模态内容，能够识别攻击者将恶意行为隐藏在不同模态中的复杂攻击。同时，SingGuard支持在运行时动态加载自然语言安全规则，无需重新训练模型即可完成规则更新，更适合于规则持续演进和业务流量较大的生产环境。

在推理机制上，SingGuard采用“快慢结合”的模式：首先快速完成初步判断，面对复杂场景时再进行深入推理，从而在保证效率的同时提升检测准确率。

在涵盖文本查询、文本回复、图像、多模态和多语言的六大类评测中，SingGuard在35个数据集及评测切分中的平均F1成绩均为最高。与Llama Guard 3、谷歌ShieldGemma、GPT-5.1、Gemini3-Pro等业内领先护栏相比，SingGuard均展现出全面的领先优势。

中国信通院人工智能研究所安全治理部副主任呼娜英指出，随着大模型从内容生成逐步转向自主执行，AI安全正从内容审核延伸至行为管控和系统治理，成为智能体规模化应用的重要基础能力。蚂蚁AI安全实验室已针对开源智能体框架OpenClaw进行专项安全审计，并于今年4月联合清华大学推出开源智能体安全防御插件ClawAegis，为自主智能体提供覆盖全生命周期的安全保护能力。此次SingGuard-NSFA与SingGuard多模态安全护栏的相继开源，标志着蚂蚁集团持续推进AI安全技术研发和开放生态建设的重要实践。

这些安全技术的研发与开源，建立在蚂蚁集团20余年的安全技术积累之上。依托在支付安全、数据安全、隐私保护和风险治理等领域的长期实践，蚂蚁不断完善其AI安全体系，这些能力已在蚂蚁阿福、AI版支付宝“阿宝”以及支付宝“AI付”等业务场景中得到应用。

与此同时，蚂蚁集团还积极参与AI安全标准与治理体系的建设，参与了IIFAA《终端智能体可信互联技术规范》的制定，牵头ITU国际标准《终端智能体可信互联技术规范》的立项，并发布了智能体安全可信互连协议ASL，持续推动AI安全能力从技术创新转向产业实践。

来源：移动支付网