网商银行申请发明专利：针对大模型Skill的投毒检测技术

正文：

在8月25日，浙江网商银行公布了一项正在申请的发明专利，题为“一种大模型Skill投毒检测方法及相关设备”，该申请于2026年5月25日提交，涵盖计算机技术领域。

根据摘要，该方法包括对目标描述文件进行解析，提取其意图信息，并构建意图模型。目标描述文件是待检测的大模型的描述文件；在人工智能交互环境中执行目标Skill，追踪其实际行为轨迹，其中目标Skill至少包括一个待检测的大模型Skill；随后对实际行为轨迹和意图模型进行语义层面的行为比对，以获得一致性评估结果；最后，基于该评估结果，确定目标Skill的投毒风险等级。

该发明背景在于，随着大模型Skill在各类人工智能平台上的普遍应用，恶意Skill可能通过与声明的意图不符的实际操作进行投毒攻击。目前的技术，如静态代码分析、动态沙箱监控或行为模式库匹配，仅能识别代码层面或已知模式的异常，无法理解Skill在AI交互环境中的语义行为，也无法判断实际行为是否符合声明的意图，因此存在漏报和误报的风险。

该发明通过意图行为一致性验证识别未知的投毒行为，实现了大模型Skill投毒风险的自动化评估，涵盖了传统方法无法识别的语义级攻击，突破了模式匹配的局限，提升了检测的覆盖范围与准确性与效率。

值得注意的是，Skill是AI领域中的一个通用术语，通常可以翻译为技能、智能体技能、技能包等，指的是AI系统或其组件具备的、能够执行特定任务或工作流的可识别能力单元。该能力单元由提供者设计、封装并置于其控制之下，其部署与使用需符合预期目标、风险管理责任及透明度要求，可能构成高风险AI系统分类与合规评估的技术依据。简而言之，它是一种模块化、可移植、自包含的能力封装单元，由结构化元数据、程序化指令及可选执行资源构成，用于向AI代理注入特定领域的专业知识与可重复的工作流，支持按需加载、版本控制及跨平台复用。

来源：移动支付网