银行推动AI自主管理，问题责任归属如何界定？香港金管局制定新规

正文：

你可能已经见过银行内部的AI助手：询问理财产品信息时，它能迅速给出答案；上传证件照片后，它可自动完成信息验证。过去，这类生成式AI通常是“被动型工具”，没有指令时不会主动进行操作。然而，近年来，银行业正经历显著变化：越来越多的“自主执行任务”的智能体AI开始应用。

随着能力的提升，新的问题也随之而来。若AI在自主执行任务时出现错误，责任应由谁承担？它可以访问客户哪些私人数据？当系统出现异常时，是否能够立即停止？最近，香港金融管理局（以下简称“金管局”）正式推出的“ART”框架，系统性地回应了这些行业普遍关注的问题。

三项基本原则，为智能体AI提供了清晰的界限

ART是三个英文单词首字母的缩略：A代表Accountability（可问责），明确谁负责开发、审核、操作和监管AI系统；R代表Resilience（韧性），系统需保持稳定，即使出现故障也能安全运行并有效恢复；T则代表Trust（可信赖），强调公平性、透明度、可解释性和隐私保护。简单来说，就是三句话：责任明确、系统稳健、客户信赖。金管局副总裁阮国恒表示，AI从生成式向智能体转变，标志着银行业创新的“重要新阶段”；推出ART框架旨在维护信任与香港金融体系的稳定，同时充分发挥AI的效益。

作为ART框架的核心，金管局同时发布了新版《负责任应用人工智能的监管指引》，通过三大支柱和9项具体原则，替代了2019年版的《应用人工智能的高层次原则》，其中一些针对性规则直接触及智能体AI的监管难点。

首先，每个AI应用必须指定一个“负责人”，银行需为每项AI应用指派专责负责人（即业务主管），并制定一份经批准的AI用例清单并持续更新。这意味着AI不再是IT部门“偷偷上线”的工具，而需有明确的业务归属；

其次，监督方式的转变，从“人在环内”（human-in-the-loop）向“人在环上”（human-on-the-loop）演进。这意味着不需要每个步骤都进行人工干预，但必须有明确的问责机制和持续监控，这为银行大规模部署高自动化AI提供了更大灵活性，同时提高了监控能力的要求；

再次，针对最“自主”的智能体AI，指引提出“意图为本”（intent-anchored）的问责思路，银行必须明确该智能体的目标，并确保这一意图贯穿其设计、数据、可用工具及可执行行动的全过程。当其行为偏离预定目标并出现“失控智能体”（rogue agent）风险时，银行需迅速介入进行纠正，必要时启动“紧急中止”机制（即kill-switch）以暂停其运作；

最后，指引还提出“以AI对抗AI”的思路，虽然AI工具无法取代人工监管，但可以协助检测和应对AI风险，评估输出的准确性、稳定性、合规性和可解释性。此外，数据和第三方不能“推卸责任”，有效的模型验证依赖高质量数据，银行必须对所依赖的第三方AI供应商进行尽职审查，并保留最终责任，确保数据、合同和网络安全的保障。

监管并非减缓步伐，而是确保创新稳步前行

随着监管的到来，AI的应用是否会放缓？实际上情况可能正好相反。金管局对AI应用持开放态度，未设定一刀切的限制性门槛，明确鼓励银行探索AI技术重塑传统商业模式，新版指引也没有设定强制的统一实施期限，允许不同规模的银行根据自身情况逐步将新要求融入现有治理体系。

目前，香港银行业对这一框架的反馈普遍积极，香港银行公会公开表示，ART框架弥补了智能体时代的监管规则空白，为整个行业提供了清晰可操作的指导。有专家认为，AI自主能力越强，相应的责任边界就越需明确，清晰的问责安排反而会消除银行的顾虑，使其更有信心将AI从实验室带入日常服务，最终将“可信赖的AI”打造成香港金融服务的核心竞争优势。此外，银行也在加大投入，提前布局能力建设。汇丰透露其在香港的AI专才团队已达到150人，计划未来两到三年将团队规模再翻一倍。

开放框架的信心来源于扎实的测试积累。据移动支付网了解，香港金管局同步发布的还有第二期生成式AI沙盒的完整测试结果，20家银行与14家科技伙伴共同测试了27个用例，其中超过60%涉及智能体AI，且一半是多智能体应用场景；与第一期相比，类似用例以约30%更少的算力实现更复杂的输出，多模态AI用例占比翻倍。

从实际业务价值来看，智能体AI的效果已得到充分验证。专注于市场风险分析的AI智能体，将原本需要人力耗时数周的个案分析周期缩短了95%；面向新客户的AI欺诈侦测工具，减少了客户开户的等待时间约40%；而面向财富管理客户的智能聊天机器人，则获得了98%的用户正面反馈。

各参与银行也交出了各自的落地成果：汇丰测试了AI手语翻译和深伪（Deepfake）内容识别两项特色应用，前者帮助听障客户更顺畅地使用银行服务，后者能够精准识别AI伪造的证件和人脸图像，提前堵住新型欺诈漏洞；中银香港完成了“智能投资信息助理”和“AI语音客服”的技术验证，直接提升财富管理服务的响应效率；工银亚洲的智能数据查询机器人，将原本需要后台员工数小时的历史数据查询压缩至2分钟。

如今发布的ART指引仅是香港银行业智能体AI监管体系的起点。金管局已经预告，未来几周将公开讨论智能体AI治理监管框架，向全行业征集意见。

市场关注的三大议题包括：一是进一步细化“意图为本”的问责规则，将完整责任链条直接绑定到提出、批准及管理AI用途的具体部门和负责人；二是建立全行业的重要AI智能体中央登记册，将银行使用的智能体AI、底层大模型及第三方供应商信息统一登记，便于监管层全面掌握行业的操作和网络安全风险；三是完善全流程的介入追溯机制，确保智能体的每次操作、每项工具调用及每项决策结果都留下痕迹，随时可追溯核实和界定责任。

此外，金管局还将与数码港及香港大学合作，共同建设AI训练数据共享平台，以数据质量保障为核心设计原则，为全行业的AI训练和测试提供高质量的基础数据资源。

香港的ART框架巧妙之处在于，它并未简单规定“AI能做什么、不能做什么”，而是建立了一套让银行敢用、会用且可承受的制度基础——责任明确、系统稳健、客户信赖。在智能体AI即将大规模进入银行业的关键时刻，这种“先立规矩、再放行创新”的思路，或许是国际金融中心最具竞争力的开放姿态。

来源：移动支付网