未来智造局｜新威胁需要新防御 AI智能体安全范式亟待重构

新华财经上海9月12日电（记者 高少华）当前，人工智能正经历一场从“工具理性”向“主体智能”的历史性跃迁。AI Agent不再仅仅是被动响应指令的算法模型，而是演变为具备自主感知、跨域决策、独立行动能力的数字新物种。它们深度嵌入经济社会运行肌理，在重塑生产力范式的同时，也带来一系列前所未有的治理挑战。

在近日举行的2026 Inclusion外滩大会“智能体时代的安全坐标与责任边界”见解论坛上，与会专家表示，当人工智能从“会说话”走向“会执行、能办事”，智能体安全不再是单纯技术问题，而是关乎国家数字安全屏障与全球数字治理格局的战略议题，传统安全范式亟待重构。

智能体应用爆发 风险隐患凸显

今年以来智能体的落地速度远超预期。蚂蚁集团资深副总裁周志峰透露，蚂蚁集团有三万多位员工，但在办公环境和生产环境中活跃运行的智能体已经有近十万个，人均三个智能体。“在整个智能体进入我们的生产系统之后，我们面临的挑战前所未有。”

这种挑战首先来自安全底层逻辑的颠覆。蚂蚁集团副总裁兼首席技术安全官韦韬表示，传统网络安全体系建立在两大基础假设之上：一是软件代码固定、行为可预测；二是系统操作者为人类，操作行为可识别、可管控。而在智能体时代，这两大假设彻底失效，智能体行为动态生成、实时多变，没有固定运行逻辑；系统操作者不再只有人类，大量智能体参与交互，导致安全责任界定复杂。

更令人担忧的是自然语言驱动智能体的本源缺陷。韦韬表示，自然语言承载不了复合逻辑与任务边界，自然语言指令中明确禁止的行为，智能体实测仍会执行约80%；自然语言指令存在无规则跳转问题，违背结构化编程逻辑，彻底破坏了软件安全的底层管控基础。

攻击侧的变化更是加剧风险防范难度。据杭州电子科技大学副校长、浙江大学区块链与数据安全全国重点实验室常务副主任任奎介绍，从AI发现漏洞到开始端到端的攻击部署最快只需要27秒，而高危漏洞平均修复周期却很长；45.4%的漏洞一年都修不完，许多机构认为AI漏洞增长是最快的风险。“攻击以秒计、修复以月计，发现、告警、人工处置模式已经走到了尽头。”

网信机构专家认为，智能体暴露出来一系列全新风险。智能体为大模型提供了工具调度、行为代理能力，将大模型的作用范围从信息世界扩展到了物理世界。“与常规生成式大模型相比，智能体风险暴露面显著扩大，一旦发生风险对终端安全、用户隐私、系统安全破坏力也将同步增长。”该专家表示。

另外在周志峰看来，“认知内的风险，我们可以用技术创新和资源投入去解答；现在感到胆战心惊的，是有些风险在人们认知之外。”传统互联网时代的安全范式已经无法适应AI的迭代速度，行业需要重新定义安全范式。

智能体安全标准建设加快步伐

面对智能体带来的全新安全挑战，全球主要经济体已形成各具特色的治理路径。业界专家介绍，新加坡、欧盟、美国、英国已经形成四条有代表性的治理路径：新加坡出台专门治理框架，欧盟依托现有立法监管，美国以技术标准为主要抓手，英国采取多监管机构协作模式。尽管立法模式和监管强度不同，但各方共识已经形成，监管重心由模型输出内容转向系统行为，普遍落实最小权限原则，在高风险场景设置人工干预环节，并否定智能体自主决策的免责效力。

在相关标准建设上，我国已出台多份政策文件搭建起智能体领域制度规则的基本框架。今年5月份，国家网信办、国家发展改革委、工信部联合印发《智能体规范应用与创新发展实施意见》，首次对智能体作出明确定义，确立安全可控、规范有序、创新驱动、应用牵引四项原则，要求把安全可信作为发展底线，贯穿技术研发、应用部署和推广全流程，并建立行为可追溯机制。

国内各界正在积极推动智能体安全标准建设。论坛上，《智能体身份鉴别与授权技术框架》《智能体运行时安全技术要求》两项团体标准启动研制，均已通过中国网络空间安全协会立项。前者搭建智能体全景认知层、动态权限管控层与多网关纵深鉴权层；后者聚焦全链路无损观测、意图行为关联分析、纵深跃迁式布防与分层检测架构。

一位来自国内电子信息领域标准研究的专家表示，智能体应用安全基本要求已作为强制性国家标准加快推进，智能体部署使用安全指引、人工智能安全护栏技术要求、数据处理安全要求等标准同步推进，其中安全护栏标准重点关注执行链路，校验智能体执行链路是否符合预设。

“以 AI 对抗 AI”，责任要锚定人与企业

加强智能体风险防范已经成为业界共识，各界正在积极采取应对措施。技术层面，防御逻辑正在从“人海战术”转向“用AI对抗AI”。任奎介绍，其团队构建了漏洞发现、验证、管控、防护的攻防闭环：AI持续审计攻击面、验证风险，威胁情报实时接入，全量监控流量与设备，“漏洞不一定来得及修，系统先自动防护，分钟级闭环，业务不中断”。该系统已在正式环境运行500多天，累计拦截超过 100万次。

蚂蚁集团也重构了智能体安全治理逻辑。蚂蚁集团智能体安全负责人朱传群表示，将安全治理重心从传统的资源访问管控、人员权限约束，升级为智能体主体全维度治理，形成“独立可信数字身份、双层权限管控、全链路意图行为治理、动态最小权限授权”的智能体安全治理闭环。

AI智能体是新型生产力，安全本质是全流程风险管控。智能体引发的行为归责、主体确权等法理难题，是构建长效治理机制无法回避的核心命题。在业界专家看来，智能体本身不具备承担责任的能力，责任认定遵循谁建设谁负责、谁运营谁负责，需要端到端溯源。

在管控思路上，浙江大学数智融合研究实验室主任韩蒙提出三层管控框架：在红线合规层，遵守法律、行业强制性标准；在企业内控层，法律无强制要求的场景下，企业自主设置风控规则，重要决策采用人机联合审核；在业务对接层，协同业务部门，避免AI策略变更带来业务损失。

面向未来，蚂蚁集团大安全副总裁、信息安全事业部总经理王宇表示，企业安全团队要吃透AI底层原理，用AI能力保护AI；建立敏捷机制，提前预判新型风险，应对突发风险。上海第五空间信息科技研究院理事长朱易翔认为，当前行业还处于技术混沌期，漏洞生成速度快于修复速度；未来会出现智能体之间直接交互、使用人类不可读数据的场景，这方面也需要提前预设预案。

“安全不是业务瓶颈，而是创新底座。”在专家看来，AI智能体安全不只是技术问题，还涉及管理、法律、伦理。在风险防范方面，需要通过场景分级、权限管控、全流程审计、熔断机制、清晰主体责任等举措，实现智能向善、安全与产业效率平衡。

编辑：李一帆

声明：新华财经（中国金融信息网）为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。如有问题，请联系客服：400-6123115