中国信通院启动“智能体行为安全护栏”首轮评测

随着AI智能体在政务、金融、工业、办公等领域规模化落地，智能体凭借自主推理、工具调用、多轮交互、跨系统协同能力持续释放价值。但在应用深化过程中，权限范围溢出、工具越权调用、自主行为失控、身份伪造欺骗、跨隔离域渗透、审计日志规避等新型安全风险持续凸显，阻碍智能体安全合规规模化落地。

中国信息通信研究院人工智能研究所（以下简称“中国信通院人工智能所”）现正式启动首轮智能体行为安全护栏评测工作，诚邀各相关单位报名参加！

为规范智能体行为安全防护建设，筑牢智能体应用落地安全防线，中国信通院人工智能所依托人工智能产业发展联盟（AIIA）安全治理委员会，联合产学研用多方单位编制《智能体行为安全护栏技术要求》技术规范。本规范围绕智能体任务执行全流程行为管控，以权限可收敛、行为可约束、风险可拦截、操作可追溯为核心原则，建立覆盖智能体全任务链路的行为安全防护框架，为智能体应用研发、行业落地、第三方测评提供统一技术依据。

评测根据《智能体行为安全护栏技术要求》技术规范针对不同自治能力智能体做出的安全护栏能力要求开展评测：基础要求作为安全底线，检验输入输出安全、推理决策风险防控以及策略管理、审计溯源等基础能力；静态安全要求聚焦单次工具调用、指令执行等行为风险拦截；动态安全要求针对长时序复杂任务，识别多步骤联动、渐进式逃逸等隐性风险；一致性安全要求核验用户意图、决策规划与实际行为的匹配度，防范高阶对抗逃逸风险。针对不同防护力度的智能体行为安全护栏，可适配开展差异化测评。

● 强化企业合规风控，规避业务落地风险。

评测帮助企业排查智能体行为管控环节安全短板，对齐安全底线，降低越权操作、行为逃逸带来的合规与业务中断风险。

● 优化防护技术架构，提升行为管控能力。

评测定位护栏建设短板，推动企业补齐从基础防护到高阶行为风险识别的能力，保障复杂任务场景下智能体运行稳定可控。

● 降低安全运营成本，减少安全事件损失。

依托统一标准减少无效安全投入，提前识别潜在风险，降低安全事件处置与故障修复成本。

● 强化品牌信任，提升市场竞争底气。

通过权威评测可验证智能体行为安全防护实力，增强政企客户与合作伙伴信心，助力智能体在高安全要求行业拓展落地。

请有意向参评的企业于2026年10月30日前确定评测意向并通过以下联系方式反馈。报名成功后，预计在3个月内完成“商务确认、评测对接、开展评测、专家评审、证书发放、评测宣传”全流程。

1、商务确认：参评企业于2026年10月30日前确定评测意向，并签署商务合同；

2、评测对接：提供测试用例于咨询答疑，便于参评企业内部评估与测试准备；

3、开展评测：对参评企业进行现场或远程测试，并引导企业完成整改；

4、专家评审：评价是否通过测评出具检验报告；

5、证书发放：向通过测评的企业颁发证书；

6、评测宣传：通过线上渠道和线下场合宣贯。

黑一鸣  15313308941（同微信）

邵彦华  18801157976（同微信）

郭  健  18940047983（同微信）