全球首个AI智能体安全测试标准发布 | 蚂蚁集团、清华大学联合研制

一、产品介绍：为智能体时代系上“安全带”🚨

世界数字科学院（WDTA）于2025年7月在联合国日内瓦总部正式发布全球首个《AI智能体运行安全测试标准》。该标准由蚂蚁集团、清华大学、中国电信主导，联合普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等20余家国际顶尖机构共同编制。

2025年被业界称为“智能体元年”，AI智能体凭借自主决策与深度执行能力，已渗透至金融诊断、医疗决策、工业流程等高敏感领域。然而调研显示，超70%从业者担忧AI幻觉、数据泄露等风险，超半数企业尚未设立安全负责人。此次标准发布，正是为解决智能体“狂奔”中的安全隐患，构建可落地的安全基准。

二、适用人群：谁需要立即关注？

三、核心功能：五链路风险框架与创新检测技术

1. 全链路风险分析框架（业界首创🌟）

首次将智能体运行拆解为五大核心链路，并与环境风险动态对应：

graph LR
A[输入输出] --> B[大模型] --> C[RAG] --> D[记忆模块] --> E[工具调用]

• 输入输出层：拦截恶意指令注入与敏感数据泄露
• RAG安全：验证知识检索的准确性，阻断幻觉传导
• 工具调用：监控API权限越界行为（如医疗设备误操作）

2. 三重创新检测技术

3. 全生命周期管理方案

与碎片化方案不同，AI STR标准提供从开发到部署的闭环管理：

• 数据治理阶段：训练数据偏见扫描
• 模型测试阶段：对抗样本压力测试
• 部署认证阶段：颁发WDTA安全认证标签

💡 案例：某银行智能投顾通过工具模糊测试，发现利率计算模块在极端参数下输出负值，避免千万级损失。

四、工具使用技巧：快速落地指南

1. 风险自检四步法

graph TB
S[启动] --> A[扫描输入输出过滤规则] --> B[验证RAG知识置信度] --> C[压力测试记忆模块] --> D[监控工具调用频次]

2. 金融场景重点项

• 输入输出层：强制启用金融术语校验器
• 工具调用层：设置双因子交易确认机制
• 记忆模块：自动擦除临时会话中的身份证号

3. 避免“认证陷阱”

• ✘ 仅测试常规参数（忽略长尾风险）
• ✔️ 采用混沌工程思维：主动注入混乱参数（如医疗场景模拟设备断网）

五、访问地址与生态进展

🔗 标准全文下载：WDTA官网-AI STR标准中心
🌍 当前落地领域：

• 金融：智能投顾安全认证
• 医疗：诊断助手风险测评
• 制造：工业机器人操作审计

蚂蚁集团杨小芳透露：“单智能体是治理的最小单元，多智能体协作安全才是未来摩天大楼”——下一步将开放多智能体冲突消解协议。

结语：安全是智能体时代的“地基工程”🏗️

当70%从业者在黑暗中摸索时，这份标准犹如一盏探照灯💡。它不仅定义了五链路风险地图，更用可落地的工具链将安全从口号变为代码。毕竟，真正的技术革命，从不是狂奔，而是稳步行稳致远。

pie
    title 企业安全现状调研
    “无明确安全负责人” ： 52%
    “担忧AI幻觉风险” ： 73%
    “已部署测试框架” ： 18%

数据来源：21世纪经济报道2025年行业调研