2026 年代理应用程序 OWASP 前 10 名
自主人工智能代理和多步骤人工智能工作流程特有的安全风险
代理AI安全
与传统的法学硕士不同,代理人工智能系统跨工具和系统进行规划、决策、委托和行动。这会产生新的攻击面,需要专门的安全方法。 请参阅我们的MCP安全指南→
准备好测试了吗? 使用我们的 AI 渗透测试清单 用于涵盖目标劫持、工具滥用、过度代理、即时注入和供应链风险的测试用例。
Key insight: "At least 50% of the ten risks are directly mitigable at the API gateway layer" - Zuplo, 2026
代理目标劫持
攻击者通过电子邮件、文档、RAG 数据或 Web 内容等输入中的恶意内容来操纵代理的目标、规划逻辑或决策路径。
攻击媒介
- 通过中毒文档间接提示注入
- 日历/会议邀请改变目标优先级
- RAG 文档注入以重定向代理目标
- 跨会话目标持久性操作
真实世界示例
- 恶意电子邮件更改财务代理支出优先级
- 注入代理上下文的有毒GitHub问题/PR内容
- 会议邀请巧妙地更改代理任务层次结构
缓解策略
- 实施提示防火墙以检测目标操纵
- 在处理之前验证和清理所有外部内容
- 使用目标边界强制和监控
- 实施思路验证
工具滥用和利用
合法工具或功能在其授予的权限内被滥用,导致未经授权的操作或数据访问。
攻击媒介
- 通过数据库工具进行SQL注入
- 文件系统访问未经授权的读/写
- 通过授权集成滥用 API
- 工具参数操纵
真实世界示例
- 用于运行恶意命令的代码执行工具
- 用于数据泄露的数据库工具
- 用于访问敏感目录的文件系统工具
缓解策略
- 实施严格的工具使用授权和审核日志
- 执行前验证所有工具参数
- 对工具权限应用最小权限
- 使用沙盒执行环境
身份和权限滥用
代理在没有适当范围的情况下继承或委托凭据,从而造成归因差距和特权升级风险。
攻击媒介
- 没有适当范围的凭证委派
- 人类和代理操作之间的角色混淆
- 通过代理操作进行权限升级
- 多代理系统中的身份欺骗
真实世界示例
- 代理使用开发人员凭据进行生产更改
- 代理操作在审核日志中显示为人类
- 通过代理身份绕过多租户隔离
缓解策略
- 实施特定于代理的身份和访问管理
- 使用范围有限的短期代币
- 将代理权限与人类凭据分开
- 在所有代理操作日志中强制归因
代理供应链漏洞
代理工具生态系统中受损或易受攻击的组件,包括恶意工具、插件和受损的代理框架。
攻击媒介
- 将恶意工具注入代理工作流程
- 受损的工具提供商或注册表
- 带有后门的中毒工具定义
- 编排层框架漏洞
真实世界示例
- 代理依赖项中的特洛伊木马 npm/pypi 包
- 具有数据泄露的恶意 MCP 服务器
- 受损的LangGraph或类似框架
缓解策略
- 通过签名和校验和验证工具完整性
- 维护所有代理组件的SBOM
- 使用受信任的注册表并验证工具来源
- 扫描已知漏洞的依赖关系
意外的代码执行
代理执行系统设计之外的代码或命令,导致远程代码执行漏洞。
攻击媒介
- 无需适当沙箱的动态代码生成
- 通过代理生成的调用进行命令注入
- 代理工作流程中的不安全反序列化
- 通过代理操作写入任意文件
真实世界示例
- 生成和执行恶意 SQL 查询的代理
- 运行攻击者有效负载的代码解释器工具
- 注入代理输出的 Shell 命令
缓解策略
- 沙箱所有代码执行环境
- 对生成的代码实施严格的输入验证
- 对允许的操作使用允许列表
- 对执行应用超时和资源限制
内存和上下文中毒
攻击者毒害代理的记忆、上下文或检索系统,以影响未来的行为或提取信息。
攻击媒介
- 恶意嵌入毒害向量数据库
- 目标漂移的RAG检索操作
- 虚假数据的长期内存注入
- 跨会话上下文污染
真实世界示例
- 恶意文档在RAG结果中排名较高
- 代理内存中存储的虚假信息
- 矢量数据库注入改变检索行为
缓解策略
- 在内存存储之前验证和清理所有数据
- 利用安全信号实施检索排名
- 对敏感内存内容使用加密
- 监控内存是否存在异常修改
不安全的代理间通信
代理之间的通信缺乏适当的安全控制,从而导致拦截、操纵或冒充。
攻击媒介
- 代理通信中的消息拦截
- 多代理系统中的代理模拟
- 代理之间的消息篡改
- 代理之间缺乏身份验证
真实世界示例
- 一个代理冒充另一个代理绕过控制
- 代理通信之间的中间人攻击
- 代理工作流程中的消息重放攻击
缓解策略
- 为代理通信实施双向 TLS
- 在代理之间使用签名消息
- 在所有通信中验证代理身份
- 应用消息验证和完整性检查
级联故障
一个代理、工具或组件的故障会在系统中传播,导致广泛的中断或安全漏洞。
攻击媒介
- 代理编排中的单点故障
- 暴露敏感数据的错误处理
- 绕过安全控制的后备机制
- 消耗资源的递归代理循环
真实世界示例
- 验证失败,允许所有请求通过
- 暴露系统提示的错误消息
- 后备代理绕过审批工作流程
缓解策略
- 为代理组件实施断路器
- 设计优雅降级并保留安全性
- 验证错误处理不会暴露敏感数据
- 设置执行限制以防止无限循环
人类代理信任利用
代理通过操纵、社会工程或将误导性信息呈现为事实来利用用户的信任。
攻击媒介
- 将虚假信息呈现为可信事实
- 通过说服性手段操纵用户输出
- 隐藏不确定性或错误
- 利用人类对代理输出的过度依赖
真实世界示例
- 代理以高可信度伪造信息
- 存在安全缺陷的代码呈现为安全
- 向用户隐藏限制或错误
缓解策略
- 实施不确定性量化和沟通
- 高风险操作需要人工批准
- 向代理输出添加置信度分数
- 教育用户有关代理限制
流氓代理
代理的操作超出了其预期范围、不适当地持续存在或跨会话或系统采取未经授权的操作。
攻击媒介
- 代理在授权过期后继续执行任务
- 未经授权的代理生成或复制
- 跨用户会话持续存在的代理操作
- 代理升级到管理级功能
真实世界示例
- 用户注销后后台代理继续
- 未经授权的代理访问其他用户数据
- 任务完成后代理维护访问
缓解策略
- 实施会话生命周期管理
- 强制任务过期和清理
- 监控未经授权的代理生成
- 应用严格的终止条件
模型上下文协议 (MCP) 安全性
MCP 使 AI 助手能够连接到外部工具和数据源,从而引入新的安全考虑因素。
MCP 安全风险
- 具有恶意功能的不受信任的 MCP 服务器
- 通过 MCP 工具访问进行数据渗漏
- 工具定义中毒
- 授予 MCP 服务器过多的权限
MCP 安全最佳实践
- 验证 MCP 服务器的真实性和来源
- 对 MCP 工具权限应用最小权限
- 审核所有 MCP 服务器通信
- 对 MCP 服务器使用网络隔离
代理安全架构
第 1 层:输入验证
- 提示防火墙进行目标劫持检测
- 输入清理以防止注入
- 速率限制以防止资源滥用
- 外部数据的内容过滤
第2层:代理沙箱
- 隔离的执行环境
- 资源限制(CPU、内存、网络)
- 网络分段
- 容器化工具执行
第3层:工具授权
- 细粒度的权限范围
- 工具使用批准工作流程
- 审核所有工具调用的日志记录
- 限时工具访问
第 4 层:监控和响应
- 实时代理行为监控
- 代理操作的异常检测
- 自动威胁响应
- 全面的审核跟踪