人工智能黑客
AI 安全资源
🔄 Updated November 2026

2026 年代理应用程序 OWASP 前 10 名

自主人工智能代理和多步骤人工智能工作流程特有的安全风险

30+
60天内(2026年1月至2月)的MCP CVE
(安全研究)
36%
MCP 服务器缺乏身份验证
(Invariant Labs)
42,665
暴露于互联网的MCP 服务器
(安全扫描)
🤖

代理AI安全

与传统的法学硕士不同,代理人工智能系统跨工具和系统进行规划、决策、委托和行动。这会产生新的攻击面,需要专门的安全方法。 请参阅我们的MCP安全指南→

准备好测试了吗? 使用我们的 AI 渗透测试清单 用于涵盖目标劫持、工具滥用、过度代理、即时注入和供应链风险的测试用例。

Key insight: "At least 50% of the ten risks are directly mitigable at the API gateway layer" - Zuplo, 2026

ASI01

代理目标劫持

Critical

攻击者通过电子邮件、文档、RAG 数据或 Web 内容等输入中的恶意内容来操纵代理的目标、规划逻辑或决策路径。

攻击媒介
  • 通过中毒文档间接提示注入
  • 日历/会议邀请改变目标优先级
  • RAG 文档注入以重定向代理目标
  • 跨会话目标持久性操作
真实世界示例
  • 恶意电子邮件更改财务代理支出优先级
  • 注入代理上下文的有毒GitHub问题/PR内容
  • 会议邀请巧妙地更改代理任务层次结构
缓解策略
  • 实施提示防火墙以检测目标操纵
  • 在处理之前验证和清理所有外部内容
  • 使用目标边界强制和监控
  • 实施思路验证
ASI02

工具滥用和利用

Critical

合法工具或功能在其授予的权限内被滥用,导致未经授权的操作或数据访问。

攻击媒介
  • 通过数据库工具进行SQL注入
  • 文件系统访问未经授权的读/写
  • 通过授权集成滥用 API
  • 工具参数操纵
真实世界示例
  • 用于运行恶意命令的代码执行工具
  • 用于数据泄露的数据库工具
  • 用于访问敏感目录的文件系统工具
缓解策略
  • 实施严格的工具使用授权和审核日志
  • 执行前验证所有工具参数
  • 对工具权限应用最小权限
  • 使用沙盒执行环境
ASI03

身份和权限滥用

High

代理在没有适当范围的情况下继承或委托凭据,从而造成归因差距和特权升级风险。

攻击媒介
  • 没有适当范围的凭证委派
  • 人类和代理操作之间的角色混淆
  • 通过代理操作进行权限升级
  • 多代理系统中的身份欺骗
真实世界示例
  • 代理使用开发人员凭据进行生产更改
  • 代理操作在审核日志中显示为人类
  • 通过代理身份绕过多租户隔离
缓解策略
  • 实施特定于代理的身份和访问管理
  • 使用范围有限的短期代币
  • 将代理权限与人类凭据分开
  • 在所有代理操作日志中强制归因
ASI04

代理供应链漏洞

High

代理工具生态系统中受损或易受攻击的组件,包括恶意工具、插件和受损的代理框架。

攻击媒介
  • 将恶意工具注入代理工作流程
  • 受损的工具提供商或注册表
  • 带有后门的中毒工具定义
  • 编排层框架漏洞
真实世界示例
  • 代理依赖项中的特洛伊木马 npm/pypi 包
  • 具有数据泄露的恶意 MCP 服务器
  • 受损的LangGraph或类似框架
缓解策略
  • 通过签名和校验和验证工具完整性
  • 维护所有代理组件的SBOM
  • 使用受信任的注册表并验证工具来源
  • 扫描已知漏洞的依赖关系
ASI05

意外的代码执行

Critical

代理执行系统设计之外的代码或命令,导致远程代码执行漏洞。

攻击媒介
  • 无需适当沙箱的动态代码生成
  • 通过代理生成的调用进行命令注入
  • 代理工作流程中的不安全反序列化
  • 通过代理操作写入任意文件
真实世界示例
  • 生成和执行恶意 SQL 查询的代理
  • 运行攻击者有效负载的代码解释器工具
  • 注入代理输出的 Shell 命令
缓解策略
  • 沙箱所有代码执行环境
  • 对生成的代码实施严格的输入验证
  • 对允许的操作使用允许列表
  • 对执行应用超时和资源限制
ASI06

内存和上下文中毒

High

攻击者毒害代理的记忆、上下文或检索系统,以影响未来的行为或提取信息。

攻击媒介
  • 恶意嵌入毒害向量数据库
  • 目标漂移的RAG检索操作
  • 虚假数据的长期内存注入
  • 跨会话上下文污染
真实世界示例
  • 恶意文档在RAG结果中排名较高
  • 代理内存中存储的虚假信息
  • 矢量数据库注入改变检索行为
缓解策略
  • 在内存存储之前验证和清理所有数据
  • 利用安全信号实施检索排名
  • 对敏感内存内容使用加密
  • 监控内存是否存在异常修改
ASI07

不安全的代理间通信

Medium

代理之间的通信缺乏适当的安全控制,从而导致拦截、操纵或冒充。

攻击媒介
  • 代理通信中的消息拦截
  • 多代理系统中的代理模拟
  • 代理之间的消息篡改
  • 代理之间缺乏身份验证
真实世界示例
  • 一个代理冒充另一个代理绕过控制
  • 代理通信之间的中间人攻击
  • 代理工作流程中的消息重放攻击
缓解策略
  • 为代理通信实施双向 TLS
  • 在代理之间使用签名消息
  • 在所有通信中验证代理身份
  • 应用消息验证和完整性检查
ASI08

级联故障

Medium

一个代理、工具或组件的故障会在系统中传播,导致广泛的中断或安全漏洞。

攻击媒介
  • 代理编排中的单点故障
  • 暴露敏感数据的错误处理
  • 绕过安全控制的后备机制
  • 消耗资源的递归代理循环
真实世界示例
  • 验证失败,允许所有请求通过
  • 暴露系统提示的错误消息
  • 后备代理绕过审批工作流程
缓解策略
  • 为代理组件实施断路器
  • 设计优雅降级并保留安全性
  • 验证错误处理不会暴露敏感数据
  • 设置执行限制以防止无限循环
ASI09

人类代理信任利用

Medium

代理通过操纵、社会工程或将误导性信息呈现为事实来利用用户的信任。

攻击媒介
  • 将虚假信息呈现为可信事实
  • 通过说服性手段操纵用户输出
  • 隐藏不确定性或错误
  • 利用人类对代理输出的过度依赖
真实世界示例
  • 代理以高可信度伪造信息
  • 存在安全缺陷的代码呈现为安全
  • 向用户隐藏限制或错误
缓解策略
  • 实施不确定性量化和沟通
  • 高风险操作需要人工批准
  • 向代理输出添加置信度分数
  • 教育用户有关代理限制
ASI10

流氓代理

High

代理的操作超出了其预期范围、不适当地持续存在或跨会话或系统采取未经授权的操作。

攻击媒介
  • 代理在授权过期后继续执行任务
  • 未经授权的代理生成或复制
  • 跨用户会话持续存在的代理操作
  • 代理升级到管理级功能
真实世界示例
  • 用户注销后后台代理继续
  • 未经授权的代理访问其他用户数据
  • 任务完成后代理维护访问
缓解策略
  • 实施会话生命周期管理
  • 强制任务过期和清理
  • 监控未经授权的代理生成
  • 应用严格的终止条件

模型上下文协议 (MCP) 安全性

MCP 使 AI 助手能够连接到外部工具和数据源,从而引入新的安全考虑因素。

MCP 安全风险

  • 具有恶意功能的不受信任的 MCP 服务器
  • 通过 MCP 工具访问进行数据渗漏
  • 工具定义中毒
  • 授予 MCP 服务器过多的权限

MCP 安全最佳实践

  • 验证 MCP 服务器的真实性和来源
  • 对 MCP 工具权限应用最小权限
  • 审核所有 MCP 服务器通信
  • 对 MCP 服务器使用网络隔离

代理安全架构

第 1 层:输入验证

  • 提示防火墙进行目标劫持检测
  • 输入清理以防止注入
  • 速率限制以防止资源滥用
  • 外部数据的内容过滤

第2层:代理沙箱

  • 隔离的执行环境
  • 资源限制(CPU、内存、网络)
  • 网络分段
  • 容器化工具执行

第3层:工具授权

  • 细粒度的权限范围
  • 工具使用批准工作流程
  • 审核所有工具调用的日志记录
  • 限时工具访问

第 4 层:监控和响应

  • 实时代理行为监控
  • 代理操作的异常检测
  • 自动威胁响应
  • 全面的审核跟踪
AH
AI Hacking Team

The AI Hacking team researches and documents AI/LLM security vulnerabilities, red teaming techniques, and defensive strategies. Our guides are based on real-world pentesting experience and continuous monitoring of the AI security landscape.

Frequently Asked Questions

什么是代理劫持?
代理劫持 (ASI01) 是 OWASP Agentic Top 10 2026 中的最高风险。攻击者通过电子邮件、文档或 Web 内容等输入中的恶意内容来操纵代理的目标和计划逻辑。
什么是 OWASP Agentic Top 10?
2026 年 OWASP Top 10 代理应用程序是第一个识别自主 AI 代理中关键安全风险的综合框架,包括目标劫持、工具滥用、身份滥用和供应链漏洞。
如何保护 AI 代理免受目标劫持?
实施提示防火墙来检测目标操纵,在处理之前验证和清理所有外部内容,使用目标边界强制执行,并为代理决策实施思想链验证。
什么是代理人工智能中的工具滥用?
当合法工具或功能在其授予的权限内被利用以进行未经授权的操作时,就会发生工具滥用 (ASI02)。示例包括通过数据库工具进行 SQL 注入、文件系统滥用以及 AI 代理的 API 开发。

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.