2026 年 OWASP 法学硕士申请前 10 名
LLM 申请中关键安全风险的最终列表 - 反映 OWASP 2026 版本并于 2026 年 10 月进行审核
73%
AI 部署存在严重漏洞
(OWASP AI 安全状况,2025 年)
41%
企业AI具有未经身份验证的API
(CodeWall Research,2025)
Virtually 100%
LLM 部署中可利用的提示注入
(OWASP LLM Top 10,2025)
⚠
关键风险意识
提示注入仍然是排名第一的漏洞。 请参阅我们全面的提示注入指南 →
🔮
2026 年 OWASP LLM 前 10 名:发生了什么变化
2026 版本是有效标准。与 2025 年列表相比,它重新排列了前五名,并增加了代理和检索系统的覆盖范围:
- 上移:敏感信息披露 — 现在是 LLM02,反映凭证和提示泄漏是顶级丢失路径
- 上移:供应链漏洞 — 现在是LLM03,涵盖插件、模型中心和代理工具市场
- 更名为:数据和模型中毒 — 吸收了 LLM04 中旧的训练数据中毒,现在包括 RAG 语料库和代理内存
- 重命名:不正确的输出处理 — 以前是不安全的输出处理,现在是 LLM05,具有更清晰的下游接收器指导
- 新:系统提示漏电 — LLM07,一旦代理暴露其上下文,提示提取就会成为明显的风险
- 新:向量和嵌入的弱点 — LLM08,检索中毒和嵌入存储访问控制
- 新:错误信息 — LLM09,捏造的或无法验证的模型输出到达用户和系统
- 扩大:过度代理 — LLM06,扩展至涵盖 MCP 工具滥用和委托 OAuth 范围
LLM01
Critical
提示注入
通过精心设计的输入覆盖原始指令来操纵 LLM 行为。包括直接(用户输入)和间接(外部数据)注入。
攻击类型
- 直接注入:覆盖系统指令的恶意用户提示
- 间接注入:外部文档、Web 内容或 API 响应中的隐藏指令
- 上下文操纵:利用对话上下文来改变行为
- 越狱攻击:通过创造性提示绕过安全过滤器
攻击示例
Ignore previous instructions and...嵌入不可见 unicode 字符的文本通过网页内容中存储的XSS提示注入DAN (Do Anything Now) style jailbreaks
缓解策略
- 实施严格的输入验证和清理
- 在用户输入和系统提示之间使用权限分离
- 在显示结果之前应用输出过滤
- 日志中的注入模式监控
- 通过多个安全层实施深度防御
LLM02
Critical
敏感信息披露
法学硕士通过模型输出无意中泄露了私人、机密或专有信息。
攻击类型
- 训练数据提取:从模型内存中恢复敏感数据
- PII 泄漏:暴露个人身份信息
- API 密钥/凭证暴露:在响应中泄露秘密
- 业务逻辑披露:暴露专有算法或流程
攻击示例
通过特定提示提取电子邮件地址在错误消息中显示SQL凭据从训练数据中披露客户PII公开内部系统提示
缓解策略
- 实施强大的输入/输出过滤
- 执行数据清理管道
- 应用针对数据使用的用户选择退出策略
- 使用差异隐私技术
- 限制系统提示访问和可见性
LLM03
High
供应链漏洞
LLM 供应链中受损或易受攻击的组件,包括模型、API、插件和第三方服务。
攻击类型
- 模型篡改:受损的预训练模型
- PyPI/npm 依赖项漏洞:不安全的库
- 恶意微调数据:中毒的训练数据集
- 受损的 API 提供商:不受信任的 LLM 服务
攻击示例
来自不受信任来源的后门模型权重易受攻击的变压器库利用使用隐藏触发器中毒的训练数据受损的RAG文档存储
缓解策略
- 通过校验和和签名验证模型完整性
- 维护 SBOM(软件物料清单)
- 使用受信任的模型中心并验证出处
- 扫描已知漏洞的依赖关系
- 实施模型生命周期管理
LLM04
High
数据和模型中毒
将恶意或有偏见的数据引入训练管道、微调数据或 RAG 知识库,以损害模型完整性。
攻击类型
- 训练数据中毒:损坏模型训练数据
- 微调中毒:通过微调注入后门
- RAG 中毒:污染检索知识库
- 嵌入操纵:损坏向量数据库
攻击示例
插入有偏见的示例以改变模型行为在训练数据中创建后门触发器污染用于训练的公共数据集将虚假信息注入 RAG 文档
缓解策略
- 验证数据来源和供应链完整性
- 实施数据验证和异常检测
- 使用数据清理管道
- 应用强大的微调保护措施
- 监控模型行为漂移
LLM05
High
不正确的输出处理
在将 LLM 输出传递给下游系统或用户之前未能对其进行验证、清理或正确处理。
攻击类型
- 通过 LLM 输出的 XSS:根据模型响应进行跨站脚本编写
- SQL 注入:LLM 生成的恶意查询
- 命令注入:LLM 生成不安全的系统命令
- 路径遍历:LLM 泄露或访问未经授权的内容路径
攻击示例
LLM 生成在浏览器中执行的 JavaScript输出恶意 SQL 查询的模型代码生成,包括不安全的系统调用响应中的文件路径泄露
缓解策略
- 实施输出验证和清理
- 使用上下文感知内容过滤
- 应用与用户输入相同的安全控制
- 下游使用之前的沙箱 LLM 输出
- 在代码生成中启用安全编码模式
LLM06
High
过度代理
授予 LLM 系统过多的功能、自主权、权限,或启用未经授权或有害的操作。
攻击类型
- 无限功能访问:过多的API权限
- 自主操作:在未经人工批准的情况下执行操作
- 工具滥用:利用集成外部工具
- 思想链操纵:改变推理过程
攻击示例
具有管理API访问权限的LLM执行未经授权的更改自动执行金融交易在未经确认的情况下删除资源未经同意操纵用户数据
缓解策略
- 实施最小权限访问控制
- 需要人参与关键操作
- 对敏感操作应用速率限制
- 记录和监控所有自主操作
- 对工具访问使用范围限制
LLM07
Medium
系统提示泄漏
通过操纵或不充分的保护来暴露机密系统提示、指令或内部逻辑。
攻击类型
- 直接提示提取:通过社会工程来揭示提示
- 上下文溢出:暴露系统消息的溢出技术
- 角色扮演利用:诱骗 LLM 泄露指令
- 日志泄漏:在日志或错误中暴露提示
攻击示例
要求 LLM 重复“之前的文本”以提取系统提示使用上下文窗口溢出绕过指令解析提示注入以覆盖系统角色在应用程序日志中查找提示
缓解策略
- 尽可能模糊系统提示
- 实施提示隔离技术
- 对敏感指令使用单独处理
- 监视提示提取尝试
- 应用严格的日志过滤
LLM08
Medium
向量和嵌入弱点
检索增强生成 (RAG) 系统、向量数据库和嵌入管道中的安全漏洞。
攻击类型
- RAG 注入:检索到的文档中存在恶意内容
- 向量数据库妥协:攻击向量存储
- 嵌入提取:窃取嵌入表示
- 上下文操纵:破坏检索结果
攻击示例
中毒文档作为首要结果被检索矢量数据库未经授权的访问从嵌入中提取训练数据通过嵌入攻击进行检索操纵
缓解策略
- 验证和清理所有 RAG 输入文档
- 实施向量数据库访问控制
- 在可用的情况下使用嵌入加密
- 使用安全过滤器应用重新排名
- 监控异常的检索
LLM09
Medium
错误信息
法学硕士生成看似可信的虚假、误导性或有偏见的内容,导致基于不正确的信息做出明智的决策。
攻击类型
- 幻觉:自信但虚假输出
- 事实错误:作为事实呈现的信息不正确
- 偏见放大:强化现有偏见
- 操纵:故意误导性输出
攻击示例
引用不存在的研究论文提供不正确的医疗建议生成有偏见的招聘建议创建虚假新闻或评论
缓解策略
- 实施事实检查管道
- 使用置信度评分和不确定性估计
- 对关键输出应用源验证
- 添加内容来源和归属
- 清楚地标记 AI 生成的内容
LLM10
Medium
无限制消耗
允许 LLM 应用程序过度或不受控制地使用资源,导致拒绝服务、经济剥削或服务降级。
攻击类型
- API速率滥用:过多的API调用耗尽配额
- 资源耗尽:最大化计算资源
- 成本利用:按令牌付费滥用导致收费
- 推理攻击:通过过多查询提取模型
攻击示例
消耗整个API配额的自动攻击最大长度提示垃圾邮件导致计算耗尽通过数百万次查询提取模型递归提示循环消耗资源
缓解策略
- 实施严格的速率限制和配额
- 添加输入/输出令牌限制
- 监控异常的使用模式
- 使用成本控制和预算警报
- 对长时间运行的操作应用超时控制
OWASP测试框架
遵循此结构化方法来测试每个漏洞:
1。侦察
- 映射系统架构和数据流
- 识别输入点和API接口
- 记录集成工具和插件
- 查看系统提示和配置
2。漏洞映射
- 系统地测试每个 OWASP 类别
- 文档攻击面和入口点
- 确定适当的防御机制
- 映射依赖关系和第三方服务
3.利用
- 进行概念验证攻击
- 文档可利用性和影响
- 测试链多个漏洞
- 评估现实世界的攻击可行性
4.报告
- 按风险级别确定调查结果的优先级
- 提供补救建议
- 包含概念验证代码
- 建议防御性改进
官方资源
来源和统计
- OWASP 2025 年人工智能安全状况报告 - 73% 的组织存在严重的人工智能漏洞
- 瑞士网络安全 - AI 安全统计 2026 - 40 多个精选统计数据
- 2026 年 CrowdStrike 全球威胁报告 - AI 攻击增加 89%
- Darktrace AI 网络安全 2026 状态 - 对 1,500 多名安全领导者的调查
- IBM X-Force 威胁情报指数 2026 - 人工智能加速攻击
相关文章
AH
Frequently Asked Questions
OWASP LLM 前 10 名是什么?
OWASP LLM Top 10 是大型语言模型应用程序中最关键安全漏洞的共识列表,由 OWASP 社区维护。它涵盖了即时注入、不安全的输出处理、训练数据中毒、供应链漏洞等风险。
什么是即时注入(LLM01)?
即时注入是排名第一的 LLM 安全风险,攻击者通过恶意输入操纵 AI 模型来覆盖系统指令、提取敏感数据或绕过安全控制。它包括直接注入(通过用户提示)和间接注入(通过外部数据源)。
2026 年 OWASP LLM 前 10 名有何变化?
2026 年版本扩大了列表范围,涵盖代理和检索系统。敏感信息披露上升至 LLM02,供应链漏洞上升至 LLM03,数据和模型中毒上升至 LLM04。在 LLM05 中,不正确的输出处理取代了不安全的输出处理,并且出现了三个代理时代的类别:系统提示泄漏 (LLM07)、向量和嵌入弱点 (LLM08) 以及错误信息 (LLM09)。
如何防范 LLM 供应链漏洞?
通过以下方式防范 LLM 供应链风险:在使用前审查第三方模型和数据集、使用固定版本和哈希验证、监控 PyPI/npm/Hugging Face 中的恶意包、对 AI 依赖项实施软件组合分析,以及维护管道中所有 AI/ML 组件的库存。
人工智能部署中存在严重漏洞的百分比是多少?
根据 OWASP 的 AI 安全状况报告,73% 的 AI 部署存在严重漏洞。此外,41% 的企业 AI 系统具有未经身份验证的 API,几乎 100% 的 LLM 部署可通过提示注入进行利用。
什么是法学硕士中的敏感信息披露?
当法学硕士无意中泄露了其培训数据、系统提示或检索到的上下文中的机密数据时,就会发生敏感信息泄露。这可以通过精心设计的提示公开 API 密钥、内部业务逻辑、个人身份信息 (PII) 和专有算法。
如何保护 LLM API 的安全?
通过实施身份验证和速率限制、验证和清理所有输入、过滤敏感数据的输出、针对不同信任级别使用单独的端点、记录所有 API 交互以及避免在系统提示中包含敏感数据来保护 LLM API。