人工智能黑客
AI 安全资源

关于人工智能黑客

专为安全专业人员打造的综合 AI/LLM 安全资源中心。

我们的使命

人工智能黑客的存在是为了缩小人工智能安全教育的差距。随着人工智能系统深深嵌入关键基础设施中,攻击面不断扩大,但保护它们的资源仍然分散且过时。我们的目标是成为人工智能和信息安全领域工作人员的权威、最新资源。

我们同时介绍进攻和防守技术:如果不了解攻击者的想法,就无法建立有效的防御。每个指南都基于真实的 CVE、可重现的技术和当前的工具。

这个网站适合谁

安全研究人员

研究法学硕士、代理和人工智能基础设施中的新型攻击媒介。访问 CVE 数据库、可重复的概念验证和新兴威胁情报。

开发商

使用输入验证、输出过滤、提示强化和 API 安全的防御模式构建安全的 AI 应用程序。

渗透测试人员

将人工智能系统添加到您的评估范围中。使用我们的方法、清单和工具指南来有效评估 LLM 部署。

合规团队

了解从欧盟人工智能法案到 NIST AI RMF 的人工智能特定监管要求,并将其映射到可操作的安全控制措施。

我们涵盖的内容

提示注入

直接、间接、多转提示注射。越狱、编码攻击、系统提示提取、防御对策。

阅读指南 →

RAG 攻击

检索增强生成系统中的文档中毒、检索操纵、嵌入攻击和矢量数据库安全。

阅读指南 →

MCP 安全

模型上下文协议漏洞、服务器强化、工具中毒以及 2026 年发现的 60 多个 CVE。

阅读指南 →

红队

用于对抗性人工智能测试的结构化方法,从侦察到报告。包括工具和案例研究。

阅读指南 →

代理人工智能威胁

目标劫持、工具滥用、供应链攻击以及保护具有规划和执行能力的自主代理。

阅读指南 →

LLM API安全

LLM 支持的 API 的身份验证、速率限制、密钥管理、成本控制和输出验证。

阅读指南 →

内容新鲜度政策

内容大约每月刷新一次,每个页面都带有上次查看的日期,因此您可以判断它的最新程度。 CVE 数据库是从 NVD 提取的精选快照,而不是实时源,它显示上次刷新的日期 - 对于过去几天发布的任何内容,请直接检查 NVD。事件条目是在信息披露时写入的,因此事件发生和出现在此处之间有一两周的时间间隔是正常的。

  • 每周: CVE 综述、新工具添加、事件报告
  • 每月: 指南更新、方法修订、威胁态势摘要
  • 季刊: 主要指南修改、新功能页面、结构改进

团队

🛡️

Jan Hazenberg

维护者和创始人

荷兰 Odido 的高级设计师之声。 Jan 构建 AI Hacking 是为了解决缺乏集中式、以从业者为中心的 AI 安全资源的问题。他负责维护网站、策划内容并确保所有指南的准确性。

为什么这个网站存在

人工智能安全知识分散在研究论文、会议演讲和供应商博客中。 AI Hacking 将其整合到一个地方——结构化、可搜索且保持最新——因此您可以花更少的时间进行搜索,并将更多的时间用于保护安全。

方法论 → 工具 → 博客 →

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.