关于人工智能黑客
专为安全专业人员打造的综合 AI/LLM 安全资源中心。
我们的使命
人工智能黑客的存在是为了缩小人工智能安全教育的差距。随着人工智能系统深深嵌入关键基础设施中,攻击面不断扩大,但保护它们的资源仍然分散且过时。我们的目标是成为人工智能和信息安全领域工作人员的权威、最新资源。
我们同时介绍进攻和防守技术:如果不了解攻击者的想法,就无法建立有效的防御。每个指南都基于真实的 CVE、可重现的技术和当前的工具。
这个网站适合谁
安全研究人员
研究法学硕士、代理和人工智能基础设施中的新型攻击媒介。访问 CVE 数据库、可重复的概念验证和新兴威胁情报。
开发商
使用输入验证、输出过滤、提示强化和 API 安全的防御模式构建安全的 AI 应用程序。
渗透测试人员
将人工智能系统添加到您的评估范围中。使用我们的方法、清单和工具指南来有效评估 LLM 部署。
合规团队
了解从欧盟人工智能法案到 NIST AI RMF 的人工智能特定监管要求,并将其映射到可操作的安全控制措施。
我们涵盖的内容
内容新鲜度政策
内容大约每月刷新一次,每个页面都带有上次查看的日期,因此您可以判断它的最新程度。 CVE 数据库是从 NVD 提取的精选快照,而不是实时源,它显示上次刷新的日期 - 对于过去几天发布的任何内容,请直接检查 NVD。事件条目是在信息披露时写入的,因此事件发生和出现在此处之间有一两周的时间间隔是正常的。
- 每周: CVE 综述、新工具添加、事件报告
- 每月: 指南更新、方法修订、威胁态势摘要
- 季刊: 主要指南修改、新功能页面、结构改进
团队
Jan Hazenberg
维护者和创始人
荷兰 Odido 的高级设计师之声。 Jan 构建 AI Hacking 是为了解决缺乏集中式、以从业者为中心的 AI 安全资源的问题。他负责维护网站、策划内容并确保所有指南的准确性。