人工智能黑客
AI 安全资源

AI安全自我评估

评估您组织的人工智能安全态势

🔍

评估指南

诚实地回答以识别真正的安全漏洞

您测试的任何人工智能系统(包括您不拥有的第三方模型和 MCP 服务器)是否有书面、明确的授权?

治理

笔记: 测试前检查地区法规(GDPR、AI 法案)和合同义务。

您是否对模型和代理接触的数据进行了分类,并从测试环境中排除了生产个人数据?

治理

笔记: 真实客户数据未经测试的暂存副本仍然是受监管的数据。

您是否将模型输入视为不可信,并且在指令与检索或用户提供的内容之间有记录的边界?

提示注入

笔记: 这是 OWASP LLM01。大多数真正的违规行为都是从这里开始的。

模型输出是否在每个下游接收器处被视为不受信任的数据,而不是直接传递到 shell、SQL 或模板?

提示注入

笔记: OWASP LLM05:输出处理不当。

您的 MCP 服务器和代理工具是否强制执行身份验证和每个工具授权,而不是将每个工具暴露给任何调用者?

代理及MCP

笔记: 几个 2026 CVE 得分 10.0 纯粹是因为 SSE 传输未经授权而发货。

代理操作是否受到最小特权的限制,是否具有批准门限以及自主循环上的支出或步骤限制?

代理及MCP

笔记: OWASP LLM06:代理过多。

您是否可以控制进入 RAG 语料库的内容并微调数据,并且可以将检索到的数据块追溯到授权来源吗?

数据与检索

笔记: OWASP LLM04 和 LLM08:中毒和嵌入存储访问控制。

机密、凭据和系统提示是否脱离了攻击者可以影响的上下文,并且是否阻止它们被回显?

数据与检索

笔记: OWASP LLM02 和 LLM07。

您是否以某种形式记录模型和代理活动,以便您重建请求的操作(包括工具调用和检索的上下文)?

检测与响应

笔记: 如果没有这个,你根本无法调查事件。

一旦怀疑存在即时注入或工具滥用,是否有记录的路径可以拉回模型或代理?

检测与响应

笔记: 撤销凭证和禁用工具胜过在事件中修补。

评估分数

完成评估以查看您的分数

-
/ 30

评估分解

按类别

按实施级别

改进建议

完成评估以查看个性化建议...

Frequently Asked Questions

What is an AI security self-assessment?
An AI security self-assessment is a structured evaluation of your organization's AI and LLM security posture. It covers areas like prompt injection readiness, data handling practices, MCP server security, access controls, incident response capabilities, and compliance with AI security standards and regulations.
How do I evaluate my organization's AI security posture?
Evaluate AI security posture by assessing: whether LLM inputs and outputs are properly validated, if MCP tools have appropriate access controls, how training data and model artifacts are protected, whether AI incident response plans exist, and if your team follows secure AI development practices and complies with relevant regulations.
What are the key areas to assess in AI security?
Key AI security assessment areas include: prompt injection defenses, model access controls, API security for LLM endpoints, MCP server configuration, training data protection, output filtering and leakage prevention, supply chain security for ML dependencies, and compliance with frameworks like NIST AI RMF and EU AI Act.
How often should AI security assessments be performed?
AI security assessments should be performed at least quarterly, plus whenever significant changes are made to AI systems. Trigger events include: deploying new LLM models, adding MCP tools or resources, changing system prompts, integrating new third-party AI services, or after any AI security incident.
Share: X LinkedIn Reddit HN

Stay Ahead of AI Security

Get the latest AI/LLM security research, OWASP updates, and new vulnerabilities delivered straight to your inbox.