دليل التشغيل للاستجابة لحوادث الذكاء الاصطناعي
Step-by-step procedures for responding to AI security incidents including LLM breaches, agent compromise, and prompt injection - Updated July 2026
$4.2M
متوسط تكلفة حادث أمان الذكاء الاصطناعي
(IBM Cost of Data Breach 2025)
29 min
متوسط وقت اختراق eCrime
(CrowdStrike 2026)
47 days
متوسط وقت تصحيح ثغرات الذكاء الاصطناعي
(معهد Ponemon)
🚨
حرجة: التصرف بسرعة
AI incidents can spread rapidly. Average eCrime breakout time is 29 minutes. Have this playbook ready BEFORE incidents occur.
تصنيف الحوادث
حرج - P0
- استخراج البيانات المؤكدة عبر نظام الذكاء الاصطناعي
- تنفيذ التعليمات البرمجية عن بُعد على البنية التحتية للذكاء الاصطناعي
- سرقة النموذج بالكامل أو استخراجه
- الوصول غير المصرح به إلى أنظمة الذكاء الاصطناعي للإنتاج
- الحقن السريع النشط مع تأثير البيانات
وقت الاستجابة: فوري - تنشيط فريق الحادث خلال 15 دقيقة
HIGH - P1
- هجوم الحقن الفوري المشتبه به
- أنماط استدعاء واجهة برمجة التطبيقات غير العادية
- محاولات تجاوز المصادقة
- التلاعب بقاعدة بيانات المتجهات
- الوكيل الذي يتصرف خارج المعلمات المحددة
وقت الاستجابة: في غضون ساعة واحدة
متوسط - P2
- البيانات الحساسة المحتملة في المطالبات
- سلوك نموذج غير عادي أو هلوسة
- محاولات الهجوم الفاشلة (محظورة)
- انتهاك السياسة من خلال مخرجات الذكاء الاصطناعي
وقت الاستجابة: في غضون 4 ساعات
LOW - P3
- انتهاكات السياسة البسيطة
- نشاط مشبوه ولكنه غير حاسم
- الاختبار/التقارير الإيجابية الخاطئة
وقت الاستجابة: في غضون 24 ساعة
المرحلة الأولى: التحديد والفرز (0-30 دقيقة)
مشغلات الكشف
التنبيهات التلقائية
- ارتفاعات شاذة في استخدام واجهة برمجة التطبيقات
- أنماط استجابة غير عادية
- فشل المصادقة attempts
- انتهاكات حدود المعدل
- مشغلات الكشف عن السمية
التقارير اليدوية
- تقارير المستخدم عن المخرجات المشبوهة
- شكاوى العملاء
- المخاوف الأمنية للموظفين
- إشعارات الطرف الثالث
قائمة مراجعة الفرز الفوري
- تأكيد الحادث: هل هذا حدث أمني حقيقي أم خطأ إيجابي؟
- تصنيف الخطورة: P0-P3 استنادًا إلى التأثير
- الحفاظ على الأدلة: ابدأ في تسجيل كل شيء على الفور
- إخطار الفريق: قائد الاستجابة للحوادث التنبيهية
- الجدول الزمني للوثيقة: سجل عند ظهور المؤشرات الأولى
المرحلة 2: الاحتواء (30 دقيقة - ساعتان)
احتواء LLM API
- تدوير مفاتيح واجهة برمجة التطبيقات: التدوير الفوري لأي بيانات اعتماد يحتمل أن تكون معرضة للخطر
- تحديد المعدل: تطبيق حدود المعدلات الصارمة على نقاط النهاية المتأثرة
- حظر IP: حظر عناوين IP للمصدر الضار في بوابة API
- أعلام الميزات: تعطيل الميزات الخطرة (تحميل الملفات وتنفيذ التعليمات البرمجية)
- وضع القراءة فقط: الأخذ في الاعتبار وضع القراءة فقط للأنظمة المتأثرة
احتواء العامل
- إنهاء عمليات الوكيل: إيقاف الوكلاء المخترقين فورًا
- إلغاء الوصول إلى الأداة: تعطيل وصول الوكيل إلى الأدوات الحساسة
- عزل خوادم MCP: قطع اتصالات خادم MCP المشبوهة
- إبطال الجلسة: فرض تسجيل الخروج من جميع الجلسات النشطة
- تجزئة الشبكة: عزل أنظمة الذكاء الاصطناعي عن الشبكات المهمة
احتواء البيانات
- سجلات التدقيق: الحفاظ على جميع سجلات الوصول لتحليل الطب الشرعي
- لقطات قاعدة البيانات: التقاط لقطات في الوقت المناسب
- قاعدة بيانات المتجهات: عزل وفحص قاعدة بيانات المتجهات
- تكامل النسخ الاحتياطي: التحقق من عدم تعرض النسخ الاحتياطية الأخيرة للخطر
المرحلة 3: التحقيق (2-24 ساعة)
تحليل السجل
الجمع والتحليل:
- سجلات طلب/استجابة واجهة برمجة التطبيقات: جميع استدعاءات LLM API ذات الطوابع الزمنية
- سجلات المصادقة: محاولات تسجيل الدخول واستخدام الرمز المميز
- سجلات التطبيق: سجلات الخادم من خدمات معالجة الذكاء الاصطناعي
- سجلات الشبكة: أنماط حركة المرور وعناوين IP المصدر
- سجلات نشاط المستخدم: من وصل إلى ماذا ومتى
تحليل ناقلات الهجوم
الحقن الفوري
- تحديد أنماط الحقن
- تتبع مصدر الحقن
- تقييم تأثير التلاعب
- تقنية الهجوم على المستندات
استخراج البيانات
- تحديد البيانات التي تم الوصول إليها
- تحديد طريقة الترشيح
- تقييم حساسية البيانات
- حساب عدد السجلات
تسوية الوكيل
- تحديد الإجراءات المخترقة
- سوء استخدام أداة التتبع
- تقييم الوصول غير المصرح به
- توثيق الحركة الجانبية
حفظ الأدلة
- إنشاء نسخ الطب الشرعي: نسخ بت مقابل بت من الأنظمة المتأثرة
- التحقق من التجزئة: حساب وتوثيق تجزئة الملف
- سلسلة الإدارة: توثيق من وصل إلى الأدلة
- التخزين الآمن: تخزين الأدلة في موقع آمن يمكن التحكم في الوصول إليه
- إنشاء المخطط الزمني: إنشاء جدول زمني مفصل للحادثة
المرحلة 4: المعالجة (24-72 ساعة)
إصلاحات فورية
ثغرات LLM
- تصحيح فجوات التحقق من صحة الإدخال
- تحديث تصفية المحتوى
- تعزيز تعقيم المخرجات
- إضافة الحقن الكشف
مشكلات الوكيل
- تقليل أذونات الوكيل
- إضافة سير عمل الموافقة
- تنفيذ حدود أكثر صرامة
- تحديث عناصر التحكم في الوصول إلى الأداة
إصلاح البنية التحتية
- إعادة تعيين بيانات الاعتماد: فرض إعادة تعيين كلمة المرور، وتدوير جميع مفاتيح واجهة برمجة التطبيقات
- مراجعة الوصول: تدقيق الأذونات وتنظيفها
- تعزيز الشبكة: تحديث قواعد جدار الحماية وشبكات القطاعات
- تحديثات المراقبة: تحسين المراقبة باستخدام قواعد الكشف الجديدة
- التحقق من النسخ الاحتياطي: التحقق من النسخ الاحتياطية النظيفة واختبار الاستعادة
المرحلة 5: الإعلام والتقارير
التقارير الداخلية
- الملخص التنفيذي: نظرة عامة على الحادث من صفحة واحدة للقيادة
- التقرير الفني: النتائج الفنية التفصيلية لفريق الأمان
- المخطط الزمني: الجدول الزمني الكامل للحوادث مع الأحداث الرئيسية
- الدروس المستفادة: ما سار على ما يرام، ما الذي يحتاج إليه؟ التحسين
- عناصر العمل: مهام محددة مع المالكين والمواعيد النهائية
الإشعارات الخارجية
الهيئات التنظيمية
- GDPR: إشعار لمدة 72 ساعة إلى DPA
- قانون الذكاء الاصطناعي في الاتحاد الأوروبي: إبلاغ السلطة المختصة
- منظمي القطاع (التمويل والرعاية الصحية)
- قوانين الإبلاغ عن خرق الدولة
الأطراف المتأثرة
- إخطار العميل (في حالة تأثر البيانات)
- إخطار شريك الأعمال
- الكشف عن CVE (إن أمكن)
- الإفصاح العام (إذا لزم الأمر)
المرحلة 6: أنشطة ما بعد الحادث
تحليل السبب الجذري
- 5 تحليل الأسباب: التعمق في السبب الجذري
- رسم خرائط مسار الهجوم: كيف نجح المهاجم؟
- فشل التحكم: ما هي عناصر التحكم التي لم تنجح؟
- الكشف الفجوات: لماذا لم يتم اكتشاف ذلك مسبقًا؟
- مشكلات العملية: أين فشلت عمليات الاستجابة؟
إجراءات التحسين
تقنية
- تنفيذ عناصر التحكم الأمنية المفقودة
- تحديث قواعد الكشف
- تصحيح الثغرات الأمنية
- تحسين المراقبة
العملية
- تحديث إجراءات الاستجابة للحوادث
- تحسين بروتوكولات الاتصال
- تعزيز برامج التدريب
- توثيق قواعد اللعبة الجديدة
الوقائية
- اختبار الفريق الأحمر
- تمارين الطاولة
- التدريب على الوعي الأمني
- مراجعة البنية
المرجع السريع للطوارئ
إجراءات الحوادث الحرجة
- تدوير مفاتيح واجهة برمجة التطبيقات على الفور
- تعطيل نقاط النهاية المتأثرة
- الاحتفاظ بجميع السجلات
- إخطار CISO خلال 15 دقيقة
- بدء جمع الأدلة
اتصالات التصعيد
- فريق الأمان: [داخلي Slack #]
- مهندس عند الطلب: [pagerduty]
- CISO: [خط مباشر]
- الجوانب القانونية: [legal@company]
- العلاقات العامة/الاتصالات: [pr@company]
قائمة التحقق من الاستعداد قبل الحادث
- كتب اللعب: الاستجابة للحوادث الموثقة إجراءات حوادث الذكاء الاصطناعي الشائعة
- الفريق: فريق الاستجابة للحوادث المدرب بأدوار محددة
- الأدوات: أدوات التسجيل والمراقبة والطب الشرعي جاهزة
- الاتصال: قوائم جهات الاتصال ومسارات التصعيد موثقة
- الممارسة: تمارين الطاولة وعمليات المحاكاة المنتظمة
- الاحتفاظ: الاحتفاظ بالسجل بشكل كافٍ (يوصى بأكثر من 90 يومًا)
- النسخ الاحتياطية: النسخ الاحتياطية التي تم التحقق منها باستخدام إجراءات الاستعادة المختبرة