النطاق
- سيناريوهات كسر القيود وتجاوز السياسات
- اختبارات إساءة استخدام النموذج والمنتج
- مجموعات هجوم آلية ويدوية
- تقرير التقييم والمعالجة
المنهجية
- 01
خريطة النظام
نحدد النماذج ومصادر البيانات والأدوات وتفاعلات المستخدمين.
- 02
نمذجة التهديدات
نحدد سيناريوهات الحقن وتسرب البيانات وإساءة الاستخدام.
- 03
الهجوم والتقييم
نختبر النظام بمجموعات هجوم يدوية وآلية.
- 04
الضوابط الوقائية
نوصي بحدود الصلاحيات والتحقق والمراقبة.
المخرجات
- نموذج تهديد الذكاء الاصطناعي
- أمثلة هجمات ناجحة مع أدلة
- توصيات الضوابط والبنية
- نتائج إعادة التقييم