النطاق
- تقييم OWASP LLM Top 10
- حقن الأوامر المباشر وغير المباشر
- حدود الوصول في RAG والبيانات
- اختبار التحقق من المخرجات والضوابط الوقائية
المنهجية
- 01
خريطة النظام
نحدد النماذج ومصادر البيانات والأدوات وتفاعلات المستخدمين.
- 02
نمذجة التهديدات
نحدد سيناريوهات الحقن وتسرب البيانات وإساءة الاستخدام.
- 03
الهجوم والتقييم
نختبر النظام بمجموعات هجوم يدوية وآلية.
- 04
الضوابط الوقائية
نوصي بحدود الصلاحيات والتحقق والمراقبة.
المخرجات
- نموذج تهديد الذكاء الاصطناعي
- أمثلة هجمات ناجحة مع أدلة
- توصيات الضوابط والبنية
- نتائج إعادة التقييم