اختبار اختراق الذكاء الاصطناعي / LLM
أمّن ميزات الذكاء الاصطناعي لديك ضد حقن الأوامر وتسريب البيانات وإساءة استخدام الوكلاء.
نظرة عامة
يقيّم اختبار اختراق الذكاء الاصطناعي/LLM التطبيقات المبنية على نماذج اللغة الكبيرة بحثًا عن المخاطر الخاصة بالذكاء الاصطناعي التي يفوتها الاختبار التقليدي. وكونه متوافقًا مع OWASP Top 10 for LLM Applications (2025)، يختبر حقن الأوامر والكشف عن المعلومات الحساسة والمعالجة غير الآمنة للمخرجات والوكالة المفرطة ونقاط ضعف سلسلة التوريد وRAG، عبر النموذج والأوامر والأدوات وخط أنابيب البيانات.
المنهجية والمعايير
OWASP Top 10 for LLM Applications 2025 (من LLM01 Prompt Injection إلى LLM10 Unbounded Consumption)، معززًا بـ NIST AI RMF وMITRE ATLAS.
ما الذي يتضمّنه
ما الذي تحصل عليه
الأسئلة الشائعة
يتحقق اختبار الاختراق القياسي من طبقة الويب وAPI، لكن ليس من سلوك النموذج. تتطلب مخاطر LLM مثل حقن الأوامر وتسريب أمر النظام وتسميم RAG والوكالة المفرطة اختبارًا خاصًا بالذكاء الاصطناعي، وهو ما أُنشئت OWASP LLM Top 10 لمعالجته.
نعم. يرفع الوكلاء المزودون بأدوات واستقلالية المخاطر (الوكالة المفرطة). يمكن أن يؤدي الحقن الناجح إلى تشغيل إجراءات حقيقية، لذا نختبر بدقة ما يمكن للمهاجم أن يجعل وكيلك يفعله ونوصي بحواجز حماية.