المحتويات
المقدمة
يتصادم اتجاهان. يستخدم المهاجمون الذكاء الاصطناعي الآن للعمل أسرع وعلى نطاق أوسع، ويواصل عدد الثغرات المعلنة الارتفاع إلى عشرات الآلاف من CVE سنويًا. ولا يعد أي من الاتجاهين جديدًا بحد ذاته، لكنهما معًا يكسران افتراض أن لدى المدافعين أسابيع للاستجابة.
ما يغيّره الذكاء الاصطناعي للمهاجمين
نادرًا ما يبتكر الذكاء الاصطناعي فئات هجوم جديدة. لكنه يزيل العوائق من الفئات التي تنجح بالفعل.
- التصيد على نطاق واسع: رسائل طليقة ومخصصة بأي لغة، تُكتب في ثوانٍ وتُضبط لكل هدف، دون الأخطاء الإملائية التي تدرب المستخدمون على كشفها.
- استطلاع أسرع: تلخيص الكود العام وإعلانات الوظائف والوثائق المسربة في خطة هجوم.
- تطوير أسرع للاستغلال: مقارنة التحديث بالإصدار السابق لتحديد الخلل الذي تم إصلاحه، ثم التكرار حتى الوصول إلى استغلال عامل.
- الأصوات والفيديو الاصطناعية: انتحال شخصية المديرين في مكالمة للموافقة على دفعة أو إعادة تعيين كلمة مرور.
الأثر العملي هو تقلص المهل. فالفترة بين نشر الثغرة واستغلالها تتقلص منذ سنوات، والذكاء الاصطناعي يقلصها أكثر. ودورات التحديث التي تُقاس بالأشهر تترك الباب مفتوحًا اليوم لوقت أطول من اللازم.
تدفق CVE
لا يستطيع أي فريق تحديث كل شيء دفعة واحدة، والتعامل مع كل درجة CVSS “حرجة” كحالة طارئة يؤدي إلى الإنهاك وتفويت تهديدات حقيقية. يقيس CVSS مدى الخطورة المحتملة للثغرة، لا احتمال استغلالها ولا أهميتها في بيئتك. يضيف الإصدار الحالي CVSS v4.0 سياقًا أكبر، لكن الخطورة وحدها تبقى معيار ترتيب خاطئًا.
رتب حسب الاستغلال لا الخطورة وحدها
- تسرد قائمة Known Exploited Vulnerabilities (KEV) من CISA الثغرات التي يوجد دليل على استغلالها فعليًا. وكل ما فيها وتشغله ينتقل إلى مقدمة القائمة.
- يقدّر Exploit Prediction Scoring System (EPSS)، الذي تديره FIRST، احتمال استغلال CVE في المدى القريب. وهو يفصل القلة العاجلة عن الكثرة النظرية.
- يحدد سياق الأصول الباقي: النظام المكشوف على الإنترنت الذي يحتوي على بيانات عملاء يسبق خادم اختبار معزولًا له الدرجة نفسها.
الدفاع بالذكاء الاصطناعي بحذر
تساعد الأدوات نفسها المدافعين. يستطيع الذكاء الاصطناعي فرز التنبيهات وتلخيص الحوادث ورصد السلوك الشاذ وشرح الكود غير المألوف وصياغة قواعد الكشف. والفائدة حقيقية، خصوصًا للفرق الصغيرة.
استخدمه كمحلل يحتاج إلى إشراف، لا كمصدر معصوم. أبقِ البشر في قرارات الاحتواء، وتحقق من قواعد الكشف المولدة ببيانات حقيقية، ولا تلصق أبدًا أسرارًا أو بيانات عملاء في أدوات غير معتمدة.
أنظمة الذكاء الاصطناعي لديك جزء من سطح الهجوم أيضًا
كل روبوت دردشة أو مساعد برمجة أو وكيل ذكاء اصطناعي تنشره هو نوع جديد من التطبيقات بأنماط فشل جديدة. وتسرد قائمة OWASP Top 10 for Large Language Model Applications أكثر المخاطر شيوعًا.
- حقن الأوامر: تعليمات مخفية في الرسائل أو صفحات الويب أو المستندات يقرأها النموذج وينفذها.
- الصلاحيات المفرطة: وكلاء يملكون أدوات وصلاحيات واسعة يستطيع المهاجم توجيهها.
- كشف البيانات الحساسة: نماذج تسرب ما أُعطي لها في السياق أو أثناء التدريب.
- مخاطر سلسلة التوريد: نماذج وإضافات ومجموعات بيانات خارجية لم يتم فحصها.
تعامل مع مخرجات النموذج كمدخلات غير موثوقة. امنح الوكلاء أضيق صلاحيات ممكنة، واطلب التأكيد للإجراءات ذات الأثر الكبير، وسجل ما يفعلونه.
دليل عملي
- احتفظ بجرد دقيق للأصول وقائمة مكونات برمجية (SBOM)، لتعرف خلال دقائق هل تؤثر فيك CVE جديدة.
- اشترك في قائمة KEV ودرجات EPSS، واربطها بنظام الطلبات لتتقدم الثغرات المستغلة تلقائيًا في القائمة.
- حدد مهل التحديث حسب قابلية الاستغلال والانكشاف، وقس مدى التزامك بها.
- انشر MFA المقاوم للتصيد، حتى لا تستطيع رسالة مثالية كتبها الذكاء الاصطناعي الحصول على بيانات اعتماد صالحة.
- تحقق من طلبات الدفع والوصول خارج النطاق، عبر رقم أو قناة معروفة، وليس عبر ما ورد في الرسالة.
- اجرد عمليات تكامل الذكاء الاصطناعي، ونمذج تهديداتها، وقيّد ما يمكن للوكلاء فعله.
- أجرِ تمرينًا مكتبيًا حول هجوم مدعوم بالذكاء الاصطناعي: مكالمة مزيفة من مدير، أو جهاز طرفي مستغل على نطاق واسع.
الخاتمة
لم تتغير الأساسيات: اعرف ما تشغله، وأصلح ما يُستغل، واجعل بيانات الاعتماد صعبة السرقة، وافترض أن شيئًا ما سيتجاوز الحماية. ما تغيّر هو السرعة. والفرق التي تواكبها هي التي أتمتت المهام المتكررة ليركز أفرادها على القرارات المهمة.
- أمن الذكاء الاصطناعي
- إدارة الثغرات
- CVE
- استخبارات التهديدات
