فرصة الذكاء الاصطناعي في عمليات الأمن
إنفوجرافيك
لقد كان الذكاء الاصطناعي جزءًا من مشهد الأمن لفترة طويلة، ولكن التطورات الحديثة مثل الذكاء الاصطناعي التوليدي تقدم تحديات وفرصًا جديدة لمركز عمليات الأمن.
الأخبار السيئة
هناك العديد من الأمثلة على كيفية تمكين الذكاء الاصطناعي التوليدي للمهاجمين:
- رسائل تصيد احتيالي أكثر إقناعًا تم كتابتها وإطلاقها على نطاق واسع.
- شفرة ثنائية خبيثة تم إدخالها في عمليات مؤتمتة ومنسقة.
- برمجيات خبيثة متعددة الأشكال مع تقنيات متقدمة للتجنب أو التعتيم.
- تقديم دعم متكامل لدعم جهود الهندسة الاجتماعية المعقدة.
الأخبار السارة
تستمر أدوات الذكاء الاصطناعي التي تثق بها مراكز العمليات الأمنية اليوم في تقديم دفاع فعال.
- UEBA –مدعومًا من قبل SIEM، يستخدم تحليل سلوك المستخدم والكيانات (UEBA) التعلم الآلي لتأسيس خط أساسي للنشاط الطبيعي، بحيث يمكن تحديد التهديدات والهجمات - بما في ذلك تلك التي أنشأتها الذكاء الاصطناعي.
- SOAR– كجزء من نظام SIEM، يدمج تنسيق الأمن، والأتمتة، والاستجابة (SOAR) الرؤى من أنظمة التعلم العميق بحيث أنه بمجرد اكتشاف خطر، يتم بدء تدابير دفاعية تلقائية بسرعة.
هناك العديد من الطرق المحتملة التي يمكن لفرق العمليات الأمنية استخدامها لنشر الذكاء الاصطناعي التوليدي - ولكن في الوقت الحالي، هناك مخاطر يجب التعرف عليها والتخفيف منها.
- الهَلْوَسَة: مخرجات خاطئة حيث يقدم الذكاء الاصطناعي استجابات بناءً على الاحتمالية المتسلسلة بدلاً من الحقائق.
- انهيار النموذج: تدهور سريع لنموذج الذكاء الاصطناعي عندما يتم تدريبه بشكل متزايد على مخرجات تم إنتاجها بواسطة الذكاء الاصطناعي.
- عدم الامتثال: الالتزامات التنظيمية التي قد تنتج عن إدخال معلومات حساسة في النموذج.
حلول آمنة
قد تظل حلول إدارة المعلومات الأمنية والأحداث (SIEM) مثل UEBA و SOAR حصنًا ضد التهديدات المدفوعة بالذكاء الاصطناعي، لكن الابتكارات الجديدة في الذكاء الاصطناعي التوليدي قد تكون لها تأثيرات كبيرة. على سبيل المثال:
- تبسيط عمليات الاستعلام بحيث يمكن للمحللين استرجاع السجلات والتقارير باستخدام مدخلات بلغة بسيطة.
- يمكن أن يؤدي الإنشاء التلقائي والديناميكي لكتيبات العمل إلى تبسيط الكشف عن التهديدات والتحقيق فيها والاستجابة لها.
- يمكن أن تحلل الخوارزميات مقاييس SOC لتوفير تصورات بيانات متفوقة وكشف الاتجاهات على المدى الطويل.
- يمكن أن يجمع الذكاء الاصطناعي المتقدم بين البيانات التاريخية والتحليلات التنبؤية لتمكين الصيد الاستباقي للتهديدات.
