لقد وصل التنافس بين تكنولوجيا الذكاء الاصطناعي والجرائم السيبرانية إلى ذروته، حيث أثبت الذكاء الاصطناعي قدرته الكبيرة في المساعدة، وخاصة في اكتشاف وعرقلة توزيع التصيد والبرامج الضارة. ومع ذلك، فقد ابتكر مجرمو الإنترنت طرقًا للتحايل على مكونات أمان الذكاء الاصطناعي عن طريق هجمات Conversation Overflow، على سبيل المثال. هذه الطريقة الأكثر خطورة لاستخدام الذكاء الاصطناعي كمخطط تفصيلي لخوارزميات تعلم الآلة المقابلة لها مخاطر أمنية أكثر بكثير من المواد أو الحقائق الداخلية.
فهم هجمات تجاوز سعة المحادثة
يتم تجربة أنواع الهجمات الفائضة على خوارزميات الذكاء الاصطناعي والتعلم الآلي المنتشرة في نظام أمان البريد الإلكتروني، والتي تحتوي على عقول شريرة في النص المخفي داخل محادثات البريد الإلكتروني. تهدف هذه المواد المخفية إلى جعل نظام الأمان الذكي هذا لا يصنف رسائل البريد الإلكتروني السيئة على أنها رسائل غير ضارة من الأصدقاء من أجل الهروب من الاكتشاف. يحاول المتسلل القيام بذلك عن طريق تقليد أنماط الاتصال الواقعية بحيث يمكن جعل المستخدمين يعتقدون أن الرسالة من مصادر حقيقية وينقرون على الروابط الضارة أو يشاركون المعلومات المهمة أو، في كثير من الحالات، يتفاعلون بشكل أكبر مع الروبوت في موضوع المحادثة.
مكافحة هجمات تجاوز المحادثة
لتقليل مخاطر هجمات تجاوز سعة المحادثة، يحتاج متخصصو الأمان إلى إثراء التعلم الآلي والذكاء الاصطناعي لتحسين حل البريد الإلكتروني الحالي للمصادقة. وهذا يضيف قدرة النماذج على تفسير الهجمات المختلفة، بما في ذلك المحادثات الفائضة ويوفر كشفًا متقدمًا عن الحالات الشاذة من خلال تحديد الانحرافات في أنماط البريد الإلكتروني العادية.
يتطلب تطوير استراتيجية دفاعية شاملة ضد هجمات اختراق المحادثات استخدام تحليل الذكاء الاصطناعي جنبًا إلى جنب مع أجزاء الأمان التقليدية مثل تصفية الكلمات الرئيسية، ومدقق سمعة المرسل، ووضع الحماية لعنوان URL. من خلال اختيار استراتيجية متعددة الطبيعة، يمكن للمؤسسات تعزيز الأمن بشكل جيد ضد خيارات الهجوم المختلفة.
علاوة على ذلك، هناك حاجة إلى تدريب الموظفين، والذي ينبغي إجراؤه بشكل متكرر، لتعليمهم كيفية التعرف على التهديدات الجديدة ومساعدتهم على استخدام أفضل طريقة للإبلاغ عن رسائل البريد الإلكتروني الاحتيالية بشكل فعال.
دور الخبرة الإنسانية
تشهد هجمات "تجاوز المحادثة" المتعمقة والتفكير الجانبي على الطابع الديناميكي للتهديدات السيبرانية وضرورة قيام المنظمات المقابلة بمتابعة حلول استباقية ومتعددة الأبعاد للأمن السيبراني. قد تفشل تقنيات الذكاء الاصطناعي والتعلم الآلي في معالجة ومنع انتهاكات الأمن السيبراني، على الرغم من أن لديها الكثير من الجوانب الجيدة.
تعزيز التعاون والوعي
يعد استخدام تقنية الذكاء الاصطناعي جنبًا إلى جنب مع المهارات البشرية واستخدام معلومات التهديدات والتعاون واستدعاء المستخدمين إلى الإجراءات بمثابة طرق لتعزيز المؤسسات ضد هجمات تجاوز التهديد السيبراني وحماية أصولها الرقمية إلى أقصى حد. في عالم الأمن السيبراني، تعد المساحة المتغيرة باستمرار والاهتمام الفوري والتكيف أمرًا بالغ الأهمية للبقاء على اطلاع على تصرفات المتسللين.
لا يمكن تحقيق الابتكار في مجال الدفاع السيبراني ضد هجمات Overflow إلا من خلال تتبع التهديدات السيبرانية الجديدة. يمكن لضباط الأمن البقاء على اطلاع والحصول على تحديثات حول آخر الأحداث، وهي الاتجاهات والتهديدات الناشئة، من خلال الاشتراك في موجزات المعلومات الاستخبارية، وبالتالي تمكينهم من تغيير الأساليب حسب الحاجة.
المصدر: https://www.cryptopolitan.com/cybersecurity-against-conversation-attacks/