دخل الأمن السيبراني مرحلة جديدة مع توسع استخدام الذكاء الاصطناعي في تطوير البرمجيات واختبارها والهجوم عليها. فالأدوات التي تساعد المطوّرين في كتابة الشيفرات وتحليلها، باتت قادرة أيضاً على تسريع اكتشاف نقاط الضعف، فيما يستطيع المهاجمون الاستفادة من النماذج الذكية لإعداد رسائل احتيالية أكثر إقناعاً وتحليل الأنظمة وتطوير أساليب استغلال الثغرات. لكنّ التطوُّرات الأخيرة تشير إلى أنّ الذكاء الاصطناعي قد يفتح مساراً دفاعياً مختلفاً، يقوم على التحقق الرياضي من خصائص البرمجيات بدلاً من الاكتفاء بالبحث عن الأخطاء بعد وقوعها. ونشرت Google DeepMind بحثاً عن نظام AlphaProof Code المتعدِّد الوكلاء والمستخدَم لإثبات خصائص أمنية مهمّة في الشيفرة المرجعية لمكتبة libsignal المرتبطة ببروتوكول Signal، وعلى مستوى الشيفرة الآلية لمعمارية AArch64.
تناول تقرير Axios التجربة، مشيراً إلى أنّ العمل استغرق 4 أسابيع، وهي مدة قد تكون أطول بكثير لو اعتمدت الفرق على الأساليب البشرية وحدها. وتكمن أهمية التجربة في أنّها لا تقتصر على اكتشاف خلل محدّد، بل تحاول إثبات أنّ أجزاء من النظام تلتزم بخصائص أمنية محدّدة وفق مواصفات رياضية واضحة.
ما هو التحقق الرسمي؟
يعتمد التحقق الرسمي على استخدام الرياضيات والمنطق، لوصف الخصائص التي ينبغي أن يلتزم بها البرنامج، ثم بناء برهان يثبت أنّ التنفيذ يحقق هذه الخصائص ضمن شروط محدّدة. وقد استُخدمت هذه الأساليب منذ سنوات في الأنظمة الحساسة، لكنها غالباً ما تطلّبت خبراء متخصّصين ووقتاً طويلاً، ما حدّ من انتشارها في تطوير البرمجيات التجارية.
وتكمن الصعوبة في أنّ البرمجيات الحديثة تضمّ طبقات متعدّدة ومكوّنات خارجية، وقد تتغيّر مع كل تحديث. لذلك لا يكفي أن يثبت الباحث صحة جزء صغير بمعزل عن بقية النظام؛ بل يجب تحديد الافتراضات والحدود بدقة، وفهم العلاقة بين الشيفرة والمواصفات. ويعني التحقق الرسمي أنّ هناك برهاناً على خصائص معيّنة، لا شهادة مطلقة بأنّ البرنامج خالٍ من كل الأخطاء الممكنة.
وفي إطار AlphaProof Code، استخدم الباحثون مواصفات مكتوبة بلغة Lean، مع دلالات رسمية للشيفرة الآلية، ووكلاء آليين للمساعدة في إنشاء البراهين. وتُقبل البراهين بعد أن يتحقق منها نظام Lean وفق المواصفات المعتمدة. وهذه النقطة مهمّة، لأنّ دور الذكاء الاصطناعي ليس إصدار حكم غير قابل للمراجعة، بل المساعدة في بناء دليل يمكن التحقق منه آلياً.
ماذا أثبتت تجربة Signal؟
تقول الورقة البحثية، إنّ الإطار استُخدم لإثبات خصائص أمنية أساسية في تطبيق libsignal، بما في ذلك جوانب من المصافحة PQXDH وآلية Triple Ratchet. وتشمل الخصائص التي تناولها الباحثون السرّية الأمامية، والمصادقة، والأمن بعد الاختراق، وسرّية عملية المصافحة. كما أشاروا إلى إنتاج نحو 6,5 ملايين سطر من براهين Lean التي جرى التحقق منها آلياً، بالاستناد إلى مواصفات ودلالات موثوقة أصغر حجماً.
ولا يعني ذلك أنّ تطبيق Signal بأكمله أصبح غير قابل للاختراق، أو أنّ جميع المخاطر الأمنية اختفت. فالتحقق تناول خصائص محدّدة، بينما قد تنشأ مشكلات أخرى من نظام التشغيل أو الجهاز أو إدارة المفاتيح أو طريقة الاستخدام أو البنية التحتية المحيطة. كما أنّ أي برهان يعتمد على صحة المواصفات والافتراضات التي بُني عليها.
لكنّ أهمية التجربة تكمن في إظهار أنّ الذكاء الاصطناعي يستطيع مساعدة الخبراء في تنفيذ أعمال كانت تتطلّب جهداً كبيراً، وربما جعل التحقق الرسمي أكثر قابلية للاستخدام في مشاريع أوسع.
الذكاء الاصطناعي سلاح بيد المهاجمين
في المقابل، يزداد القلق من استخدام الذكاء الاصطناعي لتسهيل الهجمات. فقد تساعد النماذج في تحليل نتائج الفحص، وشرح أخطاء البرمجيات، وصياغة رسائل تصيد إلكتروني مقنعة، وتعديل المحتوى وفق لغة الضحية أو طبيعة عمله. كما يمكن استخدامها في أتمتة بعض مراحل البحث عن الثغرات المعروفة أو كتابة شيفرات تجريبية.
ولا يعني ذلك أنّ أي مستخدم يستطيع اختراق نظام محمي بمجرّد استخدام روبوت محادثة. فالهجمات المعقّدة لا تزال تتطلّب معرفة تقنية وموارد وقدرة على تجاوز دفاعات متعدّدة. كما أنّ النماذج قد تنتج تعليمات خاطئة أو شيفرات غير آمنة. لكنّ قدرتها على تقليل الوقت اللازم لبعض المراحل الأولية تفرض على فرق الدفاع تطوير أدوات قادرة على التحليل والاستجابة بالوتيرة نفسها.
وتصبح الرسائل الاحتيالية أكثر خطورة عندما تكون مصاغة بلغة سليمة وتحاكي أسلوب مؤسسة معروفة أو مدير في الشركة. لذلك ينبغي ألّا يعتمد الموظفون على الأخطاء الإملائية بوصفها علامة وحيدة على الاحتيال.
دفاع متعدّد الطبقات للمؤسسات
لا يكفي الاعتماد على نموذج AI واحد لحماية مؤسسة من الهجمات. فالأمن السيبراني يحتاج إلى تحديث الأنظمة، تقييد الصلاحيات، تفعيل المصادقة متعددة العوامل، تشفير البيانات، مراقبة حركة الشبكات، وإجراء اختبارات دورية. كما ينبغي أن تكون هناك خطة واضحة للتعامل مع الحوادث، تتضمّن تحديد المسؤوليات وطريقة عزل الأنظمة المتضرّرة واستعادة البيانات.
ويظل تدريب الموظفين ضرورياً، لأنّ كثيراً من الهجمات تبدأ برسالة أو رابط أو ملف يبدو طبيعياً. كما يجب على المؤسسات الاحتفاظ بنسخ احتياطية منفصلة عن الشبكات الأساسية، اختبار إمكان استعادتها، ومراجعة حسابات المستخدمين والصلاحيات بصورة منتظمة. وتساعد هذه الإجراءات في الحدّ من الأضرار، حتى عندما ينجح المهاجم في تجاوز طبقة من طبقات الحماية.