ثغرات خطرة في 4 أنظمة ذكاء اصطناعي شهيرة تتيح التخطيط لهجمات إرهابية

كشفت تحقيقات حكومية أمريكية عن ثغرات خطرة في أنظمة الذكاء الاصطناعي، بعدما تمكن باحثون من الحصول على معلومات تفصيلية من 4 روبوتات محادثة شهيرة بشأن التخطيط لهجمات إرهابية واسعة النطاق داخل مدن أمريكية، بما في ذلك استهداف البنية التحتية الحيوية وتحديد مواقع وأوقات لتنفيذ الهجمات.ووفق تقرير صادر عن مكتب المساءلة الحكومية الأمريكي، تمكن المحققون من تجاوز أنظمة الحماية في منصات «شات جي بي تي» و«كلود» و«جيميني» و«جروك»، والحصول على إرشادات تنفيذ هجمات تتسبب في سقوط أعداد كبيرة من الضحايا.روبوتات تقدم معلومات عن هجمات إرهابيةأوضح التقرير أن الاختبارات كشفت قدرة روبوتات الذكاء الاصطناعي الأربعة على تقديم معلومات تفصيلية تتعلق باستهداف مدن أمريكية، شملت تحديد أهداف ومواقع وتوقيتات وأساليب لتنفيذ هجمات إرهابية.كما تمكن الباحثون من الحصول على معلومات بشأن تصنيع وتفجير عبوات ناسفة بدائية، إلى جانب سيناريوهات لاستهداف شبكات الكهرباء وإحداث اضطرابات واسعة في البنية التحتية باستخدام الطائرات المسيرة والأسلحة النارية.وأشار التقرير إلى أن المعلومات التي جرى الحصول عليها خضعت للتحقق بمساعدة جهات إنفاذ القانون، التي أكدت إمكانية تنفيذ السيناريوهات التي تناولتها الاختبارات.تجاوز أنظمة الحماية في «شات جي بي تي» و«كلود» و«جيميني» و«جروك»اختبر مكتب المساءلة الحكومية أربعة من أشهر أنظمة الذكاء الاصطناعي، التابعة لشركات أوبن إيه آي وأنثروبيك وجوجل وشركة الذكاء الاصطناعي التابعة للملياردير الأمريكي إيلون ماسك.ورغم أن أنظمة الحماية منعت المحاولات الأولى للحصول على معلومات مرتبطة بالتخطيط لهجمات إرهابية، تمكن الباحثون لاحقاً من تجاوز هذه القيود باستخدام أساليب شائعة للتحايل على ضوابط الأمان.ولم يكشف التقرير عن الأنظمة التي أخفقت تحديداً في الاختبارات أو تلك التي نجحت في منع الحصول على المعلومات، موضحاً أن نشر هذه التفاصيل قد يتيح إعادة تنفيذ التجارب واستغلال الثغرات نفسها.تحذير أمريكي: الذكاء الاصطناعي قد يتحول إلى أداة للإرهابحذرت السيناتور الأمريكية ماجي حسن، التي طلبت إعداد التقرير، من أن المخاطر الأمنية المرتبطة بالذكاء الاصطناعي لم تعد مجرد احتمالات نظرية.وقالت إن شخصاً يسعى لتنفيذ هجوم إرهابي يمكنه استخدام إحدى منصات الذكاء الاصطناعي والحصول خلال أقل من 12 ساعة على خطة عملية لتنفيذ هجوم دموي.وأعلنت ماجي حسن أنها تعتزم إعطاء أولوية للتشريعات الرامية إلى معالجة هذه المخاطر عندما يتولى الديمقراطيون السيطرة على مجلس الشيوخ في يناير المقبل، مشيرةً إلى أن إحدى أولى جلسات الاستماع التي ستعقدها لجنة الأمن الداخلي والشؤون الحكومية ستتناول التهديدات الأمنية الناجمة عن الذكاء الاصطناعي، بما فيها المخاطر التي تستهدف البنية التحتية الحيوية.شركات الذكاء الاصطناعي ترد على التحقيقفي المقابل، أكدت شركات الذكاء الاصطناعي المعنية لمكتب المساءلة الحكومية أن الاختبارات أُجريت خلال ربيع العام الجاري باستخدام إصدارات أقدم من أنظمتها.وأشارت الشركات إلى أنها عززت إجراءات الحماية والضوابط الأمنية في الأشهر التالية للاختبارات، في محاولة لمنع إساءة استخدام أدوات الذكاء الاصطناعي في التخطيط لأعمال عنف أو هجمات إرهابية.وتعيد نتائج التحقيق فتح النقاش بشأن قدرة أنظمة الذكاء الاصطناعي على منع إساءة استخدام تقنياتها، ومدى كفاية إجراءات الأمان الحالية في مواجهة محاولات التحايل على القيود المفروضة على المحتوى الخطر.