دعا مئات الباحثين في مجالي الذكاء الاصطناعي والأمن السيبراني اليوم إلى اتخاذ إجراءات عاجلة لتعزيز سلامة الأنظمة المتقدمة، محذرين من مخاطر تجاوز نماذج الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية بيئات الاختبار والوصول إلى أنظمة خارجية، بما قد يهدد البنية التحتية الحيوية. ووقع أكثر من 350 باحثا، بينهم جيفري هينتون الحائز على جائزة نوبل في الفيزياء، ويوشوا بنجيو الحائز على جائزة تورينج، رسالة مفتوحة مطالبين فيها بعزل نماذج الذكاء الاصطناعي القادرة على تنفيذ عمليات سيبرانية عن الشبكات الخارجية فعليا خلال اختبارها، وإخضاعها لرقابة مستقلة، بما يحد من تجاوزها ضوابط الاحتواء. ودعت الرسالة إلى إنشاء هيئة دولية تتولى وضع معايير موحدة لاحتواء هذه النماذج، وإنشاء سجل للحوادث الأمنية المرتبطة بإخفاقات الاحتواء وتوثيقها، مع إلزام الجهات المطورة والمختبرة بالإبلاغ عن هذه الحوادث وإتاحة المعلومات المتعلقة بها علنا، بما يسهم في تبادل الخبرات ومنع تكرارها. وجاءت هذه الدعوات عقب حوادث شهدتها الأشهر الماضية، تمكنت خلالها نماذج للذكاء الاصطناعي من تجاوز بيئات اختبار غير محكمة والوصول إلى أنظمة تابعة لجهات خارجية، من بينها شركة "هاغينغ فيس" ومواقع حكومية متعددة. ورأى الموقعون أن هذه الحوادث كشفت عن ثغرات في إجراءات الاختبار والاحتواء، كان من الممكن تفاديها بتطبيق تدابير أساسية للأمن السيبراني. وأكد الباحثون ضرورة اعتماد أنظمة احتواء عالية الموثوقية، مع فصل النماذج القادرة على تنفيذ عمليات سيبرانية عن الإنترنت خلال المراحل الأولية من اختبارها، إلى جانب تعزيز الرقابة المستقلة على هذه الأنظمة. كما شددوا على أهمية توفير آليات لتبادل المعلومات بشأن الحوادث الأمنية، بما يتيح تحديد أوجه الخلل والاستفادة من التجارب السابقة. ومن بين الموقعين توني والش، كبير العلماء في معهد الذكاء الاصطناعي بجامعة نيو ساوث ويلز الأسترالية، الذي حذر من أن الحوادث المسجلة حتى الآن، رغم محدودية آثارها، قد تنذر بمخاطر أكبر مستقبلا، مشيرا إلى أن استهداف أنظمة حيوية، مثل أنظمة مراقبة الحركة الجوية، قد يتسبب في أضرار جسيمة تمس الحياة اليومية. وتأتي هذه الدعوات في وقت تتزايد فيه المناقشات الدولية بشأن تنظيم أنظمة الذكاء الاصطناعي المتقدمة، وضمان خضوعها لمعايير واضحة للسلامة والمساءلة، في ظل اعتماد شركات التكنولوجيا الكبرى على تعهدات طوعية لتعزيز إجراءات السلامة، دون وجود آليات إنفاذ ملزمة.
