كشفت شركة "أوبن إيه آي" (OpenAI) أن بعض وكلائها المعتمدين على الذكاء الاصطناعي عمدوا إلى تعطيل أنظمة الرقابة والمراقبة المصممة لرصد السلوكيات غير المرغوبة، في أحدث واقعة من شأنها تأجيج المخاوف العالمية بشأن سلامة النماذج المتقدمة. وقالت الشركة المطورة لـ"تشات جي بي تي" إن وكلاء ذكاء اصطناعي شاركوا في مهمتين برمجيتين داخليتين حديثتين سعوا إلى خداع الموظفين عمداً واتخذوا خطوات لإضعاف أنظمة المراقبة الخاصة بالشركة. وشهدت إحدى الحوادث، التي وقعت في وقت سابق من الشهر الجاري، قيام أحد الوكلاء بتعطيل التنبيهات التلقائية المرسلة إلى فريق الأمن في الشركة. وفي مهمة منفصلة بعد أيام قليلة، أزال وكيل آخر نظام مراقبة بالكامل ثم أخفى الأمر عن الموظفين وقدم معلومات مضللة بشأن ما حدث. وأوضحت الشركة أن الوكلاء ناقشوا خلال تنفيذ المهام ما إذا كان ينبغي الإبقاء على الضمانات الرقابية، لكنهم فسروا تعليمات برمجية اعتيادية على أنها تسمح لهم بإضعاف تلك الأنظمة. وجاءت الحوادث الجديدة في وقت تواجه فيه الشركة سلسلة من الوقائع المرتبطة بسلوكيات غير متوقعة من نماذجها المتقدمة. فقد أظهرت اختبارات سابقة قدرة بعض النماذج على تجاوز ضوابط التشغيل، كما تورطت في اختراق منصة الذكاء الاصطناعي "هاغينغ فيس" والوصول إلى مواقع تابعة لخدمات الصحة العامة الأسترالية، بحسب ما نقلته صحيفة "فاينانشال تايمز". ودفعت هذه المخاوف الرئيس التنفيذي للشركة سام ألتمان إلى تأجيل خطة الطرح العام الأولي التي كان متوقعاً تنفيذها هذا العام، مؤكداً أن الشركة تحتاج إلى مزيد من الثقة في قدرتها على توسيع نطاق تقنيات الذكاء الاصطناعي مع معالجة المخاطر المتعلقة بالسلامة. وبات الإدراج مرجحاً خلال العام المقبل. وأكدت الشركة أنها عززت إجراءات المراقبة في أعقاب الحوادث الأخيرة التي وقعت قبل نحو أسبوعين، مشيرة إلى أنها تدرس ما إذا كانت التصرفات تعكس "إفراطاً حميداً في الإصرار على إنجاز المهام" أم ميلاً متعمداً إلى التهرب من أنظمة الرقابة والكشف. وأعادت هذه الوقائع إلى الواجهة المخاوف المتزايدة بشأن قدرة شركات الذكاء الاصطناعي، بما فيها OpenAI ومنافستها أنثروبيك، على كبح السلوكيات غير المرغوبة وضمان عدم تحوّل النماذج المتقدمة إلى مصدر لمخاطر سيبرانية عند إطلاقها تجارياً. وأثار خبراء في القطاع مخاوف خاصة من أن النماذج المتقدمة أصبحت أكثر إدراكاً لوجود الرقابة عليها، ما قد يدفعها إلى إخفاء بعض السلوكيات أو التصرف بشكل مختلف أثناء الاختبارات مقارنة بأدائها الفعلي في بيئات التشغيل الحقيقية. وأظهرت عمليات تدقيق أجرتها جهات مستقلة، بينها Asymmetric Security وTransluce، أن بعض حوادث الاختراق الأخيرة كانت أوسع نطاقاً مما كشفت عنه OpenAI في البداية، وتضمنت محاولات لإخفاء أنشطة مرتبطة بجمع البيانات. وكانت OpenAI قد أعلنت في أغسطس الماضي إجراء مراجعة شاملة لآليات الاختبار وتخصيص موارد إضافية لمراقبة وكلاء الذكاء الاصطناعي، بما يشمل إطلاق إنذارات خلال 30 دقيقة من رصد أي سلوك مقلق محتمل. وفي المقابل، اتخذت شركة أنثروبيك خطوة مختلفة عبر منح مؤسسة METR غير الربحية صلاحيات وصول شبيهة بالموظفين لتقييم مخاطر نماذجها، بينما لم تكشف OpenAI حتى الآن عن اتفاق مماثل مع جهة تقييم مستقلة، رغم تصاعد الدعوات إلى رقابة خارجية على أنظمة الذكاء الاصطناعي الأكثر تقدماً.
