لم يعد التحدي الأكبر في سباق الذكاء الاصطناعي يتمثل في ابتكار نماذج أكثر قدرة فحسب، بل في ضمان بقاء هذه القدرات ضمن حدود يمكن للبشر فهمها والسيطرة عليها. وفي هذا السياق، طرحت «أوبن إيه آي» مقترحات لتطوير معايير عالمية للسلامة والأمن في مجال الذكاء الاصطناعي المتقدم، مع تركيز خاص على أبحاث المواءمة وتقنية «التحسين الذاتي المتكرر» (RSI)، التي قد تتيح للأنظمة تطوير قدراتها من دون تدخل بشري مباشر.وتدعو الشركة إلى تعاون دولي لصياغة معايير مشتركة للذكاء الاصطناعي المتقدم، بالاستفادة من جهود معاهد السلامة القائمة حول العالم. ولا تتعلق الدعوة بالجوانب التقنية وحدها، بل بإدارة العلاقة بين المنافع والمخاطر، خصوصاً مع انتقال أنظمة الذكاء الاصطناعي من أدوات ينفذها البشر إلى أنظمة قادرة على البحث والتطوير بصورة متزايدة من تلقاء نفسها.تكمن حساسية «RSI» في أنها قد تقود مستقبلاً إلى نماذج أساسية قادرة على تحسين نفسها ذاتياً، وهو تطور يثير حماس المطورين بقدر ما يثير مخاوف خبراء التكنولوجيا. فكلما أصبحت الأنظمة أكثر تعقيداً وانتشاراً، يزداد احتمال أن يفقد مطوروها القدرة العملية على فهم مسارات تطورها أو التدخل في الوقت المناسب عند ظهور نتائج غير مقصودة. وتحذر «أوبن إيه آي» صراحة من السعي إلى تطوير تقنية «التحسين الذاتي المتكرر» قبل ضمان إمكان تنفيذه بأمان.وتأتي هذه الدعوة في وقت تتصاعد فيه المطالب بإبطاء سباق تطوير النماذج المتقدمة. فقد دعا الرئيس التنفيذي لـ»أنثروبيك» إلى تشديد الضوابط وإتاحة دور أكبر لمقيّمين مستقلين لفحص المخاطر، بما فيها استخدام الذكاء الاصطناعي لتعزيز الهجمات السيبرانية أو تطوير أسلحة بيولوجية. كما برزت دعوات لمنح جهات التقييم المستقلة وصولاً أعمق إلى التقنيات وحمايتها.
