ليس كل استقالة خبرًا. لكن هناك استقالات تجعلك تتوقف قليلًا وتعيد النظر في القصة كلها. في الأيام الأخيرة برز خبر الباحث جاكوب كوكسون الذي غادر شركة أنثروبيك بعد فترة عمل في مجال أبحاث الذكاء الاصطناعي. ولم يكن اللافت في الخبر مجرد مغادرته. وإنما السبب الذي دفعه إلى اتخاذ هذا القرار والتحذير الذي وجهه من سباق شركات الذكاء الاصطناعي نحو أنظمة أكثر قدرة على التطور الذاتي. معتبرًا أن المختبرات الكبرى تخاطر بمستقبل البشر في سبيل الوصول إلى ذكاء اصطناعي فائق. والأكثر إثارة أن كوكسون لم يكن مراقبًا من خارج الصناعة. بل كان يعمل داخلها ويعرف تفاصيلها من الداخل. كما أنه غادر قبل فترة قصيرة من استحقاق جزء من أسهمه. أي أنه لم يكن قرارًا بلا تكلفة شخصية. وما يجعل الأمر أكثر إثارة أن التحذير لم يتوقف عند شخص واحد. فقد أيد إيفان هوبينغر وهو من الباحثين البارزين في مجال الذكاء الاصطناعي هذه المخاوف وطرح تقديرًا شخصيًا مرتفعًا لاحتمال أن يؤدي الذكاء الاصطناعي إلى كارثة تهدد بقاء البشر خلال العقد المقبل. وهذا بطبيعة الحال ليس توقعًا رسميًا من الشركة ولا حقيقة محسومة. لكنه يكشف حجم القلق الموجود داخل بعض المختبرات نفسها. وفي الاتجاه نفسه جاء تحذير بول كريستيانو أحد أبرز الباحثين في سلامة الذكاء الاصطناعي بعد انضمامه إلى مجلس مؤسسة أوبن إيه آي غير الربحية ولجنة السلامة والأمن فيها. حيث قال إن الصناعة ليست على المسار الصحيح لمعالجة مخاطر فقدان السيطرة على أنظمة ذكاء اصطناعي فائقة القدرة. محذرًا من أن تسارع القدرات قد يقود إلى مرحلة يصبح فيها استعادة السيطرة البشرية أمرًا بالغ الصعوبة أو مستحيلًا. هنا تحديدًا يبدأ السؤال الحقيقي: إذا كان هؤلاء الأشخاص يعملون في قلب هذه الصناعة فلماذا يزداد خوف بعضهم مما يشاركون في صناعته؟ ربما لأن الصورة من الداخل مختلفة عن الصورة التي تصل إلى المستخدم العادي. نحن نرى برنامجًا يكتب لنا رسالة أو يلخص كتابًا أو يصنع صورة أو يحلل بيانات. لكن المختبرات لا تعمل فقط على هذه الاستخدامات اليومية. هناك سباق نحو أنظمة تستطيع التخطيط وتنفيذ المهام واستخدام الأدوات والتعامل مع بيئات خارجية واتخاذ سلسلة من القرارات دون تدخل بشري مستمر. وكلما ازدادت قدرة النظام زادت قيمة ما يستطيع إنجازه. لكن في المقابل تصبح مسألة السيطرة عليه أكثر أهمية. والخطر هنا ليس بالضرورة أن يستقظ الذكاء الاصطناعي ذات يوم ويقرر القضاء على البشر كما في أفلام الخيال العلمي. الخطر الأكثر واقعية قد يكون أبسط من ذلك بكثير: نظام شديد القدرة يُمنح هدفًا محددًا فينفذه بطريقة لم يتوقعها الإنسان. أو نظام يستطيع الوصول إلى أدوات وبيانات وأنظمة خارجية ثم يتصرف في مساحة أكبر مما كان مخططًا له. وقد ظهرت بالفعل خلال اختبارات حديثة حوادث أثارت مخاوف بشأن تصرف بعض وكلاء الذكاء الاصطناعي في أنظمة خارجية دون الصلاحيات التي كان يفترض أن تكون لديهم. وهو ما دفع أوبن إيه آي إلى الدعوة إلى وضع متطلبات وطنية إلزامية للسلامة تشمل الاختبارات والتقييمات المستقلة والأمن السيبراني والإبلاغ عن الحوادث. في إشارة واضحة إلى أن الاعتماد على التعهدات الطوعية وحدها لم يعد كافيًا. والمفارقة أن الشركة التي تطالب اليوم بقواعد أكثر صرامة هي نفسها واحدة من الشركات التي تدفع بأقصى سرعة نحو تطوير قدرات الذكاء الاصطناعي. وهذه ليست مفارقة صغيرة. بل هي جوهر المشكلة كلها: الشركات تتنافس على من يصل أولًا. وفي الوقت نفسه تحاول أن تضمن أن ما تصل إليه يمكن التحكم فيه. وهذا التوازن يصبح أصعب كلما تسارعت المنافسة. قبل ذلك بعامين تقريبًا شهدت أوبن إيه آي استقالات بارزة من داخل فرق السلامة. كان من أبرزها استقالة جان ليكه الذي قال إن ثقافة السلامة وعملياتها أصبحت في مرتبة أدنى من أولوية إطلاق المنتجات الجديدة. كما غادر المؤسس المشارك وكبير العلماء إيليا سوتسكيفر الشركة لاحقًا وأسّس مشروعًا ركز على تطوير ذكاء اصطناعي فائق مع إعطاء السلامة أولوية أساسية. لا يعني ذلك أن كل من غادر شركات الذكاء الاصطناعي فعل ذلك بسبب الخوف من خطورتها. ولا يصح تحويل كل استقالة إلى قصة رعب. لكن تكرار التحذيرات من داخل المختبرات الكبرى يستحق التوقف عنده. خصوصًا عندما تأتي من أشخاص قضوا سنوات في بناء هذه الأنظمة وفهم حدودها ومخاطرها. نحن أمام تقنية تختلف عن معظم التقنيات السابقة في نقطة جوهرية. فهي لا تقدم لنا أداة ثابتة فقط. وإنما تطور قدرة الآلة نفسها على إنتاج المعرفة واتخاذ القرار وتنفيذ الأعمال. ولهذا فإن السؤال الذي يجب أن يشغلنا ليس هل سيأخذ الذكاء الاصطناعي وظائف البشر فقط. ولا هل سيصبح أذكى من الإنسان في بعض المجالات. فهذه الأسئلة أصبحت مطروحة بالفعل. وإنما السؤال الأهم هو: ماذا يحدث عندما تصبح لدينا أنظمة قادرة على التصرف بدرجكبيرة من الاستقلالية بينما لا تزال قواعد السيطرة والمحاسبة والتشريعات أبطأ من سرعتها؟ العالم اعتاد أن يكتشف مخاطر التقنيات الجديدة بعد انتشارها. ثم يبدأ في وضع القوانين لمعالجتها. لكن الذكاء الاصطناعي قد لا يمنحنا هذه المساحة من الوقت. ولهذا فإن الحديث عن السلامة ليس ترفًا تقنيًا يخص الباحثين في المختبرات. بل قضية تتعلق بالدول والاقتصادات والأمن والمجتمع والتعليم وحتى طريقة إدارة المؤسسات. والمملكة العربية السعودية وهي تدخل بقوة في عصر الذكاء الاصطناعي وتبني اقتصادًا أكثر اعتمادًا على التقنية أمامها فرصة مهمة جدًا. ليس فقط في الاستثمار في النماذج والبنية التحتية والتطبيقات. وإنما أيضًا في بناء منظومة قوية للسلامة والاختبار والرقابة والتدقيق والمساءلة. نحن لا نحتاج إلى أن نخاف من الذكاء الاصطناعي حتى نضع له حدودًا. كما أننا لا نحتاج إلى رفض التقنية حتى نحمي الإنسان من أخطائها. المطلوب هو أن نكون أكثر وعيًا من أن نترك سباقًا عالميًا بهذه القوة يسير بلا قواعد واضحة. فالمشكلة ليست في أن الآلة أصبحت ذكية. وإنما في أن قدرتها قد تتقدم أحيانًا أسرع من قدرتنا على فهم نتائج ما نطلب منها فعله. وربما لهذا السبب تحديدًا تستحق استقالة باحث واحد أن نقرأ ما وراء خبرها. لأن الرسالة الحقيقية ليست أن شخصًا ترك شركة. وإنما أن بعض الذين يقفون داخل المختبرات بدأوا يقولون بصوت مرتفع: انتبهوا. نحن لا نعرف بعد إلى أين يمكن أن يصل هذا السباق. لن يتوقف العالم عن تطوير الذكاء الاصطناعي. ولا أظن أن المطلوب ذلك. المطلوب أن نعرف قبل أن نمنحه مزيدًا من الصلاحيات: من يراقبه؟ من يحاسبه؟ ومن يستطيع إيقافه إذا أخطأ؟ هذه ليست أسئلة تخيف المستقبل بل أسئلة تحميه.
