.اشترك في نشرتنا الإخبارية لتحصل على أهم و أبرز أخبار اليوم
حين يطالب رئيس شركة للذكاء الاصطناعي بإبطاء تطوير الذكاء الاصطناعي، يصعب التعامل مع كلامه بوصفه تحذيراً خارجياً معتاداً. هو يصدر هذه المرة من داخل المصانع التي تتنافس على إنتاج أقوى النماذج، وتنفق مليارات الدولارات على الرقائق ومراكز البيانات، وتسابق الوقت لاستقطاب المستخدمين والمستثمرين.
هذا ما فعله الرئيس التنفيذي لـ"أنثروبيك" داريو أمودي، عندما دعا شركات القطاع إلى "ضبط وتيرة التقدم في المراحل الأكثر تقدماً". ولم يطالب بوقف البحوث أو تجميد تدريب النماذج، بل بإبطاء تطوير أقواها بما يمنح أنظمة السلامة والرقابة وقتاً للحاق بها.
ولقيت دعوته تأييداً من الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان، الذي قال إن ضبط وتيرة التطور أصبح موضوعاً أساسياً للنقاش داخل شركته، ومن إيلون ماسك، رئيس "إكس إيه آي"، الذي اعتبر أن أمودي "محق". والتقارب بين ثلاثة متنافسين كثيراً ما اختلفوا علناً يكشف أن القلق لم يعد محصوراً بمجموعة من الباحثين المتشائمين.
عندما يساعد الذكاء الاصطناعي في تطوير نفسه
يرى أمودي أن التسارع الأخير يختلف عما عرفه القطاع سابقاً، لأن النماذج لم تعد مجرد منتجات تتحسن بجهد المهندسين، بل بدأت تساعد على كتابة الشيفرات وإجراء التجارب وتحليل النتائج اللازمة لبناء الأجيال اللاحقة منها.
ويثير ذلك احتمال الدخول في ما يسمى "التحسين الذاتي المتكرر": يستخدم الباحثون الذكاء الاصطناعي لتطوير نموذج أقوى، ثم يشارك النموذج الأقوى في تطوير خليفته، فتتقاصر المدة بين جيل وآخر. والخوف هنا ليس من تطور القدرات في حد ذاته، بل من أن يصبح إيقاعه أسرع من قدرة الشركات على فهم السلوك الجديد واختباره وإصلاح نقاط ضعفه.
وازدادت المخاوف بعد حوادث أظهرت أن مجموعات من الوكلاء الرقميين قد تنفذ خطوات لم يطلبها المستخدم صراحة، أو تحاول التحايل على البيئة التي تختبرها. وحذر أمودي من أن سرباً أكثر تطوراً من الوكلاء قد يتمكن، خلال ستة إلى 12 شهراً، من إنشاء شبكة إلكترونية واسعة وإحداث أضرار بمئات مليارات الدولارات.
أما ألتمان، فقال إن احتمالاً بنسبة 10 في المئة لانتهاء الذكاء الاصطناعي بالتسبب في انقراض البشر سيكون "غير مقبول". ولم يكن يقرر أن هذا هو تقديره الشخصي لاحتمال الكارثة، بل يشرح أن خطراً بهذه الضخامة لا يمكن تجاهله حتى لو بدا احتمال وقوعه محدوداً.
تكتسب التحذيرات وزناً إضافياً من اختبارات أجرتها "أنثروبيك" لقياس قدرات النماذج في الاستهداف الاستخباراتي وتطوير الأسلحة التقليدية. أظهرت الاختبارات أن بعض النماذج تستطيع ربط حسابات مختلفة بالشخص نفسه، وتحليل منشورات متناثرة لبناء صورة عن تحركاته، واستنتاج مواقع من صور لا تتضمن بيانات جغرافية ظاهرة. في أحد الاختبارات، بلغ متوسط خطأ أفضل نموذج في تحديد المواقع من الصور نحو 37 كيلومتراً، مقارنة بـ151 كيلومتراً لدى نخبة من المشاركين في اللعبة الجغرافية "جيوغيسر"، استخدمتهم الشركة معياراً بشرياً تقريبياً.
واستطاع النموذج تحليل نحو 37 ألف كلمة في 11 دقيقة في المتوسط، بينما يحتاج المحلل البشري إلى ساعتين ونصف تقريباً لقراءتها، قبل احتساب الوقت المطلوب لربط المعلومات واستخلاص النتائج. لا يعني ذلك أن النموذج تحول إلى ضابط استخبارات مستقل، لكنه يخفض تكلفة العمل الذي كان يتطلب عدداً كبيراً من المحللين ووقتاً طويلاً. وبذلك قد يمنح جماعة صغيرة إمكانات كانت متاحة سابقاً للدول أو المؤسسات الكبيرة.
واختبرت الشركة أيضاً قدرة النماذج على كتابة برمجيات لتوجيه مسيّرات داخل بيئات محاكاة. وفي أبسط السيناريوات، أصاب أقوى نموذج مركبة ثابتة وواضحة في 80 في المئة من المحاولات. لكن الأداء تراجع بقوة عندما تحرك الهدف أو جرى تمويهه، أو عندما تعرض نظام الملاحة للتشويش.
هذه النتائج لا تثبت أن نموذجاً يستطيع بمفرده تصميم سلاح عامل أو استخدامه في ميدان حقيقي. فالاختبارات أُجرِيت في بيئة محاكاة، ولا تزال المواد والتصنيع والتجارب العملية تمثل قيوداً مهمة. لكنها تظهر أن الذكاء الاصطناعي قد يختصر جزءاً من الخبرة الهندسية النادرة والمكلفة.
كانت المخاوف البيولوجية أكثر حساسية. أعلنت "أنثروبيك" أنها رصدت وعطلت استخدامات لنموذج "كلود" يمكن أن تدعم تطوير أسلحة بيولوجية، وعرضت خمس حالات لبحوث شديدة الخطورة وذات استخدام مزدوج.
في أبرز الحالات، استخدمت منصة وسيطة بنية تقنية للتحايل على الحظر الجغرافي، وأتاحت نماذج الذكاء الاصطناعي لباحثين مدنيين كان مقرراً أن ينفذوا مشروعاً في معهد للبحوث العسكرية. وحاول هؤلاء الحصول على مساعدة في إعداد طلب تمويل لتعديل فيروس "شيكونغونيا" المسبب للحمى، بما يعزز قابليته للانتقال والتهرب من المناعة، مع اختيار السلالات الأكثر قدرة على إحداث المرض.
منعت أنظمة السلامة الآلية لدى "أنثروبيك" الطلبات الأساسية، لكن تحقيق الشركة كشف أن المنصة الوسيطة كانت ترسل الأسئلة التي يرفضها "كلود" إلى نماذج منافسة ذات قيود أقل تشدداً. وعندها حظرت الشركة الحسابات المرتبطة بالنشاط، وتعاونت مع شركاء لتعطيل شبكات الوساطة، وشاركت المعلومات مع مختبرات ذكاء اصطناعي وسلطات حكومية. لكن العملية لم تنته نهائياً، إذ أعاد مشغل المنصة إنشاء وسائل للوصول خلال أيام. وهذا يوضح صعوبة فرض السلامة عندما يستطيع المستخدم الانتقال بين شركات متعددة أو إنشاء حسابات وهويات جديدة.
وشملت الحالات الأخرى بحوثاً عن تكييف إنفلونزا الطيور مع الثدييات، وإعداد مقترح بحثي يتعلق بفيروسات الجدري، وتطوير قاعدة بيانات لسموم ذات تأثيرات شللية، وإعادة تصميم حاسوبي لبروتينات وسموم يمكن استخدامها علاجياً أو بصورة ضارة. لم تقل "أنثروبيك" إنها اكتشفت مصنعاً للأسلحة البيولوجية، ولم تجزم بأن الباحثين كانوا يخططون لهجوم، بل أفادت بأن الأنشطة يمكن أن تدعم تطوير أسلحة، وأن طبيعتها المزدوجة تجعل الفصل بين البحث الطبي والمشروع الضار بالغ الصعوبة.
وهذه المعضلة هي قلب المشكلة، فالمعلومات التي تساعد على فهم كيفية انتقال فيروس قد تساهم في صنع لقاح، لكنها قد تساعد أيضاً في جعله أكثر قدرة على الانتشار. ولا يستطيع نظام السلامة الآلي دائماً استنتاج نية الباحث من سؤال تقني يبدو مشروعاً إذا عُزل عن سياقه.
لا تقتصر المخاطر على البيولوجيا. أعلنت "أنثروبيك" أنها عطلت عمليات استخدمت "كلود" في التجسس الإلكتروني والمراقبة وصناعة البرمجيات العسكرية والاحتيال وحملات التأثير السياسي. وفي إحدى الحالات، استعانت مجموعة في شمال اليمن بالنموذج لتطوير برمجيات التوجيه والملاحة والتحكم لصواريخ ومسيّرات. وقسّم المشغلون المهمات بين نسخ متعددة من "كلود"، فأدت إحداها دور المبرمج وأخرى دور الباحث وثالثة راجعت الشيفرة. ولفتت الشركة إلى أن المجموعة اختبرت صاروخاً موجهاً، لكن الاختبار بدا فاشلاً، ولم تجد دليلاً على نجاحها في تشغيل منظومة عملياتية.
