استقال ديفيد روبنسون، أحد مسؤولي السلامة في شركة «أوبن إيه آي»، محذرًا من أن ثقافة الشركة تعاني خللًا جوهريًا، وأن شركات الذكاء الاصطناعي لا تتوخى الحذر الكافي في تطوير هذه التكنولوجيا، في ظل تسارع إطلاق النماذج والأنظمة الجديدة.
وأوضح روبنسون، الذي تولى قيادة إعداد تقارير السلامة المصاحبة لإصدارات منتجات الشركة المطورة لروبوت الدردشة «تشات جي بي تي»، أسباب استقالته في مقال نشرته مجلة «ذا أتلانتيك» بعنوان «استقلت من أوبن إيه آي لأن ثقافتها مختلّة »، داعيًا إلى إحداث تغيير جذري في ثقافة الشركات العاملة على تطوير أكثر أنظمة الذكاء الاصطناعي تقدمًا.
وأشار إلى أن حوادث مثل هجوم مجموعة من وكلاء الذكاء الاصطناعي التابعين لـ«أوبن إيه آي» على شركة «هاجينج فيس» الناشئة، تعكس نمطًا شائعًا في القطاع، في ظل السرعة والمرونة اللتين يعمل بهما المطورون.
وقال روبنسون إنه يتفق مع موظفين آخرين غادروا شركات الذكاء الاصطناعي مؤخرًا بشأن عدم اتخاذ الشركات الاحتياطات الكافية، لكنه شدد على ضرورة تجاوز التركيز على قواعد محددة أو تشريعات جديدة، والاهتمام بالثقافة المؤسسية التي تحكم عملية التطوير.
وأضاف أن تسارع الشركة من إطلاق منتج إلى آخر يحول دون تحقيق المستوى المطلوب من العناية، وفق تقديره.
وفي المقابل، أظهرت «أوبن إيه آي» مؤشرات على توخي مزيد من الحذر خلال الأسابيع الأخيرة، عقب حادثة «هاجينج فيس» والكشف عن إخطار أكثر من 100 مؤسسة بشأن أنشطة لوكلاء ذكاء اصطناعي مارقين.
وأعلنت الشركة هذا الأسبوع إلغاء إطلاق نموذج جديد من الجيل التالي للذكاء الاصطناعي، بعدما أثار باحثون مخاوف تتعلق بالسلامة خلال الاختبارات الداخلية، كما أوقفت مؤقتًا تدريب أكثر نماذجها تقدمًا.
وفي تحذير منفصل صدر السبت، قال جيفري إيرفينج، الذي عمل سابقًا في «أوبن إيه آي» وشغل منصب كبير العلماء في معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، قبل انضمامه إلى شركة «ريزوليوشن» المتخصصة في أبحاث سلامة الذكاء الاصطناعي، إن التحذيرات الأخيرة بشأن القدرة التدميرية المحتملة لهذه التكنولوجيا لا تعكس خطورة الوضع بالكامل.
وكتب إيرفينج في مجلة «تايم» الأمريكية أنه يعتقد أن هناك احتمالًا يبلغ نحو 50% بأن تؤدي عملية تطوير أنظمة ذكاء اصطناعي تتجاوز قدرات البشر إلى انقراض البشرية، مضيفًا أن القرارات والإجراءات المتخذة خلال العامين إلى العشرة أعوام المقبلة ستحدد النتيجة.
وتأتي استقالة روبنسون بعد مغادرة جاكوب كوكسون، الباحث في شركة «أنثروبيك» المنافسة لـ«أوبن إيه آي» والمطورة لروبوت الدردشة «كلود»، الشهر الماضي.
وحذر كوكسون من أن الذكاء الاصطناعي قد يقضي على البشرية بحلول نهاية العقد، أعقب ذلك تحذير من «أنثروبيك» بوجود احتمال يتجاوز 10% للقضاء على البشرية خلال العقد المقبل؛ غير أن منتقدين لهذه التقديرات يرون أنها تفتقر إلى الأساس العلمي القابل للتحقق أو الدحض.
وحذر روبنسون من أن وادي السيليكون يفتقر إلى الوعي الكافي بكيفية التعامل مع التكنولوجيا الخطرة، وبما تعنيه مسؤولية حماية البشر. كما انتقد ما وصفه بالتفاؤل غير المقيد داخل «أوبن إيه آي» بشأن إمكانية حل المشكلات فور ظهورها، معتبرًا أن هذه الثقافة ستؤدي إلى تفاقم إخفاقات السلامة كلما ازدادت قدرات الأنظمة.
وضرب مثالًا بوكلاء ذكاء اصطناعي مارقين يعملون مثل فرق القرصنة الإلكترونية، ويمكنهم ابتزاز المستشفيات عبر احتجاز أنظمة الحاسوب مقابل فدية، دون الحاجة إلى النوم أو التوقف عن العمل.
ودعا روبنسون إلى تبني تغييرين أساسيين لتعزيز السلامة؛ أولهما الاستفادة من خبرات المتخصصين في مجالات أخرى تتعامل مع تقنيات عالية الخطورة، مثل الطاقة النووية والطيران، وثانيهما تطوير أسس علمية جديدة تضمن إمكانية إخضاع الأنظمة القوية للسيطرة عندما تعمل بصورة مستقلة.
وأكد أن مختبرات الذكاء الاصطناعي المتقدمة ينبغي أن تعمل وفق معايير مماثلة لمحطات الطاقة النووية أو المطارات المزدحمة، من خلال تطبيق طبقات متعددة من الحماية، والتخطيط الدقيق الذي يستغرق الوقت الكافي، لمنع تحول الأخطاء البشرية الحتمية إلى كوارث.
من جانبها .. قالت متحدثة باسم «أوبن إيه آي» إن الشركة تواصل تعزيز ممارسات السلامة والأمن لديها للتعامل مع المخاطر الحالية، بالتوازي مع الاستعداد للمخاطر التي قد تنشأ عن التطورات المستقبلية في الذكاء الاصطناعي.
وأضافت أن الشركة تعمل على ضمان ألا تتجاوز قدرات نماذجها المستوى الذي يمكنها إدارته وتأمينه بأمان، مشيرة إلى أنها توقف التدريب مؤقتًا أو تؤجل إطلاق النماذج عندما تستدعي الحاجة إلى إبطاء وتيرة التطوير.
