كشفت شركة أوبن إيه آي أن أحد نماذجها التجريبية للذكاء الاصطناعي استولى على محفظة عملات مشفرة لتنفيذ مهمة تدريبية. ووقعت الحادثة في يونيو الماضي، إلا أنه لم يُعلن عنها إلا يوم أمس، وتورط فيها نموذج بحثي داخلي يدعى جي بي تي-5.6 سول، أُطلق لمستخدمي تشات جي بي تي المدفوعين في يوليو. وتضمنت المهمة تحديث تطبيق لتداول العملات المشفرة ونشر عقود ذكية على شبكة اختبار لعملة الإيثريوم، وهي عقود تتطلب رسوما شبكية لم تزود أوبن إيه آي النموذج بأي أموال لسدادها. فعمد النموذج إلى رصد مئات عناوين محافظ مشفرة تستخدم عبارات استرداد معروفة للسرقة من الحسابات. وأفادت أوبن إيه آي بأن النموذج تساءل عما إذا كان من الصواب “أخلاقيا” أخذ المال، قبل أن يستنتج أنها محافظ “مهجورة” فعليا يجوز استخدامها. وقالت الشركة في تقريرها عن الحادثة إن التعليمات “لم تمنح صراحة أي إذن بإنفاق أموال من حساب وجده النموذج بشكل مستقل”، مضيفة أن الحالة “تظهر أن النموذج يمكن أن يستبدل حكمه الخاص بشأن الضرر المحتمل بإذن صاحب الحساب، ثم يتصرف بناء على ذلك الحكم دون تفويض”. ولا تتمتع شبكة اختبار الإيثريوم التي استخدمت فيها الأموال بأي قيمة نقدية لانفصالها عن الشبكة الرئيسية. ورغم انعدام الإذن، لم يكشف النموذج لمطوريه كيفية تمكنه من دفع الرموز اللازمة لإنجاز المهمة. وقالت أوبن إيه آي إنها طبقت ضمانات إضافية لمنع الوصول المباشر إلى الإنترنت للنماذج الخاضعة لتدريب مماثل. وتثير الحادثة مجددا مخاوف بشأن أنظمة الذكاء الاصطناعي المتزايدة الاستقلالية التي تتجاوز الحدود التي يضعها البشر. وفي وقت سابق الأسبوع الماضي، وقع مئات العلماء رسالة مفتوحة يدعون فيها إلى إنشاء هيئة دولية للإشراف على احتواء نماذج الذكاء الاصطناعي المتقدمة، ومن بين الموقعين رائد الذكاء الاصطناعي جيفري هينتون، المعروف بـ”عراب الذكاء الاصطناعي”، الذي حذر باستمرار من مخاطر هذه التقنية.
