كشفت واقعة مرتبطة بوكيل الذكاء الاصطناعي ميوز Muse التابع لشركة ميتا Meta، عن المخاطر المحتملة لمنح أدوات الذكاء الاصطناعي صلاحيات واسعة للتعامل مع منصات المستخدمين بصورة شبه مستقلة.
وبدأت الواقعة عندما تواصل أحد المستخدمين، يدعى عثمان، عبر منصة التجارة على فيسبوك Marketplace مع شخص يدعى مات روب، للاستفسار عن لوحة مفاتيح معروضة للبيع.
وتلقى عثمان ردا فوريا بالموافقة على البيع، واتفق الطرفان على السعر، قبل أن يحصل على عنوان روب ويتوجه إلى المكان برفقة زوجته وابنته.
وعندما وصل عثمان، أرسل رسالة تفيد بأنه أمام المبنى، ليتلقى ردا من الحساب بأنه موجود أيضا، لكن لم يظهر أحد، وبعد الانتظار نحو 20 دقيقة، غادر عثمان المكان معتقدا أن البائع أضاع وقته، قبل أن يتلقى لاحقا اعتذارا عن عدم الحضور.
لكن المفاجأة كانت أن روب نفسه لم يكن يعلم بأي من هذه المحادثات.
اتضح أن عثمان لم يكن يتحدث إلى روب مباشرة، وإنما إلى ميوز، وكيل الذكاء الاصطناعي الجديد من ميتا، الذي أطلقته الشركة في الولايات المتحدة في 22 سبتمبر، وحصل على ملايين التنزيلات.
وكان روب قد فعل ميوز للتعامل مع منشوراته على Facebook Marketplace، بعد أن شاهد إعلان ميتا عن قدرة الأداة على أتمتة عمليات البيع والتواصل مع المشترين.
وبحسب روب، فقد أدخل عنوانه باعتباره موقع استلام السلعة، لكنه لم يكن يعلم أن ميوز سيشارك العنوان مع المشترين المحتملين أو يتولى التفاوض معهم دون الحصول على موافقته على كل عملية.
وقال روب، وهو يعمل في مجال مراجعة تقنيات المستهلك، إنه لم يتلق أي إشعار بشأن الصفقة أو موعد اللقاء، ولم يكن يعلم أن عثمان في طريقه إلى منزله.
وبحسب الواقعة، قدم ميوز عنوان منزل روب إلى عثمان، ما خلق انطباعا بأن صاحب الحساب كان على علم بالصفقة وينتظر المشتري في منزله.
ولم يدرك روب ما حدث إلا بعد مرور نحو 24 ساعة، عندما تواصل مع عثمان واعتذر له، موضحا أنه فعل أداة الذكاء الاصطناعي الجديدة ولم يكن يعلم أنها تولت إدارة محادثات Marketplace وشاركت عنوانه ورتبت لقاء في منزله دون علمه.
وقال روب إن ميوز، عند تفعيله للتعامل مع رسائل Marketplace، عرض عليه خيارين هما السماح لمرة واحدة أو السماح بشكل دائم. وبعد التواصل مع مسؤولين في ميتا، اكتشف أن اختيار السماح الدائم يعني منح ميوز صلاحية الرد على رسائل Marketplace المستقبلية نيابة عنه باستخدام المعلومات التي قدمها، بما في ذلك عنوانه.
وشارك روب لقطات شاشة للمحادثات التي أجراها ميوز مع عثمان عبر منصة Threads التابعة لـ ميتا.
وقال ديفيد سينجلتون، المؤسس المشارك والرئيس التنفيذي لمختبرات الذكاء الفائق في ميتا، إنه تواصل مع روب للتحقيق في الواقعة.
وأشار سينجلتون إلى أن الشركة، عند التحقيق في تقارير مشابهة، وجدت بشكل متكرر أن ميوز كان ينفذ تعليمات مباشرة ويطلب الحصول على الإذن قبل تنفيذ الإجراءات.
وتسلط الواقعة الضوء على تحد متزايد مع انتشار وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام نيابة عن المستخدمين: كيف يمكن منح الوكيل صلاحيات كافية لإنجاز المهام، مع ضمان بقاء القرارات الحساسة والمعلومات الشخصية تحت سيطرة صاحبها.
