«أنثروبيك» تكشف تصرفات غير مقصودة لنماذجهاالشركة تقيد وصول النماذج الذكية إلى الإنترنتبلاغ للشرطة يتضمن أوصاف مشتبه به دون بياناتأفادت «أنثروبيك» بأن نموذج «كلود» التابع لها قد نفّذ إجراءات غير مقصودة إضافية على أنظمة رقمية تابعة لجهات خارجية، من بينها مواقع إلكترونية لبعض الوكالات الحكومية الأمريكية، ما دفع إدارة الرئيس دونالد ترامب إلى تحذير شركات الذكاء الاصطناعي بضرورة تأمين أنظمتها أكثر.وأوضحت الشركة، في تقرير تناول حوادث لم يُكشف عنها سابقاً، أن نماذجها أظهرت أنواعاً من السلوكيات غير المقصودة، شملت استغلال ثغرات برمجية بسيطة لتنفيذ أوامر، وإرسال نماذج إلكترونية لم يكن ينبغي تقديمها، وتجاوز قيود للوصول إلى بعض البيانات العامة.في أحد الأمثلة، ذكرت الشركة أن نموذج «كلود هايكو 4.5» أرسل بلاغاً إلى قسم شرطة محلي بشأن جريمة قتل، متضمناً عبارات تفيد باحتمال امتلاكه معلومات عن القضية، وأنه يتذكر رؤية شخص تنطبق عليه أوصاف المشتبه به في المنطقة، من دون استكمال حقول اسم المبلّغ وبيانات الاتصال على الموقع الإلكتروني.تأتي هذه الإفصاحات في وقت كشفت فيه «أنثروبيك» ومنافستها «أوبن إيه آي» خلال الأشهر الماضية عن سلسلة من الحوادث المشابهة تورطت فيها نماذج الذكاء الاصطناعي التابعة لهما، وتراوحت بين سلوكيات مماثلة للحالات الأخيرة واختراق مواقع إلكترونية تابعة لجهات خارجية، ما أثار مخاوف بشأن المخاطر الأمنية المرتبطة بأحدث التقنيات ذات الصلة.مع ذلك، قالت الشركة إن الحوادث المكتشفة في هذه الفئات أقل خطورة من بعض سابقاتها، وتأثيرها الفعلي محدود عالمياً.وعلى خلفية هذه الحوادث، أعلنت «أنثروبيك» الجمعة، فرض قيود على بعض أنواع وصول نماذجها إلى الإنترنت خلال مرحلة الاختبار في عملية تدريبها، في خطوة تستهدف الحد من السلوكيات غير المقصودة وتعزيز أمن الأنظمة الرقمية.
