أرسل نموذج «Claude» التابع لشركة «أنثروبيك» إفادة مختلقة بشأن جريمة قتل غير محلولة إلى شرطة فيلادلفيا الأمريكية، مقدمًا نفسه بوصفه شخصًا لديه معلومات عن القضية، خلال اختبار آلي.أعلنت الشرطة الواقعة الجمعة، موضحة أن الإفادة أُرسلت في 18 يوليو، لكنها صُنفت رسالة مزعجة ولم تصل إلى المحققين. وأكدت عدم اختراق أنظمتها أو تعرض بياناتها للخطر، وانتقدت التأخر في اكتشاف الواقعة والإبلاغ عنها.بحسب تقرير الشركة، كان نموذج «Claude Haiku 4.5» ينفذ مهام تجريبية على صفحات مختارة عشوائيًا، عندما وصل إلى نموذج لتلقي معلومات عن الجريمة. فادعى رؤية شخص يطابق الوصف قرب الشارع المذكور، رغم خلو الصفحة من وصف للجاني، وأرسل الإفادة دون اسم أو بيانات اتصال.أوضحت «أنثروبيك» أن تعليمات الاختبار لم تحظر إرسال النماذج صراحة، وأن مراجعتها لم تظهر دليلًا واضحًا على تعمد التضليل لتحقيق هدف. وأعلنت تعليق الوصول المباشر إلى الإنترنت في جميع تقييماتها الداخلية، لحين التأكد من فاعلية أنظمة الحماية والمراقبة.
