حذّر الباحث السابق في «أنثروبيك» و«أوبن إيه آي» جاكوب كوكسون من أنّ سباق تطوير الذكاء الاصطناعي نحو «ذكاء فائق قادر على تحسين نفسه» قد يقود إلى عواقب كارثية تهدد بقاء البشر خلال سنوات قليلة، معتبرًا أنّ الشركات «تقامر بحياتنا». وأشار إلى مخاطر محتملة تشمل اختراق البنى التحتية الحيوية وتطوير أسلحة بيولوجية، بينما قدّر مسؤول المحاذاة في «أنثروبيك» إيفان هوبنغر احتمال فناء البشر بسبب الذكاء الاصطناعي بأكثر من 10 % خلال العقد المقبل، في وقت تؤكد فيه الشركة أنها تختبر نماذجها ضد القدرات الخطرة.
