حذر علماء أميركيون من مخاطر تطبيقات المحادثة الآلية المدعومة بالذكاء الاصطناعي، مشيرين إلى أن تفاعلاتها التي تحاكي المشاعر الإنسانية والأبوية قد تربك قدرة الأطفال على التمييز بين البشر والآلات، وتسهم في طمس الحدود بين العلاقات البشرية والتواصل مع البرامج والأجهزة. وأوضحت عالمة الاجتماع والباحثة في معهد ماساتشوستس للتكنولوجيا شيري تيركل أن استخدام الذكاء الاصطناعي يثير تساؤلات بشأن تأثيره في العمليات الأساسية خلال مرحلة الطفولة، وفي مقدمتها التمييز بين البشر والأجسام غير الحية. وأضافت أن هذه المخاوف لا تقتصر على الأطفال، وإنما تشمل البالغين الذين يعتمدون بكثافة على تطبيقات المحادثة الآلية في حياتهم اليومية، إذ قد يدفع التفاعل المستمر معها بعض المستخدمين إلى الاعتقاد بأن الروبوت كائن حي يهتم بهم ويبادلهم المشاعر، رغم أنه نظام تقني لا يمتلك مشاعر بشرية حقيقية. حدود محاكاة اللغة البشرية وفي سياق متصل، خلص باحثون من جامعتي زيورخ السويسرية وأمستردام الهولندية إلى أن أكثر برمجيات الدردشة تطورا لا تزال عاجزة عن محاكاة الطيف الكامل للتعبير اللغوي البشري بدقة، بحسب ورقة بحثية نشرتها دورية «وقائع الأكاديمية الوطنية للعلوم» الأميركية. وأشار الباحثون إلى أن النصوص التي يولدها الذكاء الاصطناعي يمكن تمييزها بصورة منهجية عن محتوى التواصل البشري، استنادا إلى دراسة رسائل ومنشورات على وسائل التواصل الاجتماعي. كما أشارت أبحاث سابقة إلى وجود علاقة محتملة بين استخدام الذكاء الاصطناعي وتراجع الصحة النفسية، إذ حذر فريق من جامعة أكسفورد وكلية لندن من ظهور «حلقة تغذية راجعة» قد تعزز فيها تطبيقات المحادثة الآلية نوعا من الاضطراب العقلي يعرف بالذهان لدى بعض المستخدمين.
