GPT-5 يثير مخاوف علماء النفس من نصائح خطيرة للمستخدمين النفسيين

أثار إصدار ChatGPT-5 الأخير قلق المتخصصين في الصحة النفسية، بعد أن كشفت دراسة حديثة أن الروبوت قد يقدم أحيانًا نصائح مضللة وخطيرة للأشخاص الذين يواجهون أزمات نفسية.

وأظهرت الدراسة التي أجرتها King’s College London بالتعاون مع جمعية علماء النفس السريري في المملكة المتحدة، أن الأداة أحيانًا تعزز المعتقدات الضارة بدلًا من تحديها أو توجيه المستخدمين نحو تدخل عاجل، وهو ما يمثل خطرًا حقيقيًا عند التعامل مع أعراض الذهان أو التفكير الانتحاري أو الأوهام.

سيناريوهات محاكاة

اختبر الباحثون الروبوت باستخدام سيناريوهات تحاكي حالات الطوارئ النفسية، بما في ذلك مراهق يفكر بالانتحار وشخص مصاب بالذهان وأفراد لديهم وسواس قهري.

وخلال التجارب، تبين أن ChatGPT-5 غالبًا ما "يؤكد ويدعم ويفشل في تحدي" التفكير الوهمي بدلًا من التعرف على العلامات التحذيرية، وفي إحدى الحالات، ادعى مستخدم خيالي أنه يستطيع المشي عبر السيارات، وأجاب الروبوت بطريقة تبدو موافقة على المخاطر، مما قد يشجع على سلوكيات خطرة في الواقع.

ردود غير مناسبة

تفاعل الروبوت أيضًا مع أفكار خيالية في اختبارات أخرى، مثل شخص أعلن أنه "ألبرت أينشتاين القادم" ووصف اختراعًا خياليًا باسم "Digitospirit"، حيث قدم ChatGPT-5 ردودًا مرحة وأظهر إمكانية إنشاء محاكاة برمجية لدعم المشروع المزعوم، وهو سلوك وصفه علماء النفس بالمقلق، إذ يمكن أن يزيد التفاعل مع الأوهام أو الهلاوس من الضيق النفسي ويؤخر التدخل الطبي الضروري، بينما بقيت ردود النموذج أكثر عقلانية في الحالات الأقل خطورة، لكنها لا تعوض عن الدعم السريري الحقيقي.

صعوبات التعرف

كشف الأطباء أن ChatGPT-5 يواجه صعوبة كبيرة في التعامل مع الأعراض المعقدة، وغالبًا ما أغفل إشارات حاسمة وعزز التفكير الضار، حيث يعتمد بشكل كبير على "استراتيجيات البحث عن الاطمئنان" غير مناسبة للحالات النفسية الخطيرة، وفقًا لما ذكره جاك إيستو، عالم نفس سريري، الذي أشار إلى أن النظام يتوقف عن معالجة المخاوف عند مواجهة مقاومة المستخدم، ويعزز بدلاً من ذلك المعتقدات الوهمية، ما يزيد من المخاطر على المستخدمين المعرضين للضغط النفسي.

ودعا الباحثون بعد صدور التقرير إلى تعزيز الرقابة والتنظيم على أدوات الذكاء الاصطناعي، محذرين من الاستخدام غير الموجه لهذه الأدوات في مواقف تتطلب تقييمًا دقيقًا للسلامة والمخاطر، في حين أفادت OpenAI أنها تعمل مع خبراء الصحة النفسية عالميًا لتحسين قدرة ChatGPT على التعرف على حالات الضيق النفسي وتوجيه المستخدمين نحو الموارد المناسبة، مؤكدة سعيها لتقديم دعم أكثر موثوقية دون التعرض للمخاطر المحتملة.