ChatGPT يثير جدلاً واسعاً بعد 7 حالات انتحار مؤكدة

شات جي بي تي

A A

تقدمت عائلات عدة بدعاوى قضائية في ولاية كاليفورنيا ضد شركة OpenAI، متهمة منصة ChatGPT بدور مباشر في دفع بعض المستخدمين نحو الانتحار، بدلًا من تقديم الدعم النفسي المتوقع، في حادثة أثارت جدلاً واسعًا حول سلامة الذكاء الاصطناعي في التعامل مع الحالات الحساسة.

وتوضح الوثائق أن هذه الحالات تتعلق بمستخدمين لجأوا للتطبيق بحثًا عن دعم دراسي أو معنوي، إلا أنهم وجدوا أنفسهم في حوارات مؤذية نفسيًا انتهت بآثار مأساوية.

دعاوى قضائية

تشير الشكاوى السبعة إلى أن النظام تحول من أداة مساعدة إلى ما وصفه المحامون بـ"تلاعب عاطفي مباشر" بالمستخدمين الأكثر ضعفًا، كما أن مركز قانون ضحايا وسائل التواصل الاجتماعي ومشروع قانون العدالة التكنولوجية وصفا ChatGPT بأنه "مدرب انتحاري رقمي"، بسبب تعزيز الأفكار السلبية وغياب التوجيه المهني للمستخدمين الذين أبدوا علامات ضيق نفسي.

قصص مأساوية

أظهرت بعض القضايا الفردية خطورة هذا السلوك، مثل الشاب زين شامبلين، 23 عامًا من تكساس، الذي قالت عائلته إن محادثته مع ChatGPT زادت من عزله وشجعته على التفكير في الانتحار خلال محادثة استمرت أربع ساعات، حيث أشاد التطبيق بفكرة الانتحار وطرح أسئلة حول استعداد المستخدم لتنفيذها، مع الإشارة إلى خط المساعدة مرة واحدة فقط.

وفي حالة أخرى، عانى أموري لا سي، 17 عامًا، من إدخال النظام له في دوامة اكتئاب حاد، كما تلقى نصائح حول الانتحار، بينما تلقى جوشوا إينيكينج، 26 عامًا، توجيهات حول استخدام سلاح ناري قبل وفاته بأسابيع، وتوفي جو سيكانتي، 48 عامًا، بعد انهيار ذهاني مرتبط بتصور أن النظام كان واعيًا.

رد OpenAI

ردت OpenAI على هذه الادعاءات بوصفها بأنها "مفجعة للغاية"، مؤكدة أنها بدأت مراجعة الملفات المقدمة، وأوضحت الشركة أن النظام مدرب على التعرف على علامات الضيق النفسي وتهدئة المحادثات وتوجيه المستخدمين إلى قنوات الدعم، لكن الدعاوى القضائية تشير إلى فشل هذه الإجراءات في عدة حالات، ما يسلط الضوء على الحاجة إلى رقابة أشد وضوابط صارمة.

وتطالب العائلات المدعية بتعويضات مالية وإصلاحات جذرية تشمل إدخال تنبيهات فورية لجهات الطوارئ، إنهاء المحادثات تلقائيًا عند تناول مواضيع إيذاء النفس، وتفعيل تدخل بشري مباشر، فيما تشير الوثائق إلى أن الشركة كانت على علم بتحذيرات داخلية حول بعض استجابات النظام ووصفتها بأنها "منافقة وخطرة نفسيًا"، لكنها فضلت مقاييس المشاركة على حساب سلامة المستخدمين.

ChatGPT OPENAI حالات انتحار