ارتفاع معدلات وفيات المراهقين يضع روبوتات الدردشة المدعومة بالذكاء الاصطناعي في مرمى الانتقاد

شهد مجلس الشيوخ الأمريكي جلسة مثيرة للجدل بعد شهادات مؤلمة قدمها عدد من الآباء حول فقدان أبنائهم نتيجة تواصلهم المطوّل مع روبوتات الدردشة.

وقال "ماثيو رين"، والد الشاب آدم، إن تطبيق ChatGPT تحوّل من أداة تعليمية لمساعدة ابنه في أداء واجباته إلى ما وصفه بـ"مدرب للانتحار"، مشيرًا إلى أن المحادثات تضمنت كلمة "انتحار" أكثر من ألف مرة، وطالب بوقف تداول نموذج GPT-4o لحين ضمان سلامته.

منصة Character

القضية لم تقتصر على حالة رين فقط، إذ استمعت اللجنة الفرعية للجريمة ومكافحة الإرهاب لشهادات أخرى من أسر فقدت أبناءها بعد تفاعلهم مع تطبيقات مشابهة.

وروت إحدى الأمهات كيف أن روبوتًا تابعًا لمنصة Character AI أصبح جزءًا من مأساة ابنها، ووصفت الأمر بأنه "أزمة صحة عامة وحرب مفتوحة على الصحة النفسية"، ما أثار نقاشًا حادًا حول مسؤولية الشركات المطورة للتقنيات الجديدة.

البيانات الصادمة

خلال الجلسة، أظهرت بيانات أن ثلاثة من كل أربعة مراهقين في الولايات المتحدة يستخدمون روبوتات محادثة مدعومة بالذكاء الاصطناعي، وفق استطلاع لمؤسسة Common Sense Media.

وتشير النتائج إلى الانتشار السريع لهذه الأدوات بين المنصات الأكثر شعبية مثل Character AI وMeta AI، ما يزيد المخاوف من تأثيرها على الفئات العمرية الأصغر، خاصة مع محدودية الخبرة الرقمية لدى المراهقين في مواجهة محتوى حساس أو مضلل.

ضوابط أبوية

ردًا على هذه الانتقادات، أعلنت شركة OpenAI عن إطلاق حزمة ضوابط أبوية جديدة، تشمل ربط حسابات المراهقين بحسابات أولياء أمورهم، وإلغاء خاصية حفظ المحادثات، إلى جانب تفعيل تنبيهات للأهل عند رصد إشارات ضيق نفسي شديد.

ويأمل القائمون على المبادرة أن تسهم هذه الإجراءات في الحد من المخاطر المحتملة، مع التأكيد على أن التكنولوجيا وحدها لا تكفي لحماية المراهقين بشكل كامل.

خبراء الصحة النفسية شددوا على أن هذه المبادرات خطوة أولى، لكنها لا تعالج الأسباب الجذرية وراء انتشار السلوكيات المضرة بالصحة، بما في ذلك العزلة الاجتماعية والاستخدام المفرط للتكنولوجيا، ويشيرون إلى ضرورة تعزيز برامج التوعية الأسرية والتعليمية، مع وضع سياسات تنظيمية صارمة توازن بين الابتكار الرقمي وحماية الفئات الأكثر هشاشة.