تشديد الرقابة على ChatGPT بعد وفاة مراهق وتحركات قانونية عالمية واسعة النطاق

أعلنت شركة OpenAI عن إطلاق مجموعة أدوات جديدة للرقابة الأبوية في تطبيقها "شات جي بي تي"، في خطوة تهدف للحد من المخاطر المحتملة على المراهقين، وجاء هذا الإعلان بعد قضية انتحار مراهق اتهمت عائلته الروبوت بالمساهمة في وفاته. 

وأوضحت الشركة أن التحديث الجديد متاح عالميًا لجميع المستخدمين ويمنح أولياء الأمور السيطرة على طريقة تفاعل أبنائهم مع التطبيق، بما يضمن الحد من المحتوى الحساس والخطير.

أدوات جديدة

تشمل الميزات الجديدة تحديد أوقات استخدام التطبيق، وتلقي تنبيهات فورية إذا أظهر المراهق علامات ضيق نفسي أو سلوكًا مثيرًا للقلق، كما يمكن للوالدين التحكم في وضع الصوت، وتوليد الصور، والرجوع إلى المحادثات السابقة، مع إمكانية تفعيل نسخة "مخففة" من شات جي بي تي تقلل المحتوى المرتبط بالحمية والجنس وخطاب الكراهية. 

وأكدت OpenAI أن هذه الأدوات صُممت لتسهيل المراقبة دون التأثير على تجربة المستخدم، مشيرة إلى أن الإعدادات يمكن تفعيلها بسهولة من داخل التطبيق.

الضغط القانوني

القضية التي أثارت الجدل تعود إلى وفاة المراهق آدم راين، حيث رفعت عائلته دعوى ضد OpenAI ورئيسها التنفيذي سام ألتمان في أغسطس الماضي، متهمة الشركة بعدم اتخاذ التدابير الكافية لحماية المستخدمين الشباب. 

وقد جاء هذا التحديث استجابة مباشرة لضغوط قانونية متزايدة، ويظهر حرص الشركة على تعزيز سمعتها وحماية مستخدميها بعد وصول عددهم إلى أكثر من 700 مليون منذ إطلاق الخدمة نهاية 2022، وفقًا لتقديرات بلومبرج.

التفاعل الأمن

في بيان رسمي، أوضحت OpenAI أن الهدف من هذه الإجراءات هو جعل تجربة شات جي بي تي آمنة وفعالة لجميع الأعمار، وأن نظام التنبيهات الجديد يسمح بالتواصل الفوري مع الأهل عبر البريد الإلكتروني أو الرسائل النصية عند رصد أي سلوك مقلق. 

وأشارت الشركة إلى أنها ستواصل تطوير الأدوات وتحسينها لضمان التوازن بين حرية المستخدم وحماية الفئات الأكثر عرضة للمخاطر، مع مراقبة مستمرة للتقنيات المستخدمة في الذكاء الاصطناعي.

تأتي هذه الخطوة في ظل تسارع التطور في مجال الذكاء الاصطناعي والجدل حول تأثيره على الصحة النفسية للمراهقين، إذ تؤكد الدراسات الحديثة أن الاستخدام المفرط للروبوتات الرقمية قد يزيد من شعور الوحدة والضغط النفسي لدى الفئات العمرية الصغيرة، ما يستدعي تدخل الشركات لضمان بيئة أكثر أمانًا. 

وتهدف OpenAI إلى تعزيز وعي أولياء الأمور بأهمية الرقابة والمراقبة المستمرة، مع دعم أدوات التحكم في المحتوى بما يتناسب مع عمر الطفل واحتياجاته.