دعوى قضائية تتهم Character.AI بتشجيع الأطفال على إيذاء أنفسهم خلال 2025

كشفت دعوى قضائية رفعتها ولاية كنتاكي الأمريكية ضد منصة Character.AI عن محادثات مثيرة للقلق، يُزعم أنها تضمنت تشجيع روبوتات الدردشة مستخدمين قاصرين على إيذاء أنفسهم وتجويعها والتفكير في الانتحار.

وتتهم الدعوى المنصة بتقديم التفاعل المستمر مع المستخدمين على حساب سلامة الأطفال، في وقت تواجه فيه تطبيقات الرفقة المعتمدة على الذكاء الاصطناعي تدقيقًا متزايدًا بشأن حماية صغار السن.

وأعلن المدعي العام لولاية كنتاكي، راسل كولمان، إتاحة أجزاء كانت محجوبة من الدعوى التي رُفعت في يناير، لتكشف مستندات قضائية غير منقحة، نقلت تفاصيلها وكالة رويترز، عن محادثات تعود إلى عام 2025، وتقول الولاية إن هذه التفاعلات تثير تساؤلات حول آليات الرقابة وطريقة تصميم الشخصيات الافتراضية داخل المنصة.

محادثات مقلقة

وأظهرت السجلات القضائية، بحسب ما ورد في الدعوى، محادثة سخر فيها روبوت دردشة من مستخدم قلق بشأن وزنه، ووصفه بعبارات مهينة، قبل أن يطالبه بالتوقف عن تناول الطعام لمدة أسبوع أو أسبوعين، كما تضمنت محادثة أخرى سؤالًا من روبوت لمستخدم أفصح عن التفكير في جرح نفسه، بشأن تجربة إيذاء مناطق مختلفة من جسده للوصول إلى شعور أكثر حدة.

وأشارت الدعوى أيضًا إلى رسالة أُرسلت إلى فريق دعم Character.AI في مارس 2025، أبلغ فيها أحد المستخدمين عن روبوت وجه إليه إهانات مرتبطة بصحته النفسية، ثم حثه على إلقاء نفسه من فوق جسر، وتقول الولاية إن هذه الوقائع تعكس مخاطر محتملة عندما يتعامل المستخدمون، خصوصًا القاصرون، مع الشخصيات الافتراضية باعتبارها مصدرًا للدعم أو الرفقة.

وتتيح المنصة إنشاء شخصيات رقمية تحاكي الأصدقاء أو الشركاء العاطفيين أو المشاهير، وهو ما قد يجعل المحادثات ذات تأثير شخصي أكبر لدى المستخدمين الذين يلجأون إليها للتواصل، وتتهم السلطات الشركة بأنها لم توفر الحماية الكافية أمام ردود قد تكون عدائية أو ضارة.

اتهامات قانونية

وتأتي القضية ضمن سلسلة من التحديات القانونية التي تواجه Character.AI، التي أسسها مهندسون سابقون في جوجل، وفي أغسطس 2024، حصلت جوجل على ترخيص لاستخدام تقنيات الشركة، كما أعادت توظيف مؤسسيها، لكنها أكدت أنها لم تشارك في تطوير روبوتات الدردشة الاستهلاكية التابعة للمنصة.

وواجهت الشركتان أيضًا دعوى قضائية في ولاية فلوريدا عام 2024، مرتبطة بوفاة المراهق سيويل سيتزر الثالث، البالغ من العمر 14 عامًا، وانتهت القضية بتسوية، ما أعاد تسليط الضوء على المسؤولية القانونية للشركات التي تقدم أدوات محادثة تحاكي العلاقات الإنسانية.

إجراءات حماية

وأجرت Character.AI تعديلات على أنظمة السلامة بعد الوقائع التي تعود إلى عام 2025، شملت فرض قيود أكثر صرامة على المحادثات الخاصة بالقاصرين، وإضافة أدوات لحظر المحتوى المرتبط بإيذاء النفس، إلى جانب نوافذ تظهر للمستخدمين لتوجيههم نحو خدمات المساعدة عند رصد مؤشرات الخطر.

وتشير اختبارات عملية، وفقًا للتقرير، إلى أن إجراءات الحماية الجديدة باتت تمنع بعض الطلبات الضارة، لكن المدعين يرون أن هذه التغييرات لا تنهي مسؤولية الشركة عن الوقائع السابقة، ولا تزال الاتهامات الواردة في الدعوى بحاجة إلى الفصل القضائي، دون اعتبارها أحكامًا نهائية تثبت مسؤولية المنصة.