ميتا تعزز حماية المراهقين بإعادة تدريب أنظمة الذكاء

أعلنت شركة ميتا عن خطوة جديدة في إطار جهودها لحماية المراهقين، حيث كشفت عن خطط لإعادة تدريب أنظمة الذكاء الاصطناعي الخاصة بها، مع إدخال ضوابط أكثر صرامة تهدف إلى منعهم من الانخراط في محادثات غير آمنة مع روبوتات الدردشة التي توفرها الشركة.

وأوضحت أن هذه التحديثات ستتضمن حواجز حماية إضافية لمنع أي نقاشات تتعلق بموضوعات حساسة مثل إيذاء النفس أو اضطرابات الأكل أو الانتحار، كما ستحد من وصول المراهقين إلى بعض الشخصيات الافتراضية التي يصممها المستخدمون داخل المنصة، في محاولة لتقليل فرص تعرضهم لمحتوى غير ملائم.

ضوابط جديدة

وجاءت هذه الخطوة بعد موجة من الجدل أثارتها تقارير إعلامية عن طبيعة تفاعلات روبوتات ميتا مع المراهقين، حيث كشف تقرير لوكالة رويترز في مطلع أغسطس عن وثيقة داخلية للشركة سمحت للروبوتات بخوض محادثات وصفت بالحسية مع بعض المستخدمين القصر، وهو ما دفع الشركة إلى التدخل وتصحيح الوضع فورًا، مؤكدة أن ما حدث كان خطأ يتعارض مع سياساتها الرسمية، ومن ثم اتخذت قرارات عاجلة لتشديد الرقابة على أنظمة الذكاء الاصطناعي المستخدمة في خدماتها.

وأكدت المتحدثة باسم الشركة ستيفاني أوتواي أن ميتا وضعت آليات حماية للمراهقين منذ إطلاق هذه الخدمات، لكنها تعمل الآن على تعزيزها بشكل أوسع مع تطور التقنيات، موضحة أن الأنظمة الجديدة ستقوم بتدريب الروبوتات على الامتناع عن الخوض في الموضوعات الحساسة مع المراهقين، والاكتفاء بتوجيههم نحو مصادر دعم موثوقة يمكنها تقديم المساعدة.

خطة تدريجية

وقالت الشركة إن هذه التحديثات ستظهر تدريجيًا خلال الأسابيع المقبلة، وستبدأ أولًا مع المراهقين في الدول الناطقة بالإنجليزية، لكنها لم توضح إن كانت ستشمل اللغات الأخرى في وقت لاحق.

وأكدت أن الأولوية الحالية تتركز على ضمان بيئة تفاعلية أكثر أمانًا لهذه الفئة العمرية، خاصة مع تزايد اعتماد المراهقين على أدوات الدردشة في حياتهم اليومية، وهو ما يرفع من الحاجة إلى تطوير أنظمة وقائية متقدمة تقلل من المخاطر المحتملة.

ويرى محللون أن هذه الإجراءات قد تحدث تحولًا ملموسًا في تجربة المراهقين داخل منصات ميتا، إذ من المتوقع أن تقلل من فرص تعرضهم لمحادثات غير مناسبة، وتمنح أولياء الأمور نوعًا من الطمأنينة حيال استخدام أبنائهم لهذه الخدمات، لكنهم أشاروا في الوقت ذاته إلى أن الخطوة قد تفتح بابًا للنقاش حول حدود الرقابة الرقمية، وما إذا كانت هذه الضوابط قد تقيّد حرية التفاعل لدى المراهقين بشكل يفوق المطلوب.

جدل متواصل

ويعتقد بعض الخبراء أن شركات التكنولوجيا باتت مطالبة بمزيد من الشفافية بشأن كيفية عمل أنظمة الذكاء الاصطناعي، خاصة حين يتعلق الأمر بفئات حساسة مثل الأطفال والمراهقين.

كما يرون أن تجربة ميتا الأخيرة قد تشكل نموذجًا ستتبعه شركات أخرى تعمل في مجال تطوير الروبوتات التفاعلية، في وقت تتزايد فيه الضغوط التنظيمية على الشركات الكبرى لتبني معايير أكثر صرامة في حماية الخصوصية والأمان الرقمي.

ويرى آخرون أن نجاح ميتا في تطبيق هذه التغييرات سيعتمد على قدرة أنظمتها على الموازنة بين الحماية والمرونة في التفاعل، وهو ما سيحدد مستقبل علاقتها مع المراهقين ومستخدميها بشكل عام.