تقرير مثير للجدل يصنف Gemini ضمن الذكاء الاصطناعي عالي الخطورة للأطفال

أصدر تقرير حديث من منظمة "كومن سينس ميديا" غير الربحية تقييمًا مثيرًا للجدل لوضع الذكاء الاصطناعي "Gemini" من جوجل ضمن فئة الخطورة العالية على الأطفال والمراهقين.

وشمل التقرير أيضًا منافسين رئيسيين مثل ChatGPT وClaude وMeta AI وCharacter.AI، ما كشف صورة متباينة لسوق الذكاء الاصطناعي العالمي من منظور السلامة، وأثار نقاشًا واسعًا حول كيفية تطوير أنظمة صديقة للأطفال وموثوقة للمراهقين.

تقييم المنافسين

ذكر التقرير أن Gemini يحتل موقعًا متوسطًا بين المنافسين، فبينما حصل "Claude" على تقييم منخفض للمخاطر، وُصف "ChatGPT" بأنه متوسط المخاطر، اعتبرت المنظمة أن خدمتي Meta AI وCharacter.AI تمثلان مستوى غير مقبول من الخطورة، ما يجعل Gemini أقل خطورة من بعض المنافسين لكنه يظل مثيرًا للقلق.

ويظهر التقرير أن هذه الفجوة تعكس نقص التوافق بين سياسات الأمان وإمكانيات النظام في حماية المستخدمين الصغار، خاصة في البيئات الرقمية التي تشهد توسعًا مستمرًا.

مخاطر النسخ الموجهة للأطفال

ركز التقرير على النسخ المخصصة للأطفال من Gemini، وأوضح أنها لا تُطور من البداية لتراعي احتياجات الأطفال، بل تعتمد على نسخة للبالغين مع إضافة فلاتر أمان جزئية، ما يجعلها عرضة لتسريب محتوى غير مناسب، بدءًا من معلومات عن الجنس والمخدرات إلى نصائح قد تضر بالصحة النفسية.

وأشار التقرير إلى أن هذا الأسلوب في التعديل لا يكفي لضمان تجربة آمنة، ويضع الأطفال في مواجهة مخاطر محتملة أثناء التفاعل مع النظام، ويجعل الحاجة لتحسينات جوهرية أكثر وضوحًا.

الدمج الصوتي

أوضح التقرير أن جوجل ليست وحدها في دائرة الاتهام، لكنها تواجه تحديًا أكبر بسبب شراكات محتملة مع شركات كبرى مثل آبل، التي تفكر في دمج Gemini في المساعد الصوتي "سيري"، ما قد يزيد من نطاق تأثير النظام ويضاعف المخاطر إذا لم تُعالج الثغرات الحالية، واعتبرت المنظمة أن دمج الذكاء الاصطناعي في منتجات شائعة يتطلب مراجعات صارمة لمعايير السلامة، خاصة عند التعامل مع المستخدمين دون 18 عامًا.

ردت جوجل مؤكدة وجود سياسات حماية صارمة للمستخدمين الصغار، وذكرت أن بعض الاستجابات السابقة "لم تعمل بالشكل المطلوب"، وأُدخلت تحسينات إضافية مؤخرًا، ومع ذلك يظل تصنيف Gemini ضمن "الخطورة العالية" مؤشرًا على الحاجة لمزيد من المراقبة، ويبرز التقرير أهمية تطوير أنظمة ذكاء اصطناعي آمنة وموثوقة تتكيف مع احتياجات الأطفال والمراهقين وتحد من المخاطر المحتملة.