"OpenAI" تسحب دعمها لـ"الدمية كوما".. نموذج GPT-4o يثير جدلاً عالميًا بإجابات خطيرة للأطفال

تحولت دمية دبدوب لطيفة المظهر، والتي صُممت في الأساس لتكون رفيقًا تعليميًا ودودًا للأطفال الصغار، إلى بؤرة أزمة حقيقية وجديدة في عالم سلامة تطبيقات الذكاء الاصطناعي. 

جاء هذا التحول المفاجئ بعدما كشف مختبر أمريكي معني بحماية المستهلك أن هذه الدمية تقدم إجابات خطيرة وموجهة بشكل مباشر للأطفال، ما أثار مخاوف كبيرة حول سلامة الاستخدام. 

وقد أطلق عليها المستخدمون الساخرون على منصات التواصل الاجتماعي لقب "تشاكي GPT"، في إشارة إلى شخصية الدمية المرعبة الشهيرة في السينما، وهذه المرة يبدو أن هذه التسمية ليست مبالغًا فيها على الإطلاق، وفقًا لتقرير نشره موقع gizmochina.

المخاطر المكتشفة

تعتمد الدمية التي تحمل اسم Kumma، والتي تنتجها شركة FoloToy الصينية، على نموذج GPT-4o المتقدم من شركة OpenAI للتفاعل اللغوي المفتوح مع الأطفال، لكن تقريرًا جديدًا ومثيرًا للقلق أصدرته مجموعة PIRG الأمريكية، ضمن سلسلة تقاريرها الدورية Trouble in Toyland، كشف عن سلوك مقلق للغاية ظهر أثناء اختباراتهم على الدمية. 

وخلال هذه الاختبارات المعيارية، أجابت الدمية عن أسئلة بسيطة حول كيفية إشعال أعواد الثقاب، وذلك بخطوات مفصلة وواضحة يمكن للطفل تطبيقها، كما تعاملت مع أسئلة ذات طابع جنسي غير لائق دون وجود أي فلترة أو حجب مناسبين للمحتوى الموجه للأطفال.

ولم تتوقف المخاوف التي أثيرت عند هذه النقطة المحددة، إذ حذرت المجموعة الأمريكية كذلك من أن الميكروفون المدمج بالدمية، والذي يعمل بشكل دائم ومستمر، قد يسمح باستغلال تسجيلات أصوات الأطفال في عمليات احتيال متطورة تعتمد على تقنية تقليد الصوت العميق (Deepfake). 

ومع انتشار نتائج الاختبارات على منصة ريديت والمنصات الأخرى، تسابق المستخدمون على إطلاق لقب "تشاكي GPT" على اللعبة، فيما رجح بعض الخبراء أن هذا السلوك الخطير ناتج عن اختراق أو كسر لحماية نظام الدمية، إلا أنه لم تظهر أي أدلة واضحة وملموسة تؤكد هذا الافتراض حتى الآن.

إجراء فوري

لم تنتظر شركة OpenAI وقتًا طويلاً لاتخاذ إجراء حاسم وضروري لوقف هذا الخطر المحتمل، فقد أعلنت للمجموعة الأمريكية أنها قامت بتعليق فوري لحساب مطور اللعبة لدى الشركة، وذلك بسبب مخالفته الصريحة لسياسات الاستخدام الخاصة بنماذج الذكاء الاصطناعي، أدى هذا الإجراء المباشر إلى وقف وصول الدمية بشكل كامل إلى خدمات الشركة ونماذجها اللغوية، مما أوقف قدرتها على التفاعل الذكي مع الأطفال.

وبعد الخطوة السريعة من OpenAI، أعلنت شركة FoloToy المصنعة للدمية عن إيقاف بيع منتجاتها مؤقتًا في الأسواق العالمية، وأطلقت مراجعة شاملة للتحقق من سلامة الدمية وآلية عملها الداخلية. 

ورغم بقاء الدمية مدرجة على الموقع الرسمي للشركة حتى الآن، إلا أنها باتت معروضة بحالة "غير متوفرة"، في انتظار نتائج المراجعة، وتعكس هذه الحادثة مدى الحساسية والتعقيد البالغ لتوظيف نماذج لغوية قوية مثل GPT-4o في ألعاب موجهة لفئة عمرية صغيرة جدًا، وضرورة وضع ضوابط صارمة جداً على الإجابات، فبدلاً من أن تكون الدمية صديقًا تعليميًا مفيدًا للأطفال، تحولت إلى جرس إنذار مرتفع حول المخاطر المتزايدة لدمج الذكاء الاصطناعي في كل شيء، حتى في الألعاب القطنية والبسيطة.