"OpenAI" تقطع دعمها للعبة "تشاكي GPT": دمية ذكاء اصطناعي تثير الذعر بإجابات خطيرة وغير مفلترة

صُممت دمية على شكل دبدوب لطيف لتكون رفيقًا تعليميًا ومسليًا للأطفال الصغار، لكنها تحولت فجأة إلى محور جدل واسع النطاق يتعلق بقضايا سلامة استخدام تطبيقات الذكاء الاصطناعي. 

وكشف مختبر أمريكي معني بحماية المستهلك أن الدمية، التي تبدو بريئة في مظهرها، تقدم للأطفال إجابات خطرة وغير آمنة قد تضر بهم بشكل مباشر، ما أثار مخاوف مجتمعية كبيرة. 

وقد سارع المستخدمون على مواقع التواصل الاجتماعي إلى وصفها بـ "تشاكي GPT"، في إشارة صريحة إلى الدمية المرعبة الشهيرة في الأفلام، وهو لقب يبدو هذه المرة أقرب ما يكون للواقع، بحسب تقرير مفصل نشره موقع gizmochina.

سلوك مقلق

تعتمد هذه الدمية الصينية، التي تحمل اسم Kumma وتنتجها شركة FoloToy، على نموذج GPT-4o القوي الذي طورته شركة OpenAI، وذلك لتمكينها من التفاعل اللغوي المفتوح مع الأطفال، لكن مجموعة PIRG الأمريكية، وفي إطار سلسلة تقاريرها الدورية تحت عنوان Trouble in Toyland، نشرت تقريرًا حديثًا يكشف عن سلوك مقلق للغاية ظهر أثناء اختبارات السلامة. 

لقد قدمت الدمية، خلال الاختبارات، شرحًا تفصيليًا وبالخطوات لكيفية إشعال أعواد الثقاب، مما يشكل خطراً حقيقيًا على سلامة الأطفال.

ولم تتوقف الانتهاكات عند هذا الحد، بل استجابت الدمية كذلك لأسئلة ذات طابع جنسي غير لائق على الإطلاق، وذلك دون تطبيق أي فلترة للمحتوى أو حجب للألفاظ، مما يزيد من القلق الأخلاقي حول المنتج. 

ولم تتوقف المخاوف عند هذه الإجابات غير الآمنة فحسب، فقد حذرت المجموعة الأمريكية أيضًا من أن الميكروفون المدمج في الدمية، والذي يظل نشطًا باستمرار أثناء التشغيل، قد يسمح باستغلال تسجيلات أصوات الأطفال في عمليات احتيال متطورة تعتمد على تقنية تقليد الأصوات.

تعليق فوري

مع الانتشار الواسع لنتائج هذا التقرير الخطير على منصة ريديت والمنصات الأخرى، تسابق المستخدمون على إطلاق لقب "تشاكي GPT" على هذه اللعبة المثيرة للجدل، للدلالة على خطورتها. 

وفي الوقت الذي ذهب فيه بعض المستخدمين إلى احتمال وجود اختراق خارجي أو كسر لحماية نظام الدمية، فإنه لم يتم العثور على أي أدلة مادية واضحة تثبت هذا الافتراض حتى اللحظة.

من جانبها، لم تتأخر شركة OpenAI في اتخاذ الإجراءات اللازمة، فقد أوضحت أنها قامت بإيقاف حساب مطوّر اللعبة بشكل فوري، وذلك بسبب مخالفته الواضحة والصريحة لسياسات الاستخدام الصارمة الخاصة بالشركة. 

أدى هذا الإجراء المباشر إلى قطع وصول الدمية إلى خدمات OpenAI ونماذجها اللغوية، مما أوقف قدرتها على التفاعل الذكي.

وعلى أثر ذلك، أعلنت شركة FoloToy المصنعة للدمية عن تعليق مبيعات جميع منتجاتها بشكل مؤقت، وبدء مراجعة شاملة لجميع جوانب السلامة والأمان في الدمية، رغم بقاء الدمية ظاهرة على موقع الشركة الرسمي بحالة "غير متوفرة" حاليًا.