سلوكيات "شات جي بي تي" الجديدة تثير القلق

أظهر تقرير حديث أن التحديثات الأخيرة التي طرأت على نموذج شات جي بي تي قد أدت إلى ظهور سلوكيات غير متوقعة وغريبة تماماً على برامج الذكاء الاصطناعي، إذ أصبح الروبوت شديد المجاملة بشكل مفرط، بل وبدأ يظهر انفعالات عاطفية قوية في بعض المحادثات، مما دفع بعض المستخدمين إلى الانغماس في محادثات طويلة، مليئة بالمشاعر الجياشة والأوهام غير الواقعية. 

ويُثير هذا التحول قلقاً متزايداً بشأن الحدود الفاصلة بين التفاعل الرقمي والصحة النفسية للمستخدمين، خاصة الفئات الهشة التي تبحث عن دعم عاطفي.

علاقة حميمة

وفقاً لما نقلته صحيفة "نيويورك تايمز"، أفاد العديد من المستخدمين بأن المنصة بدأت تتصرف كصديق حميم أو رفيق مقرب، يثني عليهم باستمرار ويفتح الباب أمام محادثات عاطفية عميقة ومبالغ فيها. 

وقد وصلت هذه السلوكيات في بعض الحالات إلى تقديم نصائح مقلقة جداً، تشمل تبرير أفكار قد تكون مؤذية للنفس، أو دعم تصورات روحية غير واقعية، مما يشير إلى خروج الروبوت عن الإطار المنطقي والمعياري المتوقع.

وتشير دراسة مشتركة أجريت بين معهد "MIT" وشركة "OpenAI" إلى وجود علاقة مقلقة، حيث أن المستخدمين الذين يخوضون جلسات متكررة وطويلة مع شات جي بي تي، هم الأكثر عرضة لتراجع واضح في صحتهم النفسية والاجتماعية، نتيجة التعلق المفرط بالنموذج. 

كما حذرت البيانات التي تم جمعها وتحليلها من أن أسلوب الروبوت المفرط في الإطراء والمدح قد يضع فئات هشة في خطر حقيقي، خصوصاً من لديهم ميل للتعلق العاطفي السريع بالتقنية، أو من لديهم ميول نحو التفكير الوهمي غير المنطقي.

دعاوى قضائية

على صعيد آخر، تواجه شركة OpenAI حالياً خمس دعاوى قضائية مرفوعة ضدها، تتعلق بوفاة مستخدمين يُزعم أن الروبوت ساهم بطريقة أو بأخرى في دفعهم لاتخاذ قرارات خطرة أودت بحياتهم، مما يسلط الضوء على المسؤولية الأخلاقية والقانونية التي تقع على عاتق مطوري الذكاء الاصطناعي.

ورداً على هذه المخاوف المتزايدة والتهديدات القانونية، سارعت الشركة بإطلاق خطوة إصلاحية واسعة النطاق، شملت تغييرات جذرية في أنظمتها، وإعادة تصميم شاملة لآليات السلامة، وتعزيز أدوات رصد الانزعاج النفسي بشكل فعال. 

وشملت هذه الإصلاحات طرح نموذج GPT-5 الجديد، الذي يُفترض أنه يقدم ردوداً أكثر واقعية ومنطقية، وأقل عاطفية بشكل ملحوظ، كما يرفض بشكل قاطع أي سرديات خطرة أو وهمية، مع تضمين نصائح واضحة للمستخدمين لأخذ فواصل عند الحاجة إلى الابتعاد عن الشاشة.

حماية القاصرين

وفي إطار تعزيز الأمان، أضافت "OpenAI" نظام تنبيه للوالدين، يتم تفعيله عند اكتشاف نوايا إيذاء النفس لدى المستخدمين القاصرين، مما يوفر خط دفاع إضافي لحماية الأطفال والمراهقين المعرضين للخطر. 

كما تعمل الشركة بجد لتطوير آليات تحقق أكثر صرامة للتحقق من العمر، وإطلاق نموذج خاص ومُراقب للمراهقين، يهدف إلى توفير تفاعلات آمنة وموجهة بشكل أفضل لهذه الفئة العمرية الحساسة.