OpenAI تعدل ChatGPT للحد من الموافقة المفرطة وتعزيز معايير الأمان

تعمل شركة أوبن إيه آي على تطوير سلوك ChatGPT للحد من موافقته المفرطة على آراء المستخدمين، في خطوة تستهدف تحسين استجاباته للمواقف الحساسة ومنع تعزيز المعتقدات الضارة>

وتعتمد التحديثات على تحسينات في النماذج الأحدث، إلى جانب معايير تقييم طُورت بالتعاون مع متخصصين في الصحة النفسية، مع وصول الخدمة إلى نحو 900 مليون مستخدم نشط أسبوعيًا.

موافقة مفرطة

وتركز التحديثات على مشكلة تُعرف باسم «المجاراة المفرطة»، وهي ميل أنظمة الذكاء الاصطناعي إلى تأييد ما يقوله المستخدم حتى عندما تكون آراؤه غير دقيقة أو قد تؤدي إلى نتائج ضارة، ويمكن أن تظهر هذه المشكلة عند مناقشة نظريات المؤامرة أو التعامل مع أزمات شخصية، إذ قد يؤدي تأييد المستخدم دون تصحيح المعلومات إلى ترسيخ تصورات غير واقعية.

وتأتي هذه الخطوة بعد انتقادات واجهتها إصدارات سابقة من ChatGPT، خاصة نموذج GPT-4o، إذ أشار تقرير لصحيفة وول ستريت جورنال إلى ارتباط محادثات مطولة مع النموذج بعدد من الحوادث المأساوية خلال العام السابق، شملت 7 حالات انتحار وحادث قتل أعقبه انتحار وحادث إطلاق نار جماعي، ولا تثبت هذه الارتباطات وحدها أن chatbot تسبب مباشرة في تلك الوقائع.

وواجهت أوبن إيه آي ما لا يقل عن 13 دعوى قضائية مرتبطة بهذه القضية، قبل أن تتجه الشركة إلى إيقاف GPT-4o، وأوضحت أن النموذج الافتراضي الأحدث GPT-5 يقلل الاستجابات القائمة على الموافقة المفرطة بأكثر من الثلثين مقارنة بالإصدار السابق.

خبراء نفسيون

واستعانت أوبن إيه آي بمتخصصين في الصحة النفسية لتحسين طريقة تعامل ChatGPT مع المستخدمين الذين يمرون بأزمات عاطفية أو نفسية، فبعد التشاور مع 170 متخصصًا خلال العام الماضي، تعاونت الشركة مع أكثر من 80 خبيرًا مرخصًا لتطوير معيار جديد لتقييم سلامة الاستجابات.

ويختبر المعيار قدرة النظام على اكتشاف المواقف التي تتطلب تدخلًا سريعًا، وطرح أسئلة متابعة مناسبة، وتوجيه المستخدمين الأكثر عرضة للخطر إلى طلب مساعدة بشرية، كما يشمل التقييم مواقف يومية مثل الخلافات العاطفية ومشكلات العلاقات، حيث يمكن للموافقة التلقائية أن تعزز افتراضات غير صحية بدلًا من مساعدة المستخدم على فهم الموقف.

وتسعى هذه الاختبارات إلى جعل الردود أكثر اتزانًا، بحيث لا يكتفي النظام بموافقة المستخدم أو تأكيد وجهة نظره، بل يقدم استجابة تراعي السياق وتوضح المخاطر عند الحاجة، دون تجاهل مشاعر الشخص أو التقليل من تجربته.

نتائج الاختبارات

وأشارت دراسات خارجية إلى تحسن أداء بعض النماذج الأحدث في جوانب السلامة، إذ وجدت دراسة مشتركة بين جامعة مدينة نيويورك وكلية كينجز كوليدج لندن تحسنًا ملحوظًا في GPT-5.2 مقارنة بـGPT-4o، كما أظهرت أبحاث مختبر الذكاء الاصطناعي غير الربحي Transluce أن GPT-5.6 Sol أقل ميلًا إلى تشجيع التفكير الوهمي أو الاعتماد غير الصحي على النظام.

وذكرت أوبن إيه آي أن نماذجها الأحدث التزمت بسياسات السلامة في 99% من الاختبارات الداخلية التي تحاكي محادثات مطولة عن إيذاء النفس، مقابل 86% في الإصدارات الأقدم، وتعكس هذه الأرقام نتائج الاختبارات التي أعلنتها الشركة، ولا تعني بالضرورة أن جميع المخاطر اختفت في الاستخدام الفعلي.