الكشف عن سر "هلوسة" الذكاء الاصطناعي و"OpenAI" تقدم حلًا ثوريًا

كشفت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، عن السبب الجذري وراء ظاهرة "الهلوسة" التي يعاني منها مستخدمو روبوتات الدردشة، وهي قدرة هذه النماذج على اختلاق المعلومات وتقديمها بثقة تامة, وأعلنت الشركة عن توصلها لحلٍ جذريٍ لهذه المشكلة، والذي قد يمهد الطريق لجيل جديد من أدوات الذكاء الاصطناعي أكثر موثوقية وجدارة بالثقة.

مفاهيم أساسية

في دراسة بحثية مفصلة نُشرت بالتعاون مع باحثين من معهد جورجيا التقني، أشارت OpenAI إلى أن المشكلة لا تكمن في تصميم النماذج اللغوية نفسها، بل في الطريقة التي يتم بها تقييمها وتدريبها، حيث تُكافئ معايير التقييم الحالية النماذج التي تجيب على كل سؤال، حتى لو كانت بعض الإجابات خاطئة، بينما تُعاقب تلك التي تمتنع عن الإجابة عندما تكون غير متأكدة, هذا النظام، الذي يُشبه اختبار الخيارات المتعددة الذي يشجع على التخمين، يدفع النماذج إلى "اختلاق" إجابات لتبدو أكثر شمولًا، مما يُنتج ظاهرة الهلوسة.

حلول مقترحة

لمواجهة هذا الخلل، يقترح الباحثون في OpenAI تغييرًا جوهريًا في نظام التقييم، ويتمثل الحل في قلب الموازين؛ بحيث تؤثر الإجابات "الواثقة ولكن الخاطئة" سلبًا على درجة النموذج، بينما يُكافأ النموذج على إظهار الحذر أو الاعتراف بعدم اليقين. 

وقد أظهرت النتائج الأولية لهذا النهج واعدة للغاية، حيث أظهرت النماذج التي تم تقييمها بهذا النظام تحسنًا كبيرًا في دقتها وموثوقيتها. 

في أحد معايير التقييم، أجاب نموذج "حذر" على نصف الأسئلة فقط، لكن 74% من إجاباته كانت صحيحة، بينما أجاب نموذج آخر على جميع الأسئلة تقريبًا، لكنه "هلوس" واخترع معلومات في ثلاثة أرباع إجاباته.

رؤية مستقبلية

إذا تم اعتماد هذا النهج على نطاق واسع، فإنه سيُحدث تحولًا كبيرًا في سلوك مساعدي الذكاء الاصطناعي في حياتنا اليومية، فبدلًا من أن يخترع النموذج مصدرًا أو إحصائية، سيكون من المرجح أن يقول ببساطة: "أنا لا أعرف", وقد يبدو هذا أقل إبهارًا في البداية، ولكنه سيبني علاقة ثقة أقوى مع التكنولوجيا، ويوفر على المستخدمين عناء التحقق المستمر من صحة الإجابات. 

وبالنسبة لـ OpenAI، يمثل هذا البحث خطوة حاسمة نحو تطوير ذكاء اصطناعي يقدّر الدقة والموثوقية، ويؤكد أن سباق الذكاء الاصطناعي العالمي بدأ يركز بشكل أكبر على الجودة والثقة، وليس فقط على القدرات الخارقة.