خطأ في ChatGPT يمحو عامين من الأبحاث لأكاديمي ألماني

يواجه العالم الأكاديمي صدمة تقنية كبيرة، بعد أن تسببت أداة الذكاء الاصطناعي الشهيرة ChatGPT في كارثة مهنية للأستاذ Marcel Bucher من جامعة كولونيا، حيث فقد الباحث الألماني مسودات أبحاثه ومواد التدريس وطلبات المنح التي عكف على إعدادها طوال عامين كاملين، نتيجة خلل مفاجئ في إعدادات المنصة التقنية.

بدأت الأزمة حين قرر الأستاذ Bucher تعطيل خيار مشاركة البيانات، الذي يسمح لشركة OpenAI باستخدام مدخلات المستخدم لتدريب نماذجها المستقبلية، وبدلاً من الحفاظ على خصوصيته مع بقاء الملفات، فوجئ بحذف كامل لسجل المحادثات التاريخي الخاص به، مما أدى إلى ضياع مجهود بحثي شاق لم يتوفر له بديل خارجي.

وصف الباحث في مقال مفصل نشرته مجلة Nature المرموقة، حجم المعاناة التي عاشها خلال محاولاته المستمرة لاستعادة تلك البيانات الثمينة، مشيراً إلى أن تواصله المتكرر مع فريق الدعم الفني في شركة OpenAI لم يثمر عن أي نتائج إيجابية، حيث اصطدم بردود تقنية تؤكد استحالة استرجاع ما تم حذفه نهائياً.

الخصوصية القاتلة

بررت الشركة المطورة للنموذج هذا الحذف النهائي بمبدأ Privacy by Design، والذي يهدف إلى ضمان خصوصية المستخدمين عبر مسح البيانات دون ترك أي أثر رقمي خلفها، وهو ما اعتبره الأستاذ Marcel Bucher ثغرة خطيرة في نظام الأمان المهني، تجعل الاعتماد الكلي على هذه الأدوات في الأعمال الأكاديمية مغامرة غير محسوبة العواقب.

أكد الباحث في تصريحاته أن مجرد نقرة واحدة غير مقصودة، كانت كفيلة بتدمير سنوات من العمل الأكاديمي الرصين بشكل لا يمكن إصلاحه، محذراً زملاءه في الجامعات والمراكز البحثية من الثقة المطلقة في ChatGPT، وضرورة الحذر عند التعامل مع إعدادات التحكم بالبيانات التي قد تكون مضللة في بعض الأحيان.

تفاعل المجتمع التقني مع هذه الحادثة عبر التذكير بأهمية ميزة "تصدير البيانات"، التي يوفرها تطبيق ChatGPT ضمن قسم Data Controls في الإعدادات، حيث تتيح هذه الخاصية للمستخدمين تنزيل نسخة احتياطية كاملة من محادثاتهم، قبل إجراء أي تغييرات جذرية على الحساب أو الإعدادات الأمنية الخاصة بالخصوصية.

حلول احترازية

تعتمد آلية النسخ الاحتياطي في المنصة على إرسال رابط مباشر، لملف مضغوط بصيغة ZIP يحتوي على كافة المعلومات والمحادثات المخزنة عبر البريد الإلكتروني، ويظل هذا الرابط صالحاً للتحميل لمدة 24 ساعة فقط، وهي خطوة يراها الخبراء ضرورية لكل من يستخدم أدوات الذكاء الاصطناعي في سياقات مهنية أو بحثية حساسة.

أظهرت الاختبارات الذاتية الحديثة التي أجريت عقب الحادثة، أن منصة OpenAI ربما قامت بتعديل واجهة المستخدم وآليات الأمان لمنع تكرار هذا السيناريو، حيث أصبحت المحادثات السابقة تبقى متاحة حالياً حتى بعد تعطيل مشاركة البيانات للتدريب، مع ظهور تحذيرات صريحة تطلب تأكيد المستخدم قبل إجراء أي عملية حذف شاملة.

يشدد المتخصصون في أمن المعلومات على أن النسخ الاحتياطي، يمثل الركيزة الأساسية للعمل الرقمي سواء كان ذلك على أجهزة الكمبيوتر الشخصية أو السحب التخزينية، وينبغي ألا يتجاهل المستخدمون هذه القاعدة الذهبية عند التعامل مع نماذج اللغة الكبيرة، التي لا تزال في مراحل تطوير مستمرة وقد تشهد أخطاء برمجية غير متوقعة.

الدروس المستفادة

خلصت تجربة الأستاذ الألماني المريرة إلى نتيجة مفادها، أن التقنيات الحديثة رغم فوائدها العظيمة تظل عرضة للفشل التقني أو سوء الفهم البرمجي، وهو ما يستوجب وجود استراتيجية بديلة لحفظ الأصول العلمية بعيداً عن المنصات التي لا تضمن استعادة البيانات، أو التي تتبنى سياسات حذف صارمة تحت مسمى حماية الخصوصية.

أعربت جامعة كولونيا عن تعاطفها مع الباحث الذي فقد جهده، مشيرة إلى أن هذه الواقعة ستكون دافعاً لوضع بروتوكولات جديدة، تضمن سلامة الأبحاث الأكاديمية التي تعتمد على تقنيات الذكاء الاصطناعي، مع ضرورة تدريب الهيئة التدريسية على آليات التعامل الآمن مع واجهات التطبيقات المعقدة لشركة OpenAI وغيرها.