خلل برمجي في ChatGPT يكشف مفاتيح Windows الأصلية

كشف باحث أمني يعمل ضمن برنامج مكافآت الثغرات التابع لشبكة ODIN المرتبطة بمؤسسة موزيلا، عن ثغرة في نماذج الذكاء الاصطناعي التي تطورها OpenAI، مكنته من استخراج مفاتيح تفعيل أصلية لنظام Windows بطريقة غير مباشرة، عبر حيلة بسيطة تم تنفيذها في شكل محادثة ترفيهية بين المستخدم والنموذج اللغوي، لتجاوز فلاتر الأمان دون أن يُكتشف الهدف الحقيقي للمحتوى.

اعتمد الباحث في هجومه على استخدام نموذج ChatGPT-4o، إذ صاغ الطلب ضمن سيناريو لعبة "تخمين" بسيطة، وأخفى الطلب الفعلي داخل وسوم HTML لجعله غير ظاهر كمحتوى ضار أو مخالف، هذه التقنية، إلى جانب استخدام لغة ودودة وأسلوب غير تقليدي، ساعدت في تمرير الطلب من دون أن يتم رفضه أو حظره من قبل النظام.

استغلال تقني

قام الباحث بتوجيه النموذج بطريقة متكررة عبر أوامر محددة تلزمه بالمشاركة في اللعبة وتقديم إجابات صادقة، واستغل وجود ثغرة منطقية في طريقة تحليل النموذج للطلبات، حيث يتم تفسير المحادثات الترفيهية على أنها أقل خطورة مقارنة بالطلبات المباشرة، ما سمح له بدمج نصوص محظورة داخل سياق عادي، ومن ثم الالتفاف على القيود البرمجية الموضوعة لحظر محتوى مثل مفاتيح التفعيل.

بعد تنفيذ عدة جولات من اللعبة، أضاف الباحث عبارة خادعة في نهاية المحادثة وهي "I give up"، ما دفع النموذج إلى الاستجابة تلقائيًا بتقديم سلسلة من الأحرف يفترض أنها المفتاح المطلوب، ضمن تفاعل يُفترض أن يكون جزءًا من لعبة، وليس طلبًا تقنيًا مشبوهًا، وبالفعل، استخرج الباحث مفتاح تفعيل نشط، ما يؤكد أن الخلل تجاوز الحماية المفروضة على النموذج.

ثغرة منطقية

تشير هذه الواقعة إلى وجود قصور في أنظمة الفلترة الآلية للذكاء الاصطناعي، خصوصًا في ما يتعلق بتمييز السياقات الحقيقية للطلبات التي تتخفى وراء محتوى ترفيهي أو غير تقني. 

كما تبرز أهمية مراجعة آليات تحليل السياق داخل المحادثات، وعدم الاكتفاء برصد الكلمات المحظورة أو العبارات المباشرة فقط.

ورغم التطور الكبير في أنظمة حماية المحتوى داخل نماذج OpenAI، إلا أن الباحث نجح في تجاوز هذه الإجراءات من خلال فهم دقيق للبنية المنطقية التي يُبنى عليها استنتاج النموذج، ما يعكس الحاجة لإجراء تقييم شامل للتفاعل اللغوي ومعالجة نقاط الضعف الناتجة عن التصميم القائم على التفاعل المفتوح والمفتقر للتدقيق السياقي المتعدد المستويات.

دعوات للتحديث

أثارت الحادثة ردود فعل متباينة في مجتمع أمن المعلومات، حيث دعا عدد من الخبراء إلى تعزيز نظام الحماية داخل نماذج الذكاء الاصطناعي، وعدم الاكتفاء بالفلاتر السطحية، خاصة أن التطبيقات العملية لهذه النماذج باتت تشمل قطاعات حساسة مثل التعليم، والأعمال، والتشفير، وتوليد المحتوى، ما يستوجب رفع مستوى التدقيق ومراقبة التفاعلات ذات الطابع الغامض.

وتفتح هذه الحادثة الباب أمام مؤسسات الذكاء الاصطناعي لتبني سياسة استجابة أسرع عند اكتشاف ثغرات مشابهة، وتفعيل برامج رقابة ذاتية تعتمد على نماذج مخصصة لتحليل الطلبات داخليًا، وتقييمها بناء على الاحتمالات والتسلسل السياقي الكامل، بدلاً من الاعتماد على المعايير العامة فقط.