تحذير أمني.. ثغرة في Gemini تستغل تلخيص البريد لخداع المستخدمين

كشف تقرير تقني حديث عن ثغرة خطيرة في أداة Gemini التابعة لشركة جوجل، والتي تُستخدم ضمن بيئة Google Workspace لتقديم تلخيصات ذكية لرسائل البريد الإلكتروني. 

الثغرة تتيح للمهاجمين تنفيذ هجمات تصيد إلكتروني متقدمة من خلال استغلال ميزة التلخيص نفسها، دون الحاجة إلى إدراج روابط مباشرة أو ملفات مشبوهة داخل البريد الأصلي، ما يجعل الكشف عنها أكثر صعوبة، ويزيد من احتمالية وقوع المستخدمين ضحايا لها.

طريقة خادعة

تقوم الهجمة باستغلال تقنيات حقن الأوامر (Prompt Injection)، وهي طريقة تم رصدها منذ عام 2024، ولكنها تطورت لتتمكن الآن من تجاوز بعض تدابير الحماية التي وضعتها جوجل. 

وبحسب ما ورد في التقرير، اكتشف الثغرة الباحث الأمني ماركو فيغيروا، مدير برامج مكافآت الثغرات للذكاء الاصطناعي التوليدي لدى شركة Mozilla، ضمن برنامج المكافآت المعروف باسم 0DIN.

تعتمد الهجمة على إدراج تعليمات خفية داخل البريد الإلكتروني باستخدام أكواد HTML وCSS، حيث يتم تنسيق النص بحيث لا يظهر للمستخدم داخل Gmail، من خلال تصغير الخط إلى صفر وجعل لونه أبيض ليختفي تمامًا، لكن عندما يستخدم Gemini لتلخيص الرسالة، تقوم الأداة بقراءة النصوص المخفية وتنفيذها ضمن الملخص دون تحذير أو مراجعة.

نتائج خطيرة

تكمن الخطورة الحقيقية في أن المستخدمين عادةً ما يثقون في مخرجات Gemini، نظرًا لأنها مدمجة رسميًا في خدمات Google Workspace وتُعرض بشكل مباشر داخل واجهات الاستخدام. 

وبحسب أحد الأمثلة التجريبية التي أوردها التقرير، استطاع المخترق جعل Gemini يعرض ملخصًا يتضمن تحذيرًا زائفًا يفيد بأن كلمة مرور المستخدم قد تم اختراقها، ويوجّهه إلى الاتصال برقم دعم تقني مزيف، وهي خطوة تهدف إلى خداع المستخدم ودفعه لتقديم معلومات حساسة.

تزداد خطورة هذه الثغرة في البيئات المهنية، خاصة في الشركات والمؤسسات التي تعتمد على Gemini كوسيلة لتسريع تصفح البريد وتحليل المحتوى، فالثقة التلقائية التي يمنحها الموظفون لأدوات الذكاء الاصطناعي قد تسهّل تمرير مثل هذه الخدع دون تدقيق يدوي.

خطوات وقائية

أوصى الباحثون بعدد من الخطوات التي يمكن للمؤسسات تبنيها لتقليل مخاطر هذه الثغرة، من أبرزها تصفية النصوص الخفية التي تحتوي على تنسيقات تجعلها غير مرئية للمستخدم، وكذلك تحليل مخرجات Gemini بحثًا عن كلمات تحذيرية مثل "اختراق"، "طوارئ"، أو "كلمة مرور"، بهدف إخضاعها لفحص يدوي إضافي قبل أن تصل للمستخدمين.

كما نصح الخبراء بضرورة رفع الوعي بين الموظفين بشأن طبيعة Gemini، والتأكيد على أن التلخيصات الناتجة عنها لا يجب اعتبارها مصادر موثوقة بالكامل لتنبيهات الأمان أو الإجراءات العاجلة.

رد فعل جوجل

في تعليقها على التقرير، أوضحت جوجل عبر متحدث رسمي أن الشركة تتابع الموقف عن كثب، وأكدت أنها تنفذ بشكل دوري اختبارات أمنية داخلية لمواجهة سيناريوهات الهجوم، إلى جانب تدريب أنظمة الذكاء الاصطناعي لديها على مقاومة هذا النوع من الاستغلال.

وأضافت أن بعض الإجراءات التصحيحية قد بدأ بالفعل تطبيقها، في حين أن أخرى قيد التطوير وستُطلق في وقت قريب. 

كما أشارت إلى أن التحقيقات حتى الآن لم تكشف عن أي استخدام فعلي للثغرة في هجمات حقيقية، إلا أن الشركة تتعامل مع هذا التهديد بجدية تامة.

في ظل الاعتماد المتزايد على أدوات الذكاء الاصطناعي في المهام اليومية، تؤكد هذه الثغرة مجددًا أهمية التوازن بين سهولة الاستخدام والأمان، وضرورة وجود رقابة بشرية تكمّل وظائف الأنظمة المؤتمتة، حتى لا يتحول الذكاء الاصطناعي من أداة مساعدة إلى نقطة ضعف يُستغل ضد المستخدمين أنفسهم.