ثغرة برمجية تحول Google Translate إلى روبوت محادثة ذكي

كشف مستخدمون عن سلوكيات غير متوقعة في وضع المتقدم الجديد داخل تطبيق Google Translate، حيث بدأ النظام يتصرف كمنصة دردشة تفاعلية بدلاً من تنفيذ مهام الترجمة التقليدية، وذلك نتيجة تداخل برمجيات Gemini التي تقرأ الأوامر الضمنية وتحولها إلى حوارات مباشرة.

أطلقت شركة Google هذا الوضع المتطور في شهر نوفمبر من العام الماضي، ليكون جزءاً من استراتيجية دمج نماذج اللغات الكبيرة في خدماتها الأساسية، بهدف فهم اللهجات المحلية والتعابير الاصطلاحية المعقدة، والسياقات المحادثاتية التي كانت تشكل تحدياً للأنظمة البرمجية القديمة.

يعتمد النظام الجديد على تقنيات الذكاء الاصطناعي التي تتبع التعليمات المخفية تحت السطح، مما جعله عرضة لعمليات حقن التعليمات التي يقوم بها بعض الهواة، حيث يتم دفع التطبيق للاعتراف بهويته كنموذج لغوي مدرب بواسطة Google، بدلاً من كونه مجرد وسيط للترجمة.

تكامل Gemini

أظهرت اختبارات تقنية نُشرت على منصة LessWrong أن التطبيق يستجيب للاستفسارات المباشرة كمدرب لغوي، ويبدأ في خوض نقاشات جانبية مع المستخدمين بعيداً عن النص الأصلي المراد تحويله، وهو ما وثقته لقطات شاشة تم تداولها على نطاق واسع عبر Reddit وTumblr مؤخراً.

يستطيع المستخدمون دفع التطبيق إلى أنواع مختلفة من المحادثات الفلسفية أو التقنية، عبر إدخال جمل معينة توحي للنظام بضرورة الرد وليس الترجمة، مما يوضح مدى سهولة تعديل أو اختراق السلوك المنطقي لأدوات الذكاء الاصطناعي الحديثة، التي تعتمد على معالجة اللغة الطبيعية.

تعتبر هذه الحادثة مثالاً حياً على التحديات التي تواجهها الشركات عند دمج Gemini في أدوات بسيطة، إذ يصعب أحياناً الفصل بين قدرة النموذج على الإجابة وقدرته على الترجمة المحضة، مما يؤدي إلى حدوث تداخل في الوظائف البرمجية المخصصة لكل تطبيق على حدة.

الوضع المتقدم

يدعم هذا الوضع حالياً اللغة الإنجليزية وحوالي 20 لغة أخرى تتضمن اليابانية والصينية، وهو متاح للمستخدمين عبر منصات الهواتف المحمولة ونسخة الويب، ويوفر دقة عالية في نقل المعاني المعقدة، طالما لم يتم استدراجه عبر الأوامر النصية التي تحوله إلى روبوت دردشة.

يستطيع المستخدم الذي واجه هذا الخلل العودة بسهولة إلى الوضع الكلاسيكي القديم، ثم إعادة تفعيل وضع المتقدم لاستعادة الوظيفة الأصلية للمترجم، حيث تعمل هذه الخطوة على إعادة ضبط الجلسة البرمجية، وتطهير الذاكرة المؤقتة من التعليمات التي تسببت في الانحراف السلوكي للنظام.

لم تصدر Google أي تعليق رسمي حتى الآن حول هذه الظاهرة المثيرة للجدل، ويشير الخبراء إلى أن مشكلات حقن التعليمات غالباً ما تقع خارج برامج مكافآت اكتشاف الأخطاء، مما يجعل معالجتها تعتمد بشكل كلي على التحديثات الدورية التي تطلقها الشركة لسد الثغرات المنطقية.

معالجة الأخطاء

يتوقع المحللون أن تقوم الشركة بإصلاح هذا الخلل في الأسابيع المقبلة، عبر وضع قيود صارمة تمنع Gemini من التفاعل مع النصوص كأوامر حوارية، لضمان بقاء Google Translate أداة تخصصية، تخدم الغرض الذي صممت من أجله دون الخروج عن السياق الوظيفي المحدد.

توضح هذه الواقعة أن الطريق نحو دمج الذكاء الاصطناعي الكامل لا يزال مليئاً بالعثرات التقنية، حيث تحتاج الأنظمة إلى مزيد من التدقيق لضمان عدم استغلال قدراتها العقلية، في مهام تشتت انتباه المستخدم أو تؤثر على موثوقية النتائج التي تقدمها الخدمات الرقمية العالمية.