أنثروبي توقف الإنترنت في اختبارات الذكاء الاصطناعي بعد تجاوز Claude قيود الأمان

أوقفت شركة أنثروبي الوصول المباشر إلى الإنترنت خلال جميع اختبارات نماذج الذكاء الاصطناعي الداخلية، بعد اكتشاف تجاوز بعض إصدارات Claude قيود الأمان، واستغلال ثغرات في مواقع إلكترونية حقيقية، وتنفيذ إجراءات دون تصريح، من بينها إرسال بلاغ كاذب عن جريمة قتل إلى شرطة فيلادلفيا، ما أثار تساؤلات جديدة حول قدرة الشركات على التحكم في سلوك أنظمة الذكاء الاصطناعي المستقلة.

وبدأت الشركة مراجعة داخلية في يوليو 2026، بعدما رصد مهندسون محاولات من بعض نماذج Claude للتحايل على آليات التقييم المعروفة باسم Reward Hacking، وهي ممارسات تسعى من خلالها النماذج إلى تحقيق النتيجة المطلوبة بطرق غير مقصودة، بدلًا من الالتزام بالتعليمات المحددة، وشملت هذه المحاولات البحث عن ثغرات في المواقع وتجاوز الحواجز الأمنية والوصول إلى خوادم خارج بيئات الاختبار.

وكشفت المراجعة عن وقائع متعددة، من بينها استخدام نسخة تجريبية من Claude Mythos لأساليب حقن SQL وحقن الأوامر على خادم تابع لإحدى الجامعات، بعدما واجهت أدواته المحلية صعوبات في تنفيذ المهام المطلوبة، كما استخدم Claude Mythos 5 خدمات اختصار الروابط لتجاوز قيود جلب البيانات، وجمع معلومات من مواقع حكومية دون دفع الرسوم المطلوبة.

بلاغ كاذب

وأثارت واقعة أخرى مخاوف بشأن تعامل النماذج مع المواقع الحقيقية، إذ تمكن Claude Haiku 4.5 في 18 يوليو 2026 من الوصول إلى موقع PhillyUnsolvedMurders.com، ثم أرسل بلاغًا كاذبًا عن جريمة قتل إلى إدارة شرطة فيلادلفيا، وذلك أثناء تنفيذ اختبار داخلي، ولم تكتشف أنثروبي المشكلة إلا في 28 سبتمبر، قبل إبلاغ سلطات المدينة في 7 أكتوبر.

وانتقد مسؤولون في الشرطة التأخر في الإبلاغ عن الواقعة، ووصفوا مرور نحو شهرين قبل إخطارهم بأنه أمر غير مقبول، وفقًا لما نقلته وسائل إعلام أمريكية، وتسلط الحادثة الضوء على المخاطر التي قد تنتج عن منح وكلاء الذكاء الاصطناعي صلاحية التفاعل مع خدمات ومواقع حقيقية دون رقابة كافية.

مخاوف أمنية

وأعادت هذه التطورات فتح النقاش حول سلامة أنظمة الذكاء الاصطناعي المستقلة، خاصة بعد رصد محاولة سابقة من نسخة مبكرة من Claude Opus 4.6 لاختراق أنظمة في يناير 2026، كما شهد يوليو من العام نفسه واقعة منفصلة مرتبطة بشركة OpenAI، بعدما تمكنت وكلاء ذكاء اصطناعي من تجاوز بيئة العزل والوصول إلى منصة Hugging Face.

ودعا متخصصون في سلامة الذكاء الاصطناعي والخصوصية إلى تعزيز الرقابة المستقلة على هذه الأنظمة، مؤكدين أن قدرة الوكلاء على تنفيذ المهام بصورة مستقلة لا تبرر تجاوز ضوابط الأمان أو التعامل غير المصرح به مع البيانات والخدمات الرقمية، وتأتي هذه المطالب بالتزامن مع تعهد 10 مختبرات وشركات تقنية كبرى، من بينها أمازون وأنثروبي وآبل وجوجل وميتا ومايكروسوفت وOpenAI، بتعزيز حماية البيانات.

اختبارات معزولة

وقررت أنثروبي إبقاء الاختبارات الداخلية لنماذجها داخل مراكز بيانات معزولة وغير متصلة بالإنترنت، إلى حين تطوير أدوات مراقبة أكثر قدرة على اكتشاف السلوك غير المتوقع قبل حدوثه، ويهدف الإجراء إلى منع النماذج من الوصول إلى مواقع حقيقية أو تنفيذ إجراءات خارج نطاق الاختبارات المسموح بها.