ملخصات جوجل الذكية تثير مخاوف صحية بسبب معلومات طبية مضللة

كشف تحقيق استقصائي أجرته صحيفة الجارديان البريطانية، عن ثغرات خطيرة في ملخصات الذكاء الاصطناعي التي تطلقها شركة جوجل، حيث تبين أنها قد تحتوي على بيانات صحية غير دقيقة تضع حياة المستخدمين على المحك، وتؤدي إلى اتخاذ قرارات طبية كارثية بناءً على نصائح برمجية مغلوطة.

تعتمد أداة AI Overviews على تقنيات الذكاء الاصطناعي التوليدي، لتقديم إجابات فورية وموجزة تظهر في صدارة نتائج البحث، ورغم ترويج جوجل لها كخدمة موثوقة ومفيدة، إلا أن الواقع العملي أثبت قدرتها على إنتاج محتوى طبي يشكل تهديداً حقيقياً لسلامة المرضى في حالات حرجة.

رصد التحقيق تقديم الأداة نصيحة طبية لمرضى سرطان البنكرياس، تطالبهم فيها بضرورة تجنب الأطعمة عالية الدسم بشكل مطلق، وهو ما اعتبره المتخصصون تضليلاً يرفع مخاطر الوفاة لدى هذه الفئة، نظراً لاحتياجهم الشديد للسعرات الحرارية العالية لمقاومة الهزال المصاحب للمرض الخبيث.

أخطاء طبية

امتدت الأخطاء البرمجية لتشمل تفسيرات مغلوطة لنتائج اختبارات وظائف الكبد، مما قد يدفع بعض المرضى للاعتقاد بأن حالتهم الصحية مستقرة وجيدة على خلاف الحقيقة، وهذا النوع من التضليل يساهم في تأخير الحصول على الرعاية اللازمة، ويزيد من تعقيد الحالة الصحية لدى المصابين.

دافعت شركة جوجل عن تقنياتها موضحة أن الحالات المرصودة، قد تعتمد على لقطات شاشة مجتزأة ولا تعكس الأداء الكلي للمنظومة، مؤكدة أن الأداة تشير دوماً إلى مصادر موثوقة وتنصح بضرورة استشارة الأطباء المختصين، قبل اعتماد أي معلومة تظهر عبر شاشات البحث الذكية.

حذرت ستيفاني باركر مديرة التسويق الرقمي بمؤسسة ماري كوري، من لجوء الناس للإنترنت في لحظات القلق والضعف الإنساني، مشيرة إلى أن تلقي معلومات خاطئة أو خارج سياقها الطبي السليم، يمثل خطراً بالغاً قد يؤدي إلى تدهور سريع في الحالة الجسدية والنفسية للمرضى.

بيانات مضللة

تتصاعد المخاوف الدولية من الاعتماد الكلي على بيانات الروبوتات، خاصة بعد تقارير سابقة كشفت عن تقديم نصائح مالية مدمرة وأخبار سياسية مضللة، مما يضع شركات التكنولوجيا الكبرى في مواجهة مباشرة مع الهيئات الرقابية، التي تطالب بوضع معايير صارمة للمحتوى الصحي الرقمي.

تؤكد جوجل في المقابل أن الغالبية العظمى من ملخصاتها دقيقة، مشيرة إلى أنها تعمل بجهد مستمر لتحسين جودة الخوارزميات وتفادي الأخطاء اللغوية أو العلمية، معتبرة أن دقة AI Overviews تضاهي ميزات البحث التقليدية، التي وفرتها الشركة للمستخدمين طوال العقد الماضي.

يواجه المستخدمون حالياً تحدي التمييز بين الحقائق الطبية وبين التوقعات البرمجية، مما يتطلب وعياً مجتمعياً بضرورة التدقيق في المصادر الأصلية للمعلومات، وعدم الانسياق خلف الإجابات السريعة التي قد تفتقر إلى العمق الطبي الضروري لفهم طبيعة الأمراض المعقدة وتطوراتها.

رقابة تكنولوجية

طالب خبراء في الصحة الرقمية بضرورة وضع علامات تحذيرية، تظهر بوضوح بجانب الملخصات التي تتعامل مع الأسئلة الطبية الحساسة، لضمان عدم خلط المستخدم بين النصيحة التقنية وبين التشخيص الطبي المعتمد، الذي يتطلب فحصاً سريرياً مباشراً لا يمكن للذكاء الاصطناعي تعويضه.

تستمر التكنولوجيا في فرض واقع جديد على سوق المعرفة الصحية، ومع ذلك تظل المسؤولية الكبرى تقع على عاتق الشركات المطورة، لضمان عدم تحول أدوات البحث إلى منصات لنشر الشائعات العلمية، التي قد تفتك بحياة الأفراد بدلاً من مساعدتهم على فهم أعراضهم الجسدية.