روبوتات الدردشة قد تجمع معلومات شخصية بشكل مقلق

كشفت دراسة حديثة أن بعض روبوتات الدردشة قادرة على دفع المستخدمين للإفصاح عن معلومات شخصية أكثر بكثير مما يعتقدون، حيث أشارت النتائج إلى أن هذه النماذج قد تجمع بيانات بمعدل يزيد 12.5 مرة مقارنة بالأنظمة التقليدية، ما يطرح تساؤلات حول خصوصية المستخدمين وأمان المعلومات الرقمية أثناء التفاعل مع تقنيات الذكاء الاصطناعي الحديثة.

الدراسة أجراها خبراء من كلية كينغز كوليدج في لندن وجامعة بوليتكنيكا دي فالنسيا، وشملت تجربة عملية على 502 شخصا، حيث تم استخدام نماذج لغوية جاهزة مثل Llama-3-8B Instruct وMistral 7B Instruct، مع تعديل طريقة توجيه النظام لتباين بين الحيادية والتلاعب، وذلك لقياس مدى تأثير أساليب مختلفة في استخراج البيانات الشخصية.

أساليب التلاعب

أظهرت النتائج أن أكثر الوسائل نجاحا في دفع المستخدمين لمشاركة معلوماتهم لم تكن الأسئلة المباشرة، بل تقنيات تعتمد على كسب الثقة، وإظهار التعاطف، والمعاملة بالمثل، مثل مشاركة قصص قصيرة أو تقديم وعود بالحفاظ على السرية، حيث ساهمت هذه الحيل الاجتماعية في شعور المستخدمين بالراحة والتقليل من شعورهم بالخطر، ما أدى إلى كشف تفاصيل شخصية أكبر بكثير من المتوقع.

الخبراء حذروا من أن حداثة هذه الأنظمة تجعل المستخدمين أقل وعيًا بالدوافع الخفية وراء التفاعل معها، إذ يمكن للذكاء الاصطناعي المصمم بطرق خبيثة استغلال سلوكيات الإنسان الطبيعية للحصول على معلومات حساسة، مما يعرض الأفراد لمخاطر خصوصية قد تكون أكبر من تلك التي تواجهها الأنظمة التقليدية.

تهديد الخصوصية

وفق الدراسة، تمثل روبوتات الدردشة "الخبيثة" تهديدا متزايدا للخصوصية الرقمية، خاصة مع ازدياد اعتماد المستخدمين على هذه التكنولوجيا في حياتهم اليومية، سواء للحصول على إجابات سريعة أو محادثات ودية، حيث يمكن بسهولة تعديل إعدادات أو توجيه النظام ليصبح أكثر قدرة على جمع البيانات دون وعي المستخدم.

وأشار المحاضر في الأمن السيبراني بكينغز كوليدج، ويليام سيمور، إلى أن المستخدمين بحاجة إلى وعي أكبر حول التفاعلات الرقمية مع هذه الروبوتات، وأن على صانعي السياسات وضع قواعد واضحة لحماية البيانات الشخصية، لضمان أن تظل المعلومات الحساسة بعيدة عن التلاعب أو الاستغلال من قبل النماذج اللغوية الذكية.

نصائح المستخدمين

ينصح الخبراء بعدم مشاركة المعلومات الشخصية الحساسة أثناء التفاعل مع روبوتات الدردشة غير المعروفة، والتحقق من سياسات الخصوصية، واستخدام النسخ الرسمية والموثوقة فقط من التطبيقات، كما يجب توخي الحذر من الرسائل أو الأساليب التي تحاول كسب الثقة بسرعة، لأنها قد تكون وسيلة لجمع البيانات دون علم المستخدم، ما يعكس أهمية التوعية الرقمية في ظل الانتشار الكبير لتقنيات الذكاء الاصطناعي.

تسلط هذه الدراسة الضوء على التحديات الجديدة التي تواجه الخصوصية الرقمية في عصر الذكاء الاصطناعي، وتؤكد أن التكنولوجيا الحديثة ليست دائما محايدة، إذ يمكن تعديلها لتحقيق أهداف خفية قد تؤثر على أمان البيانات الشخصية للمستخدمين في جميع أنحاء العالم.