Reddit يوسع أدوات الإشراف بالذكاء الاصطناعي تمهيدا لإنهاء Automod

أعلنت شركة ريديت توسيع أدوات الإشراف الجديدة المدعومة بالذكاء الاصطناعي، في خطوة تستهدف تغيير طريقة إدارة المجتمعات والمنشورات والتعليقات على المنصة، وتعتمد الخطة على أداة جديدة تحمل اسم Rules Hub وتستخدم نماذج اللغة الكبيرة لفهم سياق المحتوى بدلا من الاعتماد على مطابقة كلمات محددة، وتأتي هذه الخطوة مع توجه الشركة إلى تقليل الاعتماد على أداة Automod التي استخدمها مشرفو المجتمعات لأكثر من عقد.

وتوسع ريديت حاليا نطاق إتاحة Rules Hub ليشمل المجتمعات الجديدة التي يتم إنشاؤها على المنصة، على أن تمتد الأداة إلى نطاق أوسع خلال الفترة المقبلة، وتراهن الشركة على قدرة النظام الجديد على مساعدة المشرفين في التعامل مع الحالات التي يصعب تصنيفها بالاعتماد على قواعد ثابتة، خاصة عندما يتغير معنى المنشور وفقا للسياق المحيط به.

وتعتمد Automod منذ سنوات على قواعد يحددها مشرفو المجتمعات، ويمكن لهذه القواعد اكتشاف كلمات أو عبارات معينة، ثم اتخاذ إجراءات مثل حذف المحتوى أو الإبلاغ عنه أو إرساله إلى قائمة المراجعة، إلا أن هذا الأسلوب يحتاج إلى تحديث القواعد بصورة مستمرة للتعامل مع أشكال جديدة من المحتوى المخالف، وهو ما ترى ريديت أنه يحد من قدرة الأداة على التعامل مع الحالات المعقدة.

قواعد أذكى

وتستخدم Rules Hub نماذج الذكاء الاصطناعي لفهم اللغة الطبيعية والهدف من المنشور أو التعليق، بما يسمح للمشرفين بإنشاء قواعد تعتمد على المعنى وليس على وجود كلمة محددة فقط، ويمكن للنظام التعامل مع اختلافات السياق التي قد تؤدي إلى نتائج خاطئة عند استخدام قواعد المطابقة المباشرة.

وتوضح ريديت أن الأداة تستطيع مساعدة المشرفين في تحديد القواعد التي يريدون تطبيقها واختيار الإجراء المناسب عند اكتشاف محتوى يخالف هذه القواعد، مع بقاء القرار النهائي والإدارة العامة للمجتمع في يد المشرفين، وهو ما تستهدف الشركة من خلاله تقليل الأعمال اليدوية دون نقل مسؤولية إدارة المجتمعات بالكامل إلى الذكاء الاصطناعي.

ويأتي تطوير Rules Hub في وقت تواجه فيه منصات التواصل الاجتماعي ضغوطا متزايدة لتحسين أنظمة الإشراف على المحتوى، خاصة مع اتساع حجم المنشورات والتعليقات اليومية، ويجعل هذا النمو من الصعب على فرق الإشراف البشرية مراجعة كل المحتوى، بينما قد تتسبب الأنظمة الآلية القائمة على الكلمات المفتاحية في حذف محتوى لا يخالف القواعد فعليا.

وتطرح ريديت مثالا على هذه المشكلة من خلال قدرة النظام الجديد على التمييز بين إهانة شخصية حقيقية واستخدام عبارة مشابهة ضمن اقتباس من فيلم، وهي حالات قد تبدو متطابقة عند الاعتماد على الكلمات فقط، لكنها تختلف عند قراءة السياق الكامل للمنشور.

مخاوف المشرفين

وتواجه الخطة في المقابل اعتراضات من عدد من المشرفين المتطوعين الذين يعتمدون على Automod في إدارة مجتمعات كبيرة منذ سنوات، ويرى بعضهم أن نماذج الذكاء الاصطناعي لا تقدم حتى الآن مستوى الثبات المطلوب للتعامل مع المجتمعات التي تستقبل أعدادا كبيرة من المنشورات والتعليقات على مدار الساعة.

وتزداد المخاوف مع حديث ريديت عن مستقبل Automod، إذ تخطط الشركة على المدى الطويل للتخلي عن الأداة القديمة عندما تصبح البدائل المعتمدة على الذكاء الاصطناعي قادرة على تنفيذ وظائفها بكفاءة، بينما يخشى مشرفون من أن يؤدي الانتقال إلى نظام جديد إلى زيادة الأخطاء أو تحميلهم أعمال مراجعة إضافية بدلا من تخفيف الضغط عنهم.

وأكدت ريديت أن Automod لن تختفي في الوقت الحالي، كما أوضحت نائبة رئيس مجتمع ريديت لورا نيستر أن Rules Hub لا تستطيع تنفيذ جميع الوظائف التي توفرها Automod حتى الآن، وأن الشركة لن تتخلى عن الأدوات الحالية قبل التأكد من أن البدائل الجديدة تستطيع تنفيذ المهام المطلوبة في الاستخدام الفعلي.

وتحاول الشركة بذلك تهدئة المخاوف المرتبطة بعملية الانتقال، خاصة أن إدارة المجتمعات على ريديت تعتمد بدرجة كبيرة على مشرفين متطوعين وليس على فرق داخلية تتولى مراجعة المحتوى بالكامل، وبالتالي فإن أي تغيير في أدوات الإشراف ينعكس بصورة مباشرة على طريقة عمل هذه المجتمعات.

وتشير هذه الخطوة أيضا إلى تغير في طريقة تعامل ريديت مع إدارة المحتوى، فبدلا من إضافة قواعد جديدة إلى نظام قائم على الكلمات والتعبيرات، تتجه الشركة إلى نموذج يستطيع قراءة المحتوى وتفسيره وفقا للقواعد التي يحددها كل مجتمع، وهو اتجاه يرتبط بتوسع استخدام نماذج اللغة الكبيرة في مهام التصنيف والمراجعة.

تغييرات أوسع

وتتزامن Rules Hub مع تغييرات أخرى تعمل ريديت على تنفيذها في بنيتها التقنية، إذ أعلنت الشركة خططا لتقييد الوصول العام إلى واجهة البرمجة الخاصة بالمنصة بصورة تدريجية، كما تتجه إلى إلزام التطبيقات وأدوات المجتمعات الجديدة بالعمل من خلال منصة المطورين التابعة لها.

وتربط ريديت هذه التغييرات بمحاولة حماية بيانات المنصة من الاستخدام غير المصرح به، خاصة مع زيادة اهتمام شركات الذكاء الاصطناعي بالبيانات المنشورة على مواقع الإنترنت واستخدامها في تدريب النماذج، وأصبح التحكم في الوصول إلى المحتوى جزءا من استراتيجية شركات المنصات خلال السنوات الأخيرة.

وتعمل الشركة كذلك على فرض قيود إضافية على واجهة Old Reddit المخصصة لأجهزة الكمبيوتر، بعدما بدأت في السابق تقييد الوصول إليها للمستخدمين الذين لم يسجلوا الدخول، وتشير التغييرات المنتظرة إلى احتمال نقل بعض وظائف الإشراف المهمة إلى بنية أحدث بدلا من استمرار الاعتماد على الواجهة القديمة.

وتعكس هذه التحركات رغبة ريديت في إعادة تنظيم الطريقة التي تتعامل بها المنصة مع المحتوى والبيانات وأدوات المطورين في وقت واحد، لكن إدخال الذكاء الاصطناعي إلى عمليات الإشراف يظل الجزء الأكثر حساسية، لأن نجاح Rules Hub لن يقاس فقط بقدرتها على اكتشاف المحتوى المخالف، بل أيضا بقدرتها على تجنب القرارات الخاطئة التي قد تؤثر في المجتمعات ومستخدميها.

وتحتاج ريديت خلال الفترة المقبلة إلى إثبات قدرة Rules Hub على العمل في المجتمعات الكبيرة والمزدحمة، حيث تتنوع طبيعة المنشورات وتختلف قواعد كل مجتمع عن الآخر، كما سيكون اعتماد المشرفين على الأداة مرتبطا بمدى قدرتها على تقديم نتائج يمكن مراجعتها وفهم أسبابها بدلا من إصدار قرارات يصعب تفسيرها.

وتشير خطة الشركة إلى أن Automod لن تختفي بصورة فورية، وأن الانتقال إلى الإشراف المدعوم بالذكاء الاصطناعي سيجري على مراحل، لكن توسيع Rules Hub إلى المجتمعات الجديدة يمثل بداية عملية قد تغير طريقة إدارة المحتوى على ريديت خلال السنوات المقبلة، خصوصا إذا أثبتت الأداة قدرتها على فهم السياق والتعامل مع الحالات التي عجزت القواعد التقليدية عن تصنيفها.