خبير سابق في فيسبوك يكشف عن مشاكل مراقبة المحتوى ويطور حلول الذكاء الاصطناعي

يواجه عمالقة التكنولوجيا تحديات كبيرة في مراقبة المحتوى على منصاتهم، وهو ما كشف عنه مسؤول سابق في شركة فيسبوك (Meta) قرر ترك الشركة لتطوير حلول جديدة قائمة على الذكاء الاصطناعي لمعالجة هذه المشكلة المستمرة.

بريت ليفنسون (Brett Levenson)، الذي انتقل من شركة أبل (Apple) إلى فيسبوك في عام 2019 لقيادة قسم نزاهة الأعمال، وصل إلى الشركة في وقت كانت تواجه فيه تداعيات فضيحة كامبريدج أناليتيكا. وبحسب مصادر مطلعة، اعتقد ليفنسون في البداية أنه يمكن حل مشكلة مراقبة المحتوى في فيسبوك ببساطة من خلال تحسين التكنولوجيا المستخدمة.

تحديات أعمق من المتوقع

لكن ليفنسون اكتشف بسرعة أن المشكلة أعمق بكثير من مجرد قضايا تقنية. فقد واجه المراجعون البشريون الذين يعملون على مراقبة المحتوى تحديات جسيمة في أداء مهامهم بشكل فعال. وأفادت التقارير أن هؤلاء المراجعين كانوا مطالبين بحفظ وثيقة سياسات تمتد على 40 صفحة، تم ترجمتها آلياً إلى لغاتهم المحلية، مما قد يؤثر على دقة فهم القواعد والإرشادات.

وكشف ليفنسون عن التحدي الأكبر الذي يواجه هؤلاء المراجعين: الضغط الزمني الشديد. فبحسب المعلومات المتاحة، كان لدى المراجعين حوالي 30 ثانية فقط لكل جزء من المحتوى المُبلغ عنه لاتخاذ قرارات معقدة ومتعددة الأبعاد.

قرارات سريعة ودقة منخفضة

خلال هذه الـ30 ثانية المحدودة، كان على المراجعين تحديد ما إذا كان المحتوى ينتهك القواعد أم لا، وإذا كان كذلك، فما هو الإجراء المناسب الذي يجب اتخاذه. تشمل هذه الإجراءات حجب المحتوى، أو حظر المستخدم، أو الحد من انتشار المنشور، وكل ذلك يتطلب تقييماً دقيقاً للسياق والمحتوى.

والأمر الأكثر إثارة للقلق، وفقاً لليفنسون، هو أن دقة هذه القرارات السريعة كانت منخفضة بشكل مثير للقلق. حيث أشار إلى أن نسبة الدقة في القرارات المتخذة بهذه الطريقة السريعة كانت "أفضل قليلاً من 50%"، وهو ما يعني أن نصف القرارات تقريباً كانت خاطئة أو غير دقيقة.

نحو حلول الذكاء الاصطناعي

هذه التجربة دفعت ليفنسون إلى إعادة النظر في كامل نهج مراقبة المحتوى، والبحث عن طرق جديدة لتحسين العملية باستخدام تقنيات الذكاء الاصطناعي المتطورة. وتُظهر هذه المكاشفات حجم التحديات التي تواجهها منصات التواصل الاجتماعي في التوازن بين حرية التعبير وضرورة إزالة المحتوى المؤذي أو المنتهك للسياسات.

وتسلط هذه الكشوفات الضوء على الحاجة الملحة لتطوير أنظمة أكثر دقة وفعالية لمراقبة المحتوى، خاصة مع تزايد حجم المحتوى المنشور يومياً على هذه المنصات وتعقد طبيعة التحديات المرتبطة بالمحتوى المنتهك للقواعد.