ميتا وتيك توك تحت المجهر بتهمة تعزيز المحتوى الضار لزيادة التفاعل على منصات التواصل الاجتماعي

أفاد مبلّغون عن مخالفات بأن الشركات الكبرى في مجال وسائل التواصل الاجتماعي قامت بقرارات أدّت إلى زيادة ظهور محتوى ضار على صفحات المستخدمين، وذلك بعد أن أظهرت دراسات داخلية لتلك الشركات أن المحتوى الذي يثير الغضب يعزز تفاعل المستخدمين. وكشف أكثر من 12 مبلّغاً ومطلعاً كيف جازفت هذه الشركات بمعايير السلامة، في مجالات تشمل العنف والابتزاز الجنسي والإرهاب، بسبب المنافسة الشديدة على جذب انتباه المستخدمين.

أشار مهندس من شركة ميتا، المالكة لفيسبوك وإنستغرام، إلى أن الإدارة العليا قدمت تعليمات بالسماح بظهور مزيد من المحتوى الضار، مثل كراهية النساء ونظريات المؤامرة، بهدف المنافسة مع تيك توك، وقد أضاف المهندس أن السبب وراء هذه السياسات كان تراجع أسعار الأسهم. كما أتاح موظف في تيك توك للبي بي سي الوصول إلى لوحات البيانات الداخلية، مما كشف عن أولوية معالجة القضايا المتعلقة بالسياسيين على حساب القضايا ذات الصلة بحماية الأطفال.

قدّم المبلّغون عن المخالفات مسائل مثيرة للقلق بشأن كيفية تعامل قطاع وسائل التواصل الاجتماعي مع نمو منصة تيك توك، حيث كشفوا أن هذه الشركات لم تتخذ احتياطات كافية عند تقديم ميزات جديدة مثل “إنستغرام ريلز”. وأظهرت الأبحاث زيادة ملحوظة في معدلات التنمّر والتحرّش وخطاب الكراهية مع إطلاق هذه الميزات.

كشف موظف سابق كبير في ميتا أن الشركة استثمرت بشكل أكبر في تطوير ميزات مثل “ريلز”، بينما طلبت فرق السلامة توظيف متخصصين لحماية الأطفال وتم رفض ذلك. وقدّم الباحث مات موتيل أدلة على أن فيسبوك كان على علم بالمشاكل التي تسببت بها خوارزمياته ولا تزال مستمرة في مخاطرة محتوى ضار.

وفقاً لدراسة داخلية، فإن الخوارزمية كانت توفر لصنّاع المحتوى مساراً يحقق لهم الأرباح على حساب صحة الجمهور النفسية، في حين أكدت ميتا على عدم صحة الادعاءات بأنهم يضخمون المحتوى الضار لتحقيق مكاسب مالية. من جانبها، أكدت تيك توك أن هذه الاتهامات مختلقة وأنهم يستثمرون في تقنيات تمنع عرض المحتوى الضار.

أشار مهندس في تيك توك إلى أن الخوارزميات أشبه بـ “صندوق أسود”، يصعب فهم كيفية عملها. وأكد أنه ليس لديهم سيطرة كاملة على خوارزمية التعلم العميق، مما يجعل عملية حماية المستخدمين صعبة. وعلى الرغم من أن الفرق المعنيّة بالأمان تحاول إزالة المحتوى الضار، إلا أن ظهور المزيد من المحتوى الإشكالي قد زاد بمرور الوقت.

بعض مستخدمي تيك توك أبدوا استيائهم من فعالية الأدوات التي تسمح لهم بالإبلاغ عن المحتوى غير المرغوب فيه، مشيرين إلى أنهم لا يزالون يتلقون توصيات بمحتوى يتضمن عنفاً وخطاب كراهية. وفي حالة فردية، أوضح مراهق أنه تعرض للتطرف نتيجة محتوى مُنُصًب له بواسطة الخوارزمية منذ سن مبكرة.

أكد متخصصون في مكافحة الإرهاب أن هناك “تطبيعاً” لانتشار منشورات عنصرية ومعادية للسامية، مشيرين إلى أن الناس أصبحوا أقل تأثراً بمشاهد العنف. وفي هذا الإطار، شارك أحد أعضاء فريق الثقة والسلامة في تيك توك مع البي بي سي تفاصيل عن الإجراءات التي تم اتخاذها ضد المحتوى الضار، متطرقاً إلى الضغوطات التي تعرض لها الفريق لترتيب الأولويات بشكل غير مناسب.

أشارت التقارير إلى أن محتوى متعلق بالسياسة كان يعطى أولوية أعلى في المراجعة بالمقارنة مع قضايا تتعلق بإلحاق الأذى بالشباب. وقد شعرت الموظف نيك بعبء التحديات اليومية التي يواجهها بسبب التكرار اليومي للقرارات التي يتوجب اتخاذها. وفي أعقاب ذلك، وجّه نصيحة للأهالي بنقل أطفالهم بعيداً عن تيك توك.

في السنوات الأخيرة، زادت وتيرة التنافس بين تيك توك وميتة، حيث تم إطلاق “ريلز” أثناء جائحة كوفيد-19 كرد فعل على النجاح الذي حققته تيك توك. وفي حين أن ميتا كانت تحاول استغلال هذا النجاح، واجهت تحديات في إدارة المحتوى الضار وضمان سلامة المستخدمين.

أوضح الباحثون السابقون في ميتا أن هناك دائماً مقايضات بين حماية المستخدمين وزيادة التفاعل، الأمر الذي غالباً ما يقود الشركة إلى توجيه مزيد من الحوافز نحو زيادة التفاعل على حساب السلامة. وأصبح لدى ميتا قبولٌ متزايد لفكرة أن هناك تقاطع بين أعمالهم والمخاطر الاجتماعية التي تبرز بسبب المحتوى الضار.