الخوارزميات تحاصر المراهقين بالعنف والإباحية

كشف تحقيق لشبكة بي بي سي أن خوارزميات وسائل التواصل الاجتماعي، تُعرّض المراهقين الذكور لمنشورات تتضمّن "مشاهد عنف ومواد إباحية ووجهات نظر معادية للنساء".

في المقابل، تشمل توصيات الخوارزميات للمراهقات مواد مختلفة تماما تركز على موضوعات تشمل الموسيقى والماكياج.

اتهامات لإنستغرام وتيك وتوك

يوضح التحقيق أن منصتي تيك توك وإنستغرام، تعتمدان على خوارزميات تروج للمحتويات العنيفة والإباحية للمراهقين الذكور، فيما تقول Tiktok إنها تعمل على إزالة 99% من المحتوى الذي ينتهك قواعدها، عبر أدوات الذكاء الاصطناعي أو المشرفين البشريين.

لكن أندرو كوانغ، محلل أمان المستخدمين السابق في تيك توك، يؤكّد أن AI "ليس معصوما عن الخطأ"، الأمر الذي يسمح لـ"المحتوى الضار" بالوصول إلى المراهقين قبل إزالته.

تحسين آليات الحماية

تواجه منصات التواصل الاجتماعي ضغوطاً متزايدة من الجهات الرقابية، لتحسين آليات حماية المستخدمين الصغار.

وطالبت هيئة تنظيم الاتصالات البريطانية، أوفكوم، الشركات الكبرى بإجراءات أكثر صرامة لحمايتهم من المحتوى "الضار" الذي يقدّم عن غير قصد، أحيانا.

وعلقت ألمودينا لارا، مديرة تطوير سياسات الأمان الرقمي في أوفكوم، بأن الشركات "تعاملت مع الأطفال كما تتعامل مع البالغين".

وعلى الرغم من تعهدات منصات التواصل الاجتماعي بتحسين أمان المستخدمين، وتقديم تيك توك وميتا أدوات أمان متعددة، لكن فعاليتها في حماية المراهقين ما تزال محل نقاش.

توصيات "حماية"

في سبيل الحدّ من هذه المشاكل والتعرّض للمحتوى "الضار"، تعرض بعض الجهات المعنية خطوات في هذا الخصوص منها:

• حياة الأطفال والمراهقين، ستكون أفضل "إن توقفوا عن استخدام هواتفهم الذكية"، بحسب كوانغ.
• تعتزم بريطانيا طرح قانون جديد، يفرض على شركات وسائل التواصل الاجتماعي ضرورة التحقق من أعمار الأطفال ووقف المواقع التي تقدّم المحتوى الضار للمراهقين.
• تغريم الشركات ورفع دعاوى جنائية عليها في حال عدم بذل الجهود الكافية في هذا الصدد، لكن هذه التدابير لن تدخل حيز التنفيذ حتى عام 2025.