كشف تقرير صدر صباح اليوم الثلاثاء إن خوارزمية TikTok تروج لمقاطع فيديو حول إيذاء الذات واضطرابات الأكل بين المراهقين المعرضين للخطر، مستشهدة بوسائل التواصل الاجتماعي وتأثيرها على الصحة العقلية للشباب، وتسلط الضوء على المخاوف بشأن تأثيرها.
أنشأ الباحثون في مركز مكافحة الكراهية الرقمية حسابات TikTok لشخصيات مراهقة خيالية في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا. أحب مديرو الحسابات مقاطع الفيديو حول إيذاء النفس واضطرابات الأكل لمعرفة كيفية تفاعل خوارزمية TikTok.
في غضون دقائق، كانت المنصة التي تحظى بشعبية كبيرة توصي بمقاطع فيديو حول فقدان الوزن وإيذاء النفس، بما في ذلك صور النماذج المثالية وأنواع الجسم، وصور شفرات الحلاقة، ومناقشات حول الانتحار.
عندما أنشأ الباحثون حسابات بأسماء مستخدمين أشارت إلى نقاط ضعف معينة بسبب اضطرابات الأكل (على سبيل المثال، الأسماء التي تحتوي على عبارة “إنقاص الوزن”)، تلقت هذه الحسابات محتوى أكثر ضررًا.
“الأمر أشبه بالوقوع في فخ المرايا المشوهة، وإخبارنا باستمرار أنك قبيح أو غير جيد بما يكفي وقد تحتاج إلى قتل نفسك. ضخ رسائل خطيرة في نفوس الشباب.”
تعمل خوارزميات الوسائط الاجتماعية من خلال تحديد الموضوعات والمحتوى الذي يهتم به المستخدمون ويتم إرسالهم لزيادة الوقت الذي يقضونه على الموقع. لكن منتقدي وسائل التواصل الاجتماعي يقولون إن نفس الخوارزميات التي تروّج لمحتوى عن فرق رياضية معينة وهوايات ورقصات ذات شعبية كبيرة يمكن أن تخدع المستخدمين لتجربة محتوى ضار.
وفقًا لجوش غولين، الرئيس التنفيذي لمنظمة Fairplay غير الربحية، فإن هذا يعني قضاء المزيد من الوقت على الإنترنت وتأثير التنمر أو ضغط الأقران أو المحتوى السلبي حول اضطرابات الأكل والانتحار. وهذا يمثل مشكلة خاصة للمراهقين والأطفال الضعفاء. دعم حماية الطفل. الأكبر على الإنترنت للأطفال.
وأضاف أن TikTok ليست المنصة الوحيدة التي فشلت في حماية المستخدمين الشباب من المحتوى الضار وجمع البيانات الهائل. يقول غولن: “كل هذه الخسائر مرتبطة بنموذج أعمالنا”. “منصة التواصل الاجتماعي نفسها لم تكن مقصودة”.
في بيان صادر عن متحدث باسم الشركة ، شكك تيك توك بشكل رسمي بخصوص النتائج ، مشيرًا إلى أن الباحثين لم يستخدموا المنصة بقدر المستخدمين العاديين ، وكشفوا بشكل رسمي إن النتائج كانت منحرفة نتيجة لذلك. وأضافت الشركة أيضًا أن اسم حساب المستخدم يجب ألا يؤثر على نوع المحتوى الذي يستقبله المستخدم.