خوارزمية "يوتيوب" تروج لمحتوى مرتبط باضطراب الأكل بين الشباب

كشفت دراسة جديدة عن أن خوارزمية "يوتيوب" تقترح مقاطع فيديو عن اضطراب الأكل وفقدان الوزن لبعض المراهقين.

ويعد موقع "يوتيوب"، وهو منصة التواصل الاجتماعي الأكثر استخداماً بين المراهقين، بـ"إزالة المحتوى الذي يمجد أو يروج لاضطرابات الأكل". لكن مركز مكافحة الكراهية الرقمية Center for Countering Digital Hate وجد في دراسة نُشرت مطلع الشهر الجاري أن خوارزمية "يوتيوب" تدفع بعض المحتوى الذي يروج لاضطراب الأكل إلى شاشات الفتيات البالغات من العمر 13 سنة، وهي المجموعة الأكثر عرضة لاضطرابات الأكل.

وأظهرت النتائج أن "خوارزمية "يوتيوب" تدفع الفتيات الصغيرات إلى متابعة مقاطع تروج للأجسام النحيلة والحميات القاسية التي قد تترتب عليها عواقب مميتة"، بحسب ما ذكرته المجموعة.

ولتحليل مدى تعرض المراهقين الأميركيين لهذا المحتوى، أنشأ "مركز مكافحة الكراهية الرقمية" حساباً وهمياً لفتاة في سن الـ13 من الولايات المتحدة، ثم بحث الباحثون باستخدام 20 كلمة مفتاحية شائعة مرتبطة باضطرابات الأكل، مثل "إلهام اضطراب الأكل"، واختاروا مقطع فيديو بناءً على تلك الكلمات.

بعدها سجل الباحثون أول 10 توصيات تظهر في قسم "التالي" المجاور للفيديو. أجروا التجربة 100 مرة، مما سمح بتحليل 1000 مقطع فيديو بصورة إجمالية. كما مُسح سجل الحساب وملفات تعريف الارتباط بين كل تجربة لضمان عدم تأثيرها في النتائج.

صُنفت هذه المقاطع إلى أربع فئات: محتوى ضار يتعلق باضطراب الأكل وينتهك سياسات "يوتيوب"، ومحتوى آخر متعلق باضطراب الأكل، ومحتوى عن فقدان الوزن، ومحتوى غير ذي صلة.

ووجدوا أن واحداً من كل ثلاثة مقاطع فيديو أُوصي بها لحساب الفتاة الخيالية في سن الـ13 كانت تحوي "محتوى ضاراً يتعلق باضطراب الأكل" أو مقاطع قد تنتهك سياسة "يوتيوب".

وتوضح السياسة المحدثة في أبريل (نيسان) 2023 أن "يوتيوب" سيحذف أو يقيد المقاطع التي "تمجد أو تروج" لاضطرابات الأكل، أو التي تحوي تعليمات حول "اتباع عملية اضطرابات الأكل"، أو التي تظهر "التنمر المرتبط بالوزن في سياق اضطرابات الأكل".

كما كشفت الدراسة عن أن هذه الفيديوهات لا تقتصر على التوصية بها فقط للحساب المختبر، بل تحظى بمتابعة واسعة أيضاً. وبلغ متوسط عدد مشاهدات مقاطع الفيديو ذات "المحتوى الضار" التي راجعها مركز مكافحة الكراهية الرقمية نحو 388 ألف مشاهدة.

وبعد إبلاغ "يوتيوب" عن 100 فيديو ذي محتوى ضار يتعلق باضطراب الأكل، فشل الموقع في حذف هذه المقاطع أو تقييدها حسب العمر أو تصنيف نحو 81 في المئة منها، وفقاً لما ذكره مركز مكافحة الكراهية الرقمية. وحُذفت 17 فيديو فقط، وقُيد واحد حسب العمر، بينما أضيفت لوحة موارد للأزمات إلى فيديو واحد.

فيما أظهرت الدراسة أن معظم التوصيات، ما يقارب اثنين من كل ثلاثة مقاطع في لوحة "التالي"، كانت ضمن فئات "محتوى فقدان الوزن"، الذي يتناول الحميات أو الروتينات من دون الإشارة إلى اضطرابات الأكل، و"محتوى آخر عن اضطرابات الأكل"، الذي يتناول الاضطرابات بصورة محايدة أو تحذيرية من دون تقديمها كأمر جذاب.

ودعا المركز "يوتيوب" إلى تعديل خوارزميتها.

وتأتي هذه النتائج في وقت تتصاعد فيه أزمة الصحة النفسية بين المراهقين. لذا أشارت دراسة مركز مكافحة الكراهية الرقمية إلى بحث أجرته مجموعة "تريليانت هيلث" Trilliant Health عام 2023، الذي أظهر وجود علاقة بين استخدام وسائل التواصل الاجتماعي واضطرابات الصحة النفسية لدى المراهقين، وكشفت النتائج عن زيادة بنسبة 107 في المئة في زيارات العلاج النفسي المتعلقة باضطرابات الأكل بين الأطفال دون سن 18 من عام 2018 إلى 2023.

ولحماية المقصورين بشكل أفضل من التعرض لهذا المحتوى على وسائل التواصل الاجتماعي، أوصى المركز بتعديل القسم 230 من قانون "آداب الاتصالات"، الذي يتيح للمنصات الإلكترونية الحماية من المسؤولية القانونية عن المحتوى الذي ينشره مستخدموها. كما دعا المركز المشرعين إلى إصلاح هذا القانون "لزيادة مساءلة المنصات وتحميلها المسؤولية عن ممارساتها التجارية كخطوة مهمة لحماية الأطفال على الإنترنت".

وقال الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، عمران أحمد، في بيان: "يعد هذا التقرير الجديد اتهاماً قوياً لسلوك المسؤولين في وسائل التواصل الاجتماعي، والمنظمين، والمشرعين، والمعلنين، وغيرهم الذين فشلوا في الوفاء بالوعد الجماعي من خلال السماح لمحتوى اضطرابات الأكل والإيذاء الذاتي بالانتشار بين أطفالنا من أجل الربح. إنها دعوة واضحة للتغيير الفوري".

وأضاف "إذا ذهب طفل إلى مختص صحي أو معلم أو حتى زميل في المدرسة وسأل عن الحميات القاسية أو أظهر علامات اضطراب في صورة الجسم، وبدلاً من مساعدته وُجه إلى أحد ’معسكرات الحمية القاسية‘، لا تسمح له بالتواصل مع هؤلاء الأشخاص مجدداً".

واستطرد "وهذا بالضبط ما فعلته ’يوتيوب‘، فقد دفعت المستخدم نحو محتوى ضار ومدمر يشجع على الإيذاء الذاتي".

وعندما تواصلنا مع "يوتيوب" للتعليق على نتائج الدراسة، قال المتحدث الرسمي إلى "اندبندنت" في بيان: "نحن نولي هذا الموضوع اهتماماً كبيراً، ونعمل باستمرار مع خبراء الصحة النفسية لتحسين اقتراحات المحتوى للمراهقين، إضافة إلى تعزيز سياساتنا التي تحظر المحتوى الضار، مع التأكد من توفير مساحة للأشخاص لمشاركة قصصهم عن التعافي من اضطرابات الأكل".

وأضاف "بينما يهدف هذا التقرير إلى جذب الانتباه بدلاً من توضيح كيفية عمل أنظمتنا وسياساتنا بصورة فعلية، نحن بصدد مراجعة النتائج وسنتخذ الإجراءات اللازمة كجزء من التزامنا المستمر برعاية رفاهية المراهقين على منصتنا".

كما أكدت الشركة العملاقة في وسائل التواصل الاجتماعي أنها تحظر بالفعل مقاطع الفيديو التي تعرض "سلوكيات يمكن تقليدها"، مثل التحدث عن أو إظهار التقيؤ بعد الأكل أو تقليل السعرات الحرارية بصورة مفرطة. وأضافت "يوتيوب" أنها تقيد بعض المحتويات من التوصية بها للمراهقين، مثل مقاطع الفيديو التي تقارن بين السمات الجسدية وتعزز نوعاً معيناً من الأجسام على حساب غيره.

وأوضحت أن دراسة مركز مكافحة الكراهية الرقمية "لا تعكس الواقع الفعلي لكيفية عمل ’يوتيوب‘"، وأن "التزام المنصة منع انتشار هذا النوع من المحتوى مستمر، ما دمنا في مقدمة من يتبنى أساليب جديدة بالتعاون مع خبراء في مجال اضطرابات الأكل والصحة النفسية". وتعهدت "يوتيوب" بمراجعة نتائج التقرير واتخاذ "الإجراءات اللازمة".