قامت هيئة التنظيم البريطانية أوفكوم(Ofcom) بتحليل مستوى أمان محركات البحث مثل جوجل وبينج فيما يتعلق بالمحتوى الضار. ووفقا لأبحاث الهيئة تلعب محركات البحث دورا في تقديم محتوى إيذاء النفس والانتحار والمحتوى غير اللائق. يقول باحثو Ofcom أن واحدة من كل خمس نتائج لمحركات البحث حول إيذاء النفس تقود المستخدمين إلى محتوى ضار.
وفقًا لأبحاث أوفكوم فإن واحدة من كل خمس نتائج بحث عن مصطلحات تتعلق بإيذاء النفس تمدح او تشجع مثل هذا السلوك الضار. كما يمكن العثور على هذا المحتوى في قسم الصور في محركات البحث. تحذر Ofcom من أن المحتوى الذي يمجد او يشجع على إيذاء النفس والانتحار متاح على نطاق واسع من خلال محركات البحث.
محركات البحث هي بوابة للمحتوى الذي يلحق الضرر بالنفس
وتحظى محركات البحث مثل جوجل بأكثر من 80 مليار زيارة شهريًا مقارنة بالشبكات الاجتماعية مثل تيك توك التي تضم حوالي 1.7 مليار مستخدم نشط شهريًا. وفقًا لـ Ofcom، غالبًا ما تكون محركات البحث هي نقطة البداية لتصفح الويب للأشخاص وبالتالي يمكن أن تكون بوابة للوصول إلى المحتوى الذي يلحق الضرر بالنفس.
وقام باحثو Ofcom بتحليل حوالي 37000 نتيجة عبر خمسة محركات بحث رئيسية وقد استخدموا عبارات شائعة ومبهمة لأن العبارات الواضحة عادة ما يتم فحصها بواسطة هذه المحركات. كما قام الباحثون بتعطيل خيار "البحث الآمن" للوصول إلى جميع النتائج.
ولاحظ الباحثون أن 22% من نتائج البحث ترتبط مباشرة بمحتوى ضار بما في ذلك تعليمات لأشكال مختلفة من إيذاء النفس. كما أن 19 بالمائة من هذه المحتويات كانت موجودة في الصفحات الأولى. وفي قسم البحث عن الصور أظهرت 50% من النتائج محتوى غير لائق.
ويخلص التقرير إلى أن أحد أسباب عدم مراجعة محركات البحث لبعض هذه النتائج الضارة هو أن خوارزمياتها قد تخلط بين صور إيذاء النفس والصور الطبية وغيرها من الوسائط المشروعة.
الشيء الوحيد الذي لم يتم تناوله في هذا التقرير ولكنه سيصبح أكثر أهمية بمرور الوقت هو الدور الذي قد يلعبه الذكاء الاصطناعي التوليدي في هذا المجال وبطبيعة الحال تم وضع حواجز مختلفة لمنع إساءة استخدام منصات مثل جيميناي لأغراض ضارة.
