Algoritmo do Instagram “promove” redes de pedofilia?

A investigação está a decorrer.

Está a decorrer uma investigação entre o “The Wall Street Journal” e investigadores das Universidades de Stanford e de Massachusetts, nos EUA, onde afirma que algoritmos do Instagram estão a promover uma “rede de pedófilos” que encomendam e vendem conteúdo de abuso sexual infantil na plataforma.

O Instagram estava a permitir que os utilizadores pesquisassem hashtags gráficas e explícitas relacionadas com abuso sexual infantil e direcionavam-nos para contas que ofereciam a venda de materiais através de “menus” de conteúdo, incluindo vídeos de crianças a magoar-se ou a cometer atos de bestialidade. Algumas contas permitiam organizar “encontros” com as crianças.

Quando os investigadores criaram uma conta de teste e visualizaram o conteúdo partilhado por essas contas, receberam imediatamente recomendações do Instagram de outras contas com o mesmo género de conteúdo.

“O facto de uma equipa de três investigadores com acesso limitado poder encontrar uma rede tão grande deveria fazer disparar os alarmes na Meta”, disse Alex Stamos, diretor do Stanford Internet Observatory e ex-diretor de segurança da Meta.

Após a publicação do relatório, a Meta, dona do Instagram, revelou ter criado uma task-force interna para analisar as questões levantadas pela investigação. “A exploração infantil é um crime horrível”, disse a empresa. “Estamos continuamente a investigar formas de nos defendermos ativamente contra esse comportamento”.

Instagram enviava alertas sobre imagens de abuso sexual infantil

De acordo com a mesma investigação, o algoritmo do Instagram enviava aos utilizadores uma notificação que avisava que certas pesquisas na plataforma levariam a resultados que “podem conter imagens de abuso sexual infantil”. A tela direcionava os utilizadores a “obter recursos” sobre o tópico ou “ver os resultados de qualquer forma”.

O relatório revela que a Meta desativou a opção que permitia visualizar os resultados, mas recusou-se a explicar porque é que a possibilidade existia.

Mais de 490 mil contas desativadas em janeiro

Só em janeiro, a Meta desativou mais de 490 mil contas que violaram as suas políticas de segurança infantil e, entre 27 de maio e 2 de junho, bloqueou mais de 29 mil dispositivos por violações de políticas.

A empresa também bloqueou 27 redes que espalhavam conteúdo abusivo nas suas plataformas de 2020 a 2022. A empresa baniu ainda milhares de hashtags associadas à sexualização de crianças e restringiu esses termos nas pesquisas dos utilizadores.

Outras redes sociais com menos casos

O relatório também analisou outras plataformas, mas considerou-as menos propícias ao crescimento destas redes. Os investigadores encontraram “128 contas que oferecem a venda de material de abuso sexual infantil no Twitter, menos de um terço do número que encontraram no Instagram”.

No TikTok, esse conteúdo “não parece proliferar” e, no Snapchat, as redes não estão a ser promovidas ativamente, uma vez que a rede é usada principalmente para mensagens diretas.