Meta falhou em detectar centenas de anúncios de abuso infantil de IA
Recentemente, Meta removeu cerca de 50 anúncios que continham material de abuso sexual de crianças nas plataformas Facebook, Instagram e Threads. A empresa afirmou inicialmente que a maioria dos anúncios abusivos havia sido publicada antes da implementação de novas ferramentas de IA projetadas para detectar e bloquear conteúdo prejudicial.
No entanto, pesquisadores do Tech Transparency Project descobriram mais de 250 anúncios adicionais contendo CSAM desde o início de agosto, segundo os dados compartilhados com o WIRED. Diferentemente dos 53 anúncios identificados inicialmente pelos pesquisadores, eles conseguiram identificar imagens de crianças reais nos novos anúncios.
Entre os casos encontrados, destacam-se anúncios que transformaram fotografias oficiais de famílias reais em vídeos de “ato sexual gráfico”. Um exemplo notável envolve um menor pertencente a uma família real europeia, cuja foto oficial foi convertida em um vídeo perturbador. Os pesquisadores não nomearam o jovem para proteger a vítima e informaram autoridades na região.
Os anúncios foram removidos após serem reportados às autoridades de segurança infantil dos Estados Unidos e através das ferramentas de relatório da Meta quando estavam sendo exibidos aos usuários. O projeto também identificou mais de 350 anúncios de vídeo abusivo desde o fim do ano passado, muitos deles linkando a aplicativos de “nudificação” associados a desenvolvedores chineses.
Embora os anúncios tenham sido removidos por violarem políticas da Meta sobre exploração infantil, adulta e nudez, todos foram publicados apesar dessas políticas. Em alguns casos, a Meta levou até uma semana para revisar anúncios ao vivo que haviam sido reportados por conter CSAM usando suas ferramentas.
As pesquisas indicam que mais de 350 anúncios de vídeo abusivo foram publicados na Meta desde o final do ano anterior, com muitas ligações a aplicativos nocivos. As organizações de segurança infantil receberam relatórios detalhados, incluindo casos envolvendo identidades reais de quatro menores, três dos quais são dos Estados Unidos.
„O que estamos falando aqui não é simplesmente material de abuso sexual de IA“, diz Katie Paul, diretora do Tech Transparency Project. „Parece que algumas imagens foram retiradas da internet antes de serem usadas nos anúncios.“
A Meta afirmou que removeu “muitos” dos anúncios encontrados pelos pesquisadores, com a maioria tendo menos de 200 visualizações, e recebeu “menos de US$ 5.000” em pagamentos de anúncios.
Com informações de: Wired Security