Procurador da cidade acusa gigante de lucrar com exploração e falhar na moderação

O procurador da cidade de São Francisco, David Chiu, enviou uma notificação extrajudicial à Meta exigindo que a empresa cesse imediatamente a veiculação de anúncios pagos contendo material de abuso sexual infantil gerado por inteligência artificial. A carta, endereçada aos advogados da companhia, questiona como dezenas de peças publicitárias conseguiram burlar os sistemas de revisão e permaneceram ativas mesmo após denúncias iniciais.

Uma investigação do Tech Transparency Project (TTP), divulgada inicialmente pela WIRED em agosto, revelou que mais de 350 anúncios circularam nas plataformas Facebook, Instagram e Threads nos últimos meses. Esses anúncios transformavam fotos estáticas de menores — incluindo indivíduos reais, como um membro de uma família real europeia — em vídeos curtos simulando atos sexuais. Ao clicar, os usuários eram direcionados para baixar aplicativos de geração de imagens capazes de criar conteúdo íntimo não consentido.

Ao todo, as peças atingiram mais de 29 mil contas em países da União Europeia, além de mirarem usuários nos Estados Unidos, Austrália e Índia. O dado mais alarmante é a persistência: mais de 250 desses anúncios foram veiculados depois que a primeira leva de 53 peças foi exposta publicamente no início de agosto.

Meta falhou em resolver um problema conhecido de anúncios sexualmente explícitos de crianças gerados por IA, enquanto lucrava com eles. Esses anúncios são profundamente perturbadores e causam danos a crianças reais.

Segundo Chiu, a escala e a recorrência das falhas indicam que os esforços atuais da empresa são lamentavelmente inadequados. A notificação de quatro páginas levanta uma série de questionamentos sobre o funcionamento das políticas de anúncio e dos sistemas de segurança, exigindo que as equipes jurídica, de segurança infantil e de publicidade da Meta participem de discussões imediatas com o gabinete do procurador.

A Meta argumentou que não há indícios de que os anúncios tenham sido exibidos especificamente em São Francisco, o que, na visão da empresa, colocaria o caso fora da jurisdição do procurador municipal. A biblioteca de anúncios da companhia, embora contenha dados sobre publicações nos EUA, não detalha a distribuição por cidades ou estados.

Em resposta, o porta-voz do gabinete do procurador, Alex Barrett-Shorter, rebateu que consumidores de São Francisco podem acessar os anúncios ilícitos nos espaços online da Meta, o que torna a questão de interesse da cidade. Para o gabinete, a resposta da Meta é surpreendente, pois a empresa parece mais preocupada com a jurisdição do que com a própria responsabilidade na exploração infantil.

A empresa afirmou anteriormente à WIRED que muitos dos anúncios identificados pelos pesquisadores já haviam sido removidos antes da denúncia e que todos foram derrubados por violarem políticas. A Meta declarou não tolerar apps de “nudificação” nem qualquer tipo de exploração infantil, real ou sintética, e informou que o gasto total com os mais de 300 anúncios ficou abaixo de 5 mil dólares.

A carta exige explicações detalhadas sobre como os anúncios driblaram a moderação, como a empresa reporta casos ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e como lida com anunciantes reincidentes. O documento aponta para problemas sistêmicos mais amplos na detecção de abuso sexual infantil na publicidade e levanta questões legais significativas, estabelecendo prazo de 28 dias para resposta.

Pesquisadores do TTP relataram que, em alguns casos, a Meta demorou mais de uma semana para responder a denúncias sobre anúncios abusivos, período em que centenas de pessoas adicionais visualizaram o conteúdo. Mesmo quando removidos, nem todos foram marcados inicialmente como contendo material de abuso sexual infantil. Apesar de ações anteriores contra apps de despir digitalmente, incluindo processos judiciais, pesquisadores continuam encontrando milhares de anúncios semelhantes em circulação.

Com informações de: Wired Security