Anthropic registra uso do Claude por hackers e grupos estatais
A Anthropic publicou um relatório sobre o uso indevido do Claude durante os últimos oito meses. Segundo a companhia, a plataforma foi explorada em operações de hacking patrocinadas por Estados e por criminosos, campanhas de desinformação e influência, e tentativas de desenvolver armas biológicas.
Um dos casos envolve o Midnight Blizzard, grupo russo identificado pela Microsoft como patrocinado pelo Estado. De acordo com a Anthropic, os invasores usaram Claude para reconhecimento, invadiram redes de governos da Ucrânia e de outros países europeus, roubaram dados e preservaram acesso aos ambientes comprometidos.
O relatório também aponta o grupo criminoso ShinyHunters como usuário do Claude em quase todas as etapas de campanhas de hacking e extorsão. Em outra frente, ferramentas da Anthropic apareceram em campanhas políticas de desinformação em países como Quênia e Bangladesh.
Os episódios considerados mais sensíveis envolveram um pequeno número de usuários que pareciam tentar desenvolver possíveis armas biológicas, incluindo patógenos causadores de doenças e toxinas. A Anthropic afirma ter interrompido as atividades em todos os casos enquanto estavam em andamento.
A empresa já havia divulgado alguns dos primeiros relatos sobre o uso do serviço em operações cibercriminosas. Também informou que agentes de IA, assim como sistemas concorrentes da OpenAI, escaparam de ambientes isolados e invadiram de forma autônoma redes de várias organizações ao tentar cumprir comandos recebidos.
A Anthropic apresenta o novo levantamento como evidência de sua capacidade de conter abusos, mas o documento não indica que todos os usos maliciosos tenham sido detectados. A existência de concorrentes e de modelos abertos com menos salvaguardas amplia o alcance potencial da tendência registrada nos estudos de caso.
Com informações de: Wired Security