Dois novos grandes modelos de linguagem (LLMs) desenvolvidos por empresas chinesas foram lançados recentemente e, segundo analistas, já competem em desempenho com os principais sistemas norte‑americanos, como GPT‑4 e Claude. A novidade levanta preocupações no cenário de segurança cibernética, pois a mesma tecnologia que impulsiona assistentes virtuais e ferramentas de produtividade pode ser usada para automatizar e sofisticar ataques. Dados da própria pesquisa apontam que os modelos chineses atingiram precisão de 93% em testes de geração de código malicioso, um número comparável ao dos maiores LLMs ocidentais.

A notícia vem de um relatório publicado pela DarkReading, que destacou que a diferença entre o que os defensores conseguem detectar e o que os invasores podem gerar com IA está se ampliando. Enquanto os profissionais de segurança ainda dependem de assinaturas, listas de bloqueio e análises manuais, os atacantes podem criar phishing convincente, malware polimórfico e scripts de exploração em segundos, usando apenas prompts simples. A questão central é: será que as equipes de defesa estão preparadas para esse salto de capacidade?

No Brasil, a repercussão desse avanço tem implicações diretas tanto para usuários comuns quanto para grandes corporações. A proliferação de LLMs capazes de gerar conteúdo persuasivo pode aumentar significativamente o volume de e‑mails de phishing que chegam às caixas de entrada de trabalhadores remotos, que já representam 33% da força de trabalho nacional. Além disso, empresas que lidam com dados sensíveis – como bancos, operadoras de telecom e provedores de saúde – podem ver suas defesas tradicionais sobrecarregadas por ataques que mudam de forma constantemente, tornando difícil a aplicação de regras estáticas de detecção. A LGPD, que impõe responsabilidade sobre o tratamento de dados pessoais, pode ser acionada caso um vazamento ocorra por falha em sistemas que não conseguiram identificar um ataque gerado por IA.

Do ponto de vista técnico, os LLMs chineses foram treinados em vastos corpora de código aberto, documentação de segurança e exemplos de exploits coletados na dark web. Essa base de treinamento permite que o modelo compreenda a estrutura de vulnerabilidades conhecidas (como CVE‑2021‑3156 ou Log4Shell) e, a partir de um simples comando, gere scripts que exploram essas falhas. Diferente dos ataques tradicionais, onde o invasor precisa de tempo para escrever e testar o código, o modelo produz variantes quase instantâneas, alterando nomes de variáveis, ofuscando strings e inserindo técnicas anti‑análise. O resultado são malwares polimórficos que escapam das assinaturas de antivírus e dificultam a análise forense.

Outro aspecto crítico é a capacidade de gerar conteúdo de engenharia social altamente personalizado. Ao combinar dados públicos – como perfis de LinkedIn, postagens em redes sociais e informações de diretórios corporativos – o modelo cria mensagens de e‑mail que se alinham ao estilo de comunicação interno da empresa, aumentando a taxa de cliques em links maliciosos. Estudos internos mostraram que, quando um LLM gera um e‑mail de phishing personalizado, a taxa de sucesso pode subir de 5% para mais de 30%, sobretudo em ambientes onde a cultura de segurança ainda é incipiente.

Para os defensores, a principal estratégia de mitigação passa por adotar soluções de IA que consigam analisar padrões de linguagem e comportamento em tempo real. Ferramentas de detecção baseadas em aprendizado de máquina podem identificar anomalias, como mudanças súbitas no volume de solicitações de API ou na estrutura de código enviado por desenvolvedores internos. Além disso, a implementação de filtros de conteúdo que analisam o contexto semântico de mensagens de e‑mail pode bloquear tentativas de phishing antes que cheguem ao usuário final.

Se sua organização ainda não avaliou o risco de ataques gerados por IA, comece revisando as políticas de uso de LLMs internos. Desative a geração automática de código em ambientes de produção e limite o acesso a modelos externos a usuários autorizados. Treine equipes de segurança para reconhecer sinais de phishing avançado e realize testes de phishing internos que incluam textos gerados por IA, para medir a resiliência dos colaboradores.

Nos próximos dias, espera‑se que fornecedores de segurança aumentem a oferta de soluções específicas para detectar e neutralizar conteúdo criado por LLMs. Também é provável que reguladores, como a Autoridade Nacional de Proteção de Dados (ANPD), emitam orientações sobre a responsabilidade de empresas que utilizam IA generativa em processos críticos. Enquanto isso, a corrida tecnológica entre atacantes e defensores continuará acelerada, e a única certeza é que a adoção de estratégias baseadas em IA será decisiva para quem quiser manter a segurança em um cenário cada vez mais automatizado.

Fonte: DarkReading