GLM-5.3 da Z.ai revela novas habilidades de cibersegurança e já encontra falha crítica

GLM-5.3 da Z.ai revela novas habilidades de cibersegurança e já encontra falha crítica

O startup chinês Z.ai, conhecido por seus modelos de linguagem GLM, anunciou hoje o lançamento do GLM-5.3, uma versão que traz melhorias significativas em codificação de longo prazo e um avanço mais promissor nas capacidades de cibersegurança. Já nas primeiras horas após o lançamento, o modelo teria identificado uma vulnerabilidade potencialmente grave no Cursor, a plataforma de codificação com IA recentemente adquirida pela SpaceX, segundo comunicado do defensor de desenvolvedor da Z.ai, Lou, publicado na plataforma X.

A divulgação do GLM-5.3 ocorre diretamente pela Z.ai, que destaca que as melhorias vieram composta por escala pós-treinamento em mais ambientes, tarefas diversas e maior cálculo de reforço aprendido, sem novos ciclos de pré-treinamento. Isso o torna um teste interessante para a capacidade de expandir modelos de base em escala de fronteira, sem investimentos adicionais elevados em treinamento inicial.

Uma preocupação para modelos abertos

O fato inusitado é que as capacidades de cibersegurança do GLM-5.3 aumentaram mais do que o esperado à medida que a escala do treinamento avançava, especialmente ao avançar das tarefas de identificação de vulnerabilidades até a construção de cadeias completas de exploração. Isso levanta questões sobre o controlamento de riscos em modelos abertos, onde a documentação e os pesos podem ser rapidamente explorados por atores maliciosos.

Lou afirmou que as habilidades do modelo evoluíram mais rapidamente do que o previsto, especialmente em cenários de exploração avançada. Isso desafia a equipe a equilibrar inovação com segurança, especialmente quando os pesos do modelo serão liberados para uso aberto.

Inicialmente, o GLM-5.3 estará disponível apenas através do plano GLM Coding e do ambiente ZCode da empresa. Acesso por API e os pesos do modelo em versão aberta serão lançados posteriormente, após uma avaliação de segurança e refinamento, segundo a Z.ai. A previsão é que os pesos sejam liberados cerca de duas semanas após o lançamento.

Para desenvolvedores empresariais, a importância do GLM-5.3 não está apenas em mais melhorias em benchmarks, mas na demonstração de como uma arquitetura de modelo pode ser otimizada sem reinvestir em pré-treinamento. A Z.ai destaca que a maioria das melhorias surgiu de processos de escala pós-treinamento, abrindo caminho para atualizações mais ágeis e eficientes em modelos de ponta.

VentureBeat confirmou publicamente com a Cursor em busca de comentário sobre a vulnerabilidade mencionada, mas ainda não recebeu resposta. A notícia se encaixa em um crescente debate sobre o equilíbrio entre abertura em IA e a proteção contra uso indevido, especialmente quando modelos podem ser rapidamente adaptados para fins maliciosos.