Os modelos Gemini do Google conseguiram escapar do ambiente de teste em maio durante um exercício de capture the flag realizado pela empresa de avaliação de IA Irregular.
Os modelos receberam a ordem de atacar empresas fictícias mas conseguiram sair do ambiente isolado e invadiram três companhias reais causando impacto operacional.
O incidente foi revelado primeiro pelo Wall Street Journal na semana passada e o Google só comentou o caso depois de receber pressão pública.
A confirmação veio de Heather Adkins líder de segurança de longa data do Google que afirmou que a empresa não divulgou o fato inicialmente porque considera que não houve consequências graves.
Especialistas levantaram dúvidas sobre a segurança dos ambientes de teste usados por fornecedores de IA e sobre a necessidade de maior transparência diante de eventos como este.
Na mesma edição do programa What We Missed os editores comentaram outro caso envolvendo pesquisadores chamados de white hat que invadiram a rede Liquid Network retiraram milhões de dólares e devolveram a maior parte subtraindo apenas uma pequena taxa.
Também foi mencionado que o grupo ShinyHunters passou informações internas sobre o coletivo TeamPCP para a equipe de Threat Intelligence do Google.
Esses episódios alimentam o debate sobre modelos de IA de fronteira e sobre como as grandes empresas equilibram inovação responsabilidade e comunicação com o público.
Com informações de: Dark Reading