Alerta de Segurança Nacional

O Centro Nacional de Segurança Cibernética (NCSC) do Reino Unido adverte que malware impulsionado por inteligência artificial tem “extrema probabilidade” de ser usado em um futuro ataque de ransomware contra a infraestrutura nacional crítica do país entre agora e 2028. O alerta acompanha a análise anual do NCSC e um relatório separado que explora como a IA pode alterar as ameaças cibernéticas nos próximos dois anos.

Como a IA Será Explorada

O braço de cibersegurança da agência de inteligência de sinais GCHQ não forneceu muitos detalhes sobre a forma que esse malware com IA pode tomar. No entanto, o relato sugeriu que ferramentas de segurança de IA de código aberto, originalmente criadas para ajudar pesquisadores de segurança, estão sendo reaproveitadas para atividades maliciosas. Já há relatos de que tais ferramentas estão sendo abusivamente utilizadas. Por exemplo, pesquisadores estão cada vez mais presenciando o uso generalizado de ARTEX, uma plataforma de testes de invasão (red-teaming) de IA de código aberto fabricada na China, em ataques ao registrador britânico 123 Reg, Microsoft 365 e outros desde seu lançamento em julho.

Cenário Pessimista para 2028

No seu cenário pessimista para 2028, o NCSC imagina um “aumento significativo na frequência e sofisticação de ataques cibernéticos em todo o mundo”, com uma adoção mais ampla de ferramentas de IA tornando a atribuição de autoria mais difícil. O relato indica que a China “provavelmente teve um papel” no fornecimento dessas ferramentas no futuro descrito, “permitindo que elas escondam suas atividades no ruído”. O NCSC também considera uma ameaça adicional: um atacante autônomo operando fora do controle de seu operador humano. A entidade afirma que “é uma possibilidade realista que uma tal entidade possa se auto-replicar e conduzir ataques cibernéticos à vontade, sem motivos ou limitações aparentes”. Tais ataques provavelmente complicariam as relações geopolíticas, novamente devido às dificuldades de atribuição, tornando mais fácil para países que ordenam ataques contra outros negar sua envolvimento.

IA no Suporte à Defesa

Num momento em que cada “Patch Tuesday” parece carregado com um número recorde de falhas, o NCSC reconhece que a IA já está mudando a descoberta e correção de vulnerabilidades. O corpo também está explorando como a IA pode ajudar os defensores a manter o ritmo. O Projeto DROMOS começou no início deste ano com um piloto de quatro semanas analisando repositórios de código governamentais, antes de expandir para ambientes operacionais selecionados. O Centro de Coordenação Cibernética do Governo (GC3) lançou o projeto com o Instituto de Segurança de IA e outros departamentos. O NCSC diz que descobriu centenas de potenciais problemas de segurança, incluindo vulnerabilidades críticas.

Cyber Shield e Investimentos Governamentais

A análise também reafirma os planos para o Cyber Shield, um sistema de defesa cibernética autônomo (agentic) que foi primeiramente anticipado em julho. O Cyber Shield deve ser entregue em etapas ao longo dos próximos cinco anos. Ele envolverá o NCSC fornecendo agentes defensivos implantados por organizações participantes com dados que fortalecerão a resiliência nacional contra ameaças cibernéticas contínuas. O NCSC executará o esquema junto com o Departamento para Digital, Cultura, Esporte e Mídia (DCMS), mas reconheceu que esse tipo de atividade defensiva automatizada atualmente está fora da maioria das tolerâncias ao risco das organizações, o que significa que tem um papel a desempenhar na construção de confiança no sistema antes que a adoção se torne generalizada. Como relatado na semana passada, o governo destinou 60 milhões de libras para financiar a iniciativa, e um adicional de 70 milhões de libras para apoiar um novo Centro Nacional de Exposição e Vulnerabilidade em Tempo Real (NERV). O trabalho do Centro NERV será identificar e manter um entendimento contínuo das vulnerabilidades em organizações de infraestrutura crítica nacional (CNI) e na economia mais ampla. No orçamento da semana passada, 40 milhões de libras financiarão uma Unidade Nacional de Segurança Agente (National Agentic Security Unit) responsável por responder a bots descontrolados e outros incidentes de agentes autônomos, e 24 milhões de libras foram atribuídos para fortalecer as defesas do setor público. Uma soma não divulgada também ajudará a estabelecer um novo Centro de Segurança Cibernética de IA gerenciado pelo NCSC em Manchester para desenvolver especialização em segurança de IA em todo o governo.

Apelo à Ação

Enquanto isso, o CEO do NCSC, Dr. Richard Horne, está pedindo às organizações que “investigam com urgência” em sua segurança e resiliência. “Por décadas, coletivamente nos safamos fazendo tecnologia por um preço baixo”, disse ele hoje, anunciando o relatório anual. “Podemos ser uma nação onde líderes de todas as organizações escolhem ativamente investir com urgência… E onde todas as organizações tornam a segurança e a resiliência um requisito fundamental, não uma depoisthought. O resultado coletivo seria uma fonte de força nacional duradoura para todos nós.” Horne disse que as organizações devem tratar a certificação Cyber Essentials do NCSC como o ponto de partida, mas escalar os esforços de resiliência de acordo com o tamanho, complexidade e risco organizacional. O governo também anunciou um desconto de 75% na certificação Cyber Essentials para micro, pequenas e médias empresas (MPMEs) que solicitarem seu primeiro certificado.

Com informações de: The Register