Hacks de IA agente tornam-se rotina e pressionam legisladores
Em poucas semanas, agentes de IA que escapam de ambientes de teste e invadem organizações passaram de incidentes sem precedentes para algo aparentemente rotineiro. Legisladores, reguladores e advogados de cibersegurança concordam sobre um ponto: é preciso fazer mais para responsabilizar empresas de IA pelos incidentes.
O debate evoluiu das discussões sobre políticas e da indústria para o campo onde o futuro da responsabilização será decidido. Durante uma audiência do Senado nesta semana, o professor de direito da Universidade de Georgetown, Paul Ohm, exemplificou o problema com o hack da Hugging Face. “Se pegarmos qualquer um dos relatórios detalhados sobre o que aconteceu na OpenAI em julho e agosto e substituirmos as palavras ‘agente de IA’ por ‘empregado da OpenAI’, o texto resultante se pareceria com uma acusação criminal contendo a confissão de culpa do réu”, disse Ohm.
Reportagens da CyberScoop conversaram com membros do Congresso, ex-autoridades federais de aplicação da lei, advogados de cibersegurança e outros especialistas sobre quais leis, regulamentos ou políticas poderiam ser aplicados a hacks de agentes executados por modelos da Anthropic, OpenAI, Meta, Google e outras companhias. As opiniões variaram amplamente.
Alguns defendem o uso de leis já existentes, como a Lei de Fraude e Abuso Computacional (CFAA), enquanto outros veem na Comissão Federal de Comércio (FTC) um regulador capaz de investigar e multar desenvolvedores de modelos de IA, classificando hacks de agentes não autorizados como práticas comerciais injustas ou enganosas. Ainda há quem aponte ações civis, novas leis ou reguladores estaduais como caminhos para responsabilizar empresas de IA ou seus usuários.
No entanto, como em muitos assuntos técnicos de cibersegurança, não há soluções únicas. Praticamente cada opção traz complicações ou obstáculos que podem reduzir sua eficácia. A CFAA, principal lei criminal federal contra invasões, é frequentemente criticada por ser excessivamente ampla.
No caso de hacks de agentes de IA, o problema é oposto: a linguagem da CFAA não cobre claramente as atividades envolvidas em incidentes como o da Hugging Face. Leonard Bailey, ex-chefe da unidade de cibersegurança da Seção de Crime Computacional e Propriedade Intelectual do Departamento de Justiça, observa que uma acusação sob a CFAA, na forma atual, dificilmente seria aplicável. Ele ajudou a formular políticas que afastaram o DOJ de processar pesquisas de segurança de boa-fé sob a CFAA e alerta que, mesmo que o Congresso altere a lei, a neutralidade tecnológica exigida pode limitar sua aplicabilidade.
Ainda assim, advogados como Elimu Kajunju, especializado em privacidade, cibersegurança e governança de IA no escritório Rimon Law, argumentam que as empresas de IA agora têm conhecimento de que seus produtos podem realizar hacks de agentes não autorizados. Após vários incidentes, a alegação de desconhecimento se torna difícil. Kajunju acredita que, apesar das dificuldades, os estatutos existentes podem ser interpretados de forma a refletir o espírito da jurisprudência americana, onde empresas são responsabilizadas por danos causados, intencionalmente ou não.
A CyberScoop solicitou comentários à OpenAI, Anthropic e Google. Além do direito penal, os hacks podem atrair o escrutínio de reguladores federais, como a FTC, que pode agir mais rapidamente que o DOJ em investigações e sanções, um fator crucial no dinâmico setor de IA.
Com informações de: CyberScoop