A equipe de pesquisadores do arXiv publicou em 1º de julho de 2026 um artigo intitulado “Bounded Morality: Defining the Space of Moral Computation”, que apresenta um novo paradigma para a modelagem de tomada de decisões éticas em sistemas de inteligência artificial. O que diferencia o Bounded Morality é a proposta de tratar a moralidade como um espaço delimitado por fronteiras que podem ser ajustadas dinamicamente, em vez de depender exclusivamente de teorias fixas como deontologia ou utilitarismo. A publicação, que já atraiu atenção de acadêmicos de IA e de profissionais de segurança cibernética, destaca que a abordagem permite combinar regras explícitas com aprendizado de máquina, potencialmente reduzindo a rigidez e a previsibilidade de algoritmos éticos tradicionais.

No Brasil, a discussão sobre a governança de IA ganhou novo impulso com a elaboração do Marco Legal de Inteligência Artificial em 2023 e a entrada em vigor da Lei Geral de Proteção de Dados (LGPD) em 2020. A introdução de um modelo como o Bounded Morality traz implicações diretas para empresas que utilizam IA em processos de crédito, saúde e segurança pública, pois a capacidade de ajustar os limites morais pode afetar decisões sensíveis à privacidade e à equidade. Além disso, a LGPD impõe obrigações de transparência e explicabilidade que exigem que sistemas automatizados demonstrem claramente como as decisões são influenciadas por regras e dados, algo que o Bounded Morality tenta facilitar ao definir explicitamente o “espaço” de moralidade.

De maneira técnica, o Bounded Morality propõe a criação de um grafo de restrições que contém fronteiras entre diferentes valores éticos. Cada nó representa um princípio (por exemplo, não causar dano, promover justiça, respeitar autonomia) e cada aresta codifica uma contradição ou prioridade entre eles. O algoritmo, ao receber uma situação, avalia quais nós são ativados e então resolve um problema de otimização sob restrições, utilizando técnicas de programação linear ou lógica de programação. O diferencial é que, ao contrário de sistemas anteriores que aplicam regras fixas, o Bounded Morality permite que os limites sejam atualizados com base em feedback humano ou em novos dados, possibilitando uma adaptação contínua a contextos culturais e legais em evolução.

Para os profissionais de segurança e de governança de IA no Brasil, o que fazer agora? Primeiro, é essencial mapear os requisitos regulatórios que se aplicam ao seu domínio, como a LGPD, o Marco Legal de IA e normas específicas de setores (por exemplo, Banco Central, ANVISA). Em seguida, é recomendável implementar um processo de auditoria que verifique se os limites morais definidos no sistema estão alinhados com esses requisitos. Ferramentas de verificação formal podem ser usadas para garantir que as fronteiras não permitam decisões que violem direitos fundamentais ou discriminem grupos vulneráveis. Finalmente, é prudente criar vetores de teste que simulem cenários extremos e verifiquem se o algoritmo mantém a consistência ética quando os limites são alterados.

No horizonte próximo, espera-se que a comunidade de IA brasileira se envolva em debates sobre a padronização de frameworks como o Bounded Morality. Organizações como a ABInova e a Associação Brasileira de Inteligência Artificial (ABAI) podem desempenhar papéis cruciais em criar diretrizes de boas práticas e em fomentar a interoperabilidade entre diferentes modelos éticos. Além disso, com o avanço da inteligência artificial em áreas sensíveis, como diagnóstico médico e concessão de crédito, a necessidade de demonstração de responsabilidade e justiça moral será cada vez mais exigida pelos reguladores e pelo público.

A adoção de um modelo de moralidade computacional não é apenas uma questão técnica, mas também um desafio sociopolítico. A capacidade de ajustar dinamicamente os limites morais pode ser uma ferramenta poderosa para corrigir vieses históricos, mas também pode ser explorada para fins manipulativos se não houver supervisão adequada. Portanto, a implementação do Bounded Morality no Brasil deve ir acompanhada de políticas de governança robustas, transparência pública e mecanismos de responsabilização.

Em resumo, o Bounded Morality representa um avanço significativo na forma como a ética pode ser incorporada em sistemas de IA, oferecendo flexibilidade sem abdicar da explicabilidade. Para empresas brasileiras, entender e integrar esse framework requer atenção cuidadosa às exigências legais e à necessidade de auditoria contínua. Se bem implementado, pode contribuir para o desenvolvimento de soluções de IA mais justas, responsáveis e alinhadas com os valores democráticos do país.

A comunidade de segurança cibernética e de desenvolvedores deve permanecer vigilante, pois a tecnologia evolui rapidamente. Assim, a próxima fase será observar como o Bounded Morality será testado em casos de uso reais e como os reguladores responderão a essa nova capacidade de modelar a moralidade de forma dinâmica e mensurável.

Fonte: arXiv cs.AI