A expansão do uso de algoritmos na tomada de decisões relevantes — inclusive com impacto direto sobre direitos individuais — levanta uma questão central: pode o Estado exercer seu poder punitivo sobre decisões algorítmicas?
A resposta exige distinguir entre o ato automatizado em si e os agentes humanos ou institucionais por trás dele, sob pena de violação de princípios fundamentais do Direito Penal.
1. O que são decisões algorítmicas
Decisões algorítmicas são resultados produzidos por sistemas computacionais que processam dados e aplicam modelos para chegar a uma conclusão ou ação.
Podem ocorrer em contextos como:
• concessão de crédito;
• seleção de candidatos;
• decisões administrativas automatizadas;
• sistemas de vigilância e segurança;
• moderação de conteúdo em plataformas digitais.
O ponto central é que o processo decisório é mediado por tecnologia, muitas vezes sem intervenção humana direta no momento final.
2. Limites do poder punitivo estatal
O exercício do poder punitivo está condicionado a princípios estruturantes.
2.1 Princípio da culpabilidade
A punição exige dolo ou culpa, elementos inexistentes em sistemas algorítmicos.
2.2 Princípio da pessoalidade da pena
A sanção deve recair sobre pessoa física ou jurídica, não sobre uma máquina.
2.3 Princípio da legalidade
Não há crime nem pena sem previsão legal clara, o que não contempla decisões algorítmicas como sujeitos penais.
Dessa forma, o Estado não pode punir diretamente o algoritmo, mas pode responsabilizar quem o criou, operou ou deixou de controlá-lo.
3. Quem pode ser responsabilizado
A imputação jurídica recai sobre agentes humanos ou entidades envolvidas.
3.1 Desenvolvedores
Quando há falhas previsíveis na concepção do sistema.
3.2 Operadores e usuários
Quando utilizam o sistema de forma inadequada ou negligente.
3.3 Empresas e organizações
Quando a decisão algorítmica integra sua atividade e há falha estrutural ou de governança.
3.4 Responsáveis por supervisão
Quando deixam de intervir diante de riscos conhecidos.
4. Situações em que surge a discussão punitiva
O problema se torna mais evidente em casos concretos.
4.1 Decisões discriminatórias
Algoritmos que produzem resultados enviesados com impacto em direitos fundamentais.
4.2 Danos causados por sistemas autônomos
Ex.: acidentes ou prejuízos decorrentes de decisões automatizadas.
4.3 Uso ilícito de dados
Tratamento indevido de informações pessoais para alimentar sistemas.
4.4 Automatização de práticas ilegais
Uso de algoritmos para fraudes, manipulação de mercado ou outros ilícitos.
5. Limites e riscos da punição
A atuação estatal deve observar cautelas importantes.
5.1 Evitar responsabilidade penal objetiva
Não se pode punir apenas pelo resultado produzido pelo algoritmo.
5.2 Complexidade técnica
A dificuldade de compreender o sistema pode comprometer a imputação justa.
5.3 Risco de inibição tecnológica
Punições excessivas podem frear inovação e desenvolvimento.
6. Tendências e caminhos possíveis
O tema tende a evoluir com a expansão da inteligência artificial.
Possíveis caminhos incluem:
• regulamentação específica sobre uso de algoritmos;
• definição de deveres de transparência e explicabilidade;
• fortalecimento da governança algorítmica;
• criação de mecanismos de auditoria e controle;
• integração entre Direito Penal e regulação tecnológica.
A relevância do tema decorre de:
• aumento do impacto das decisões automatizadas;
• necessidade de proteção de direitos fundamentais;
• crescente uso de IA em atividades sensíveis.
Na prática
• O Estado não pune algoritmos diretamente;
• A responsabilização recai sobre pessoas físicas ou jurídicas;
• A análise depende de culpa, controle e previsibilidade;
• O tema exige adaptação do sistema penal às novas tecnologias.
A questão sobre a possibilidade de o Estado punir decisões algorítmicas revela os limites do Direito Penal diante da inovação tecnológica.
O desafio consiste em equilibrar:
• efetividade da responsabilização;
• respeito às garantias penais;
• e incentivo ao desenvolvimento tecnológico.
Trata-se de um tema em consolidação, que exige respostas jurídicas sofisticadas para lidar com a crescente autonomia dos sistemas e seus impactos na sociedade.