1. Introdução: quando a decisão não vem de uma pessoa, mas de um sistema
A Administração Pública tem incorporado algoritmos e sistemas automatizados para tomar decisões relevantes: concessão de benefícios, seleção em políticas públicas, priorização de fiscalizações, análise de risco, distribuição de recursos e até bloqueios automáticos.
Essa realidade traz eficiência, mas também levanta uma pergunta jurídica inevitável:
se a decisão foi tomada por um algoritmo, o gestor público pode responder por improbidade administrativa?
O tema é sensível porque toca em dois pilares do Direito Público contemporâneo: a responsabilidade do agente e o uso crescente de tecnologias decisórias pelo Estado.
2. Algoritmo não é agente autônomo do Direito
Do ponto de vista jurídico, o algoritmo não decide por conta própria. Ele executa parâmetros definidos, escolhidos ou aprovados por pessoas.
Mesmo quando há inteligência artificial, aprendizado de máquina ou modelos preditivos, sempre existe uma cadeia humana por trás: quem contratou o sistema, quem definiu critérios, quem validou o uso, quem deixou de fiscalizar ou corrigir distorções.
Por isso, o simples argumento de que “foi o sistema que decidiu” não rompe, por si só, o nexo de responsabilidade do gestor público.
Na lógica do Direito Administrativo, a tecnologia é instrumento — não escudo.
3. Onde entra a improbidade administrativa
A improbidade não exige apenas ilegalidade. Ela envolve, conforme o caso, dolo, culpa grave, violação a princípios ou dano ao erário.
Quando decisões automatizadas produzem:
exclusões injustificadas
discriminações indiretas
favorecimentos indevidos
bloqueios arbitrários
negativa de direitos sem motivação clara
o foco jurídico se desloca para a conduta do gestor: houve dever de cuidado? houve fiscalização? houve transparência?
A responsabilização não decorre do uso do algoritmo em si, mas da forma como ele foi implementado, supervisionado e mantido.
4. O dever de controle e de explicabilidade
Um ponto central é o dever de controle. O gestor não pode adotar sistemas automatizados sem compreender minimamente seus critérios, riscos e impactos.
Quando o Estado usa algoritmos, assume também o dever de:
garantir critérios objetivos e legais
permitir auditoria e revisão das decisões
assegurar possibilidade de contestação pelo administrado
corrigir vieses conhecidos ou previsíveis
A ausência desses cuidados pode caracterizar violação aos princípios da legalidade, moralidade, impessoalidade e eficiência.
Em certos contextos, a omissão no controle pode ser tão grave quanto uma ação direta ilegal.
5. “Caixa-preta” algorítmica não afasta responsabilidade
Um argumento recorrente é o da complexidade técnica: o sistema seria uma “caixa-preta”, impossível de compreender ou explicar.
Esse argumento não costuma prosperar juridicamente.
Se o gestor não consegue explicar como a decisão é tomada, o problema não é a falta de culpa, mas a própria adoção do sistema. A Administração não pode terceirizar decisões relevantes sem manter domínio mínimo sobre seus critérios.
A falta de transparência algorítmica, quando afeta direitos, tende a pesar contra o gestor, e não a seu favor.
6. A linha entre erro técnico e improbidade
Nem todo erro algorítmico gera improbidade. Falhas pontuais, sem dolo ou culpa grave, tendem a ser tratadas como irregularidade administrativa ou falha de gestão.
A improbidade entra em cena quando há:
negligência consciente na adoção do sistema
manutenção do algoritmo mesmo após alertas de ilegalidade
uso da automação para burlar controles ou justificar decisões injustas
aceitação de resultados sabidamente discriminatórios ou ilegais
O foco não é punir a inovação, mas responsabilizar o uso irresponsável da tecnologia.
7. Conclusão: automatizar não é abdicar de responsabilidade
O uso de algoritmos pelo poder público é uma realidade irreversível. Mas a tecnologia não substitui o dever jurídico de agir conforme a lei, os princípios administrativos e os direitos fundamentais.
O gestor público responde não porque o algoritmo errou, mas porque permitiu que o erro produzisse efeitos sem controle, correção ou transparência.
No campo da improbidade administrativa, a mensagem é clara:
quem decide usar algoritmos continua responsável pelas decisões — mesmo quando elas vêm travestidas de neutralidade tecnológica.