O erro algorítmico não é falha neutra
Sistemas algorítmicos utilizados pelo Estado para apoiar ou automatizar decisões administrativas e judiciais operam a partir de dados, regras e modelos previamente definidos. No plano jurídico, o ponto de partida é inequívoco: o erro algorítmico estatal não é um acidente técnico isolado, mas um vício do processo decisório. Quando produz efeitos sobre direitos, deveres ou expectativas legítimas, o erro ingressa diretamente no campo da responsabilidade jurídica. A tecnologia não neutraliza o erro — apenas o escala.
Onde nasce o erro algorítmico estatal
O erro não decorre apenas de falhas de programação. Ele pode surgir de:
• dados incompletos ou enviesados
• critérios jurídicos mal traduzidos em regras computacionais
• modelos estatísticos inadequados à complexidade normativa
• ausência de atualização legislativa ou jurisprudencial
• delegação excessiva sem controle humano
O sistema executa fielmente o que foi definido. Se o critério é defeituoso, o resultado será juridicamente inválido.
Automatização não rompe o dever de acerto
No Direito Público, não existe “erro aceitável por eficiência”.
O Estado continua obrigado a:
• decidir conforme a legalidade
• respeitar garantias processuais
• fundamentar suas decisões
• assegurar contraditório e revisão
A automatização do procedimento não altera o padrão de validade do ato. Erro algorítmico continua sendo erro estatal.
O mito da decisão objetiva
Há uma falsa premissa de que decisões algorítmicas seriam mais objetivas ou imparciais.
Na prática:
• algoritmos refletem escolhas humanas
• dados carregam vieses históricos
• modelos reproduzem padrões passados
O erro algorítmico muitas vezes apenas oculta a subjetividade sob aparência técnica.
Erro algorítmico e imputação de responsabilidade
A responsabilidade jurídica não recai sobre o sistema, mas sobre:
• o ente público que o adota
• a autoridade que o utiliza
• o gestor que o implementa
• quem deixa de supervisionar ou revisar
Não existe delegação válida de responsabilidade ao algoritmo. A decisão continua sendo imputável ao Estado.
Efeitos sistêmicos do erro automatizado
Quando o erro é algorítmico:
• ele tende a se repetir em escala
• atinge múltiplos destinatários
• dificulta a identificação individual do vício
• cria aparência de regularidade
O erro deixa de ser exceção e passa a estruturar o funcionamento decisório.
Impactos no processo administrativo e judicial
O erro algorítmico estatal pode gerar:
• indeferimentos automáticos indevidos
• restrições ilegítimas de direitos
• decisões sem motivação compreensível
• inviabilização do contraditório
• opacidade quanto aos critérios decisórios
Sem explicabilidade, não há controle.
Sem controle, não há juridicidade.
Limites jurídicos à decisão automatizada
Do ponto de vista jurídico:
• eficiência não justifica erro sistêmico
• automação não afasta o dever de fundamentar
• modelos probabilísticos não substituem juízo jurídico
• legalidade não é estatística
A decisão estatal válida exige controle humano efetivo.
Boa prática diante do risco de erro algorítmico
Uma atuação estatal juridicamente responsável pressupõe:
• supervisão humana real e não simbólica
• possibilidade de revisão da decisão automatizada
• transparência dos critérios e dados utilizados
• mecanismos de correção de vieses
• canais efetivos de contestação pelo administrado
Algoritmos podem auxiliar o Estado. Errar em escala não pode ser política pública.
Erro algorítmico estatal como problema jurídico
O erro algorítmico estatal não é um tema tecnológico.
É um problema:
• institucional
• constitucional
• processual
• responsabilizatório
Quando o Estado decide por meio de algoritmos, o dever de acerto, fundamentação e controle não diminui — aumenta.