Decisões algorítmicas não são neutras
Sistemas algorítmicos utilizados para apoiar ou automatizar decisões podem operar com base em padrões estatísticos, dados históricos e modelos preditivos. No plano jurídico, o ponto de partida é claro: a decisão algorítmica não é um ato técnico neutro, mas um processo informacional orientado por critérios previamente definidos.
Quando influencia direitos, deveres ou expectativas legítimas, ingressa no campo da imputação jurídica.
A tecnologia não afasta a natureza decisória do ato.
O papel dos precedentes no ambiente algorítmico
Modelos decisórios automatizados frequentemente utilizam:
• bases de dados jurisprudenciais
• padrões decisórios passados
• decisões reiteradas de órgãos administrativos ou judiciais
• históricos de concessão ou indeferimento
O precedente, nesse contexto, deixa de ser argumento jurídico e passa a ser insumo estatístico.
O risco surge quando a lógica algorítmica transforma repetição em regra, sem filtragem jurídica crítica.
Onde nasce o risco jurídico
O problema não está no uso de precedentes, mas na sua incorporação automática e descontextualizada.
Há risco jurídico quando:
• decisões passadas são replicadas sem análise do caso concreto
• exceções jurídicas são ignoradas pelo modelo
• mudanças normativas não são incorporadas
• vieses históricos são perpetuados
• a fundamentação é substituída por probabilidade
A decisão passa a parecer coerente — sem necessariamente ser juridicamente válida.
Precedente não é regra matemática
No Direito, precedentes exigem:
• análise do contexto fático
• identificação da ratio decidendi
• verificação de distinções relevantes
• possibilidade de superação (overruling)
Algoritmos, por definição, operam por generalização.
O conflito é estrutural:
o Direito exige interpretação; o algoritmo, padronização.
Decisão algorítmica e imputação de responsabilidade
A responsabilidade não recai sobre o sistema, mas sobre:
• quem o implementa
• quem o utiliza
• quem delega a decisão
• quem deixa de revisar o resultado
A automatização não rompe o nexo decisório humano.
Delegar não é abdicar de responsabilidade.
Risco de cristalização de injustiças
Quando precedentes problemáticos alimentam sistemas algorítmicos:
• erros tornam-se recorrentes
• discriminações são reproduzidas
• exceções deixam de existir
• o passado passa a governar o futuro
O algoritmo não corrige o Direito — ele o replica.
Se o precedente é falho, a escala do erro aumenta.
Impactos no processo e na administração
O uso acrítico de decisões algorítmicas pode gerar:
• decisões padronizadas sem fundamentação adequada
• violação ao dever de motivação
• restrição indevida de direitos
• dificuldade de contraditório
• opacidade decisória
No processo e na administração, a decisão precisa ser explicável — não apenas eficiente.
Limites jurídicos à automação decisória
Do ponto de vista jurídico:
• precedentes orientam, não substituem o julgamento
• automação não elimina o dever de fundamentar
• probabilidade não equivale a juridicidade
• eficiência não supera garantias processuais
A decisão válida exige justificativa compreensível e controlável.
Boa prática no uso de precedentes algorítmicos
Um uso juridicamente responsável pressupõe:
• supervisão humana efetiva
• possibilidade de revisão da decisão
• transparência dos critérios utilizados
• atualização normativa constante
• distinção clara entre apoio e decisão
Algoritmos podem auxiliar.
Decidir continua sendo um ato jurídico humano.
Precedentes e algoritmos: tensão inevitável
A incorporação de precedentes em sistemas algorítmicos é irreversível.
Mas, juridicamente:
• repetição não é justiça
• padrão não é fundamento
• automação não é neutralidade
Quando decisões algorítmicas produzem efeitos jurídicos, o debate deixa de ser tecnológico — e passa a ser institucional, constitucional e responsabilizatório.