O avanço das tecnologias de análise de dados e inteligência artificial tem permitido à Administração Pública utilizar modelos algorítmicos para prever comportamentos, identificar riscos e orientar decisões. Essas ferramentas são cada vez mais empregadas em áreas como segurança pública, fiscalização, políticas sociais e gestão de recursos.
Nesse contexto, surge a questão: a Administração pode fundamentar suas decisões em previsões algorítmicas?
Embora tais sistemas possam aumentar a eficiência e a racionalidade administrativa, seu uso levanta preocupações quanto à legalidade, transparência, imparcialidade e respeito a direitos fundamentais.
A problemática envolve a compatibilidade entre decisões baseadas em probabilidades estatísticas e os princípios que regem a atuação estatal.
Quando o uso de previsão algorítmica é juridicamente relevante?
A utilização de modelos preditivos ganha relevância jurídica quando influencia ou determina decisões administrativas que impactam direitos individuais ou coletivos.
Há relevância quando:
• a decisão administrativa se baseia predominantemente em resultados algorítmicos
• o modelo influencia concessão, restrição ou negação de direitos
• há classificação ou perfilamento de indivíduos
• o sistema afeta políticas públicas sensíveis
• inexistem mecanismos de revisão ou contestação
Nessas hipóteses, impõe-se maior rigor no controle de legalidade e legitimidade.
Quais situações geram maior controvérsia?
O uso de previsão algorítmica na Administração Pública apresenta desafios específicos, sobretudo quanto à opacidade e aos riscos de discriminação.
Casos recorrentes incluem:
• sistemas que classificam cidadãos com base em risco ou probabilidade
• decisões automatizadas em benefícios sociais ou fiscais
• uso de algoritmos em segurança pública e policiamento preditivo
• modelos que reproduzem vieses históricos presentes nos dados
• ausência de explicabilidade nas decisões tomadas
A controvérsia reside na substituição — ou influência excessiva — do juízo humano por probabilidades estatísticas.
Qual a relevância desse debate?
A discussão é essencial diante da incorporação crescente de tecnologia na gestão pública.
Esse tema impacta diretamente:
• a legalidade e legitimidade das decisões administrativas
• a proteção de direitos fundamentais (igualdade, devido processo, não discriminação)
• a transparência e a motivação dos atos administrativos
• a responsabilidade do Estado por decisões automatizadas
• a necessidade de governança algorítmica
A ausência de critérios claros pode gerar decisões arbitrárias ou discriminatórias.
Quais elementos são analisados nesses casos?
A análise jurídica exige a verificação de critérios específicos relacionados ao uso de tecnologia pelo poder público.
Entre os principais:
• existência de base legal para utilização do sistema
• transparência e explicabilidade do modelo algorítmico
• possibilidade de revisão humana da decisão
• avaliação de riscos de discriminação ou viés
• adequação e proporcionalidade da medida
• respeito ao devido processo administrativo
Esses elementos permitem avaliar se o uso da previsão algorítmica é compatível com o ordenamento jurídico.
Atenção
O uso de algoritmos não dispensa a observância dos princípios administrativos.
É indispensável verificar:
• se a decisão está devidamente motivada, e não apenas automatizada
• se há transparência quanto aos critérios utilizados
• se o cidadão pode contestar a decisão
• se o sistema foi validado e auditado
• se há supervisão humana efetiva
A análise deve considerar o caso concreto, assegurando que a tecnologia seja utilizada como instrumento de apoio à decisão — e não como substituto absoluto da responsabilidade estatal — preservando os direitos fundamentais e a legalidade administrativa.