O avanço da inteligência artificial permitiu à Administração Pública utilizar sistemas preditivos para antecipar comportamentos, riscos e demandas sociais. Nesse cenário, surge uma questão relevante: é legítimo que decisões administrativas se baseiem em previsões algorítmicas?
Ferramentas de análise preditiva vêm sendo empregadas em áreas como segurança pública, fiscalização, concessão de benefícios e gestão de políticas públicas. Contudo, o uso dessas tecnologias levanta preocupações quanto à transparência, à discriminação e à segurança jurídica.
A questão central é: a Administração pode fundamentar seus atos em previsões geradas por algoritmos?
O ordenamento jurídico admite o uso de tecnologia como instrumento de apoio à decisão administrativa. No entanto, tais decisões devem respeitar princípios como legalidade, motivação, transparência, razoabilidade e devido processo.
Assim, a previsão algorítmica pode ser utilizada, mas não pode substituir integralmente o juízo administrativo nem afastar garantias fundamentais.
Quando o uso de previsão algorítmica pode ser legítimo?
A legitimidade depende da observância de critérios jurídicos e técnicos adequados.
Há maior probabilidade de legitimidade quando:
• o algoritmo é utilizado como ferramenta auxiliar, e não decisória exclusiva
• há transparência quanto aos critérios e dados utilizados
• existe possibilidade de revisão humana da decisão
• os dados utilizados são confiáveis e atualizados
• há mecanismos para evitar discriminação ou vieses
• a decisão é devidamente motivada, independentemente do sistema
Nessas hipóteses, o uso tende a ser compatível com o ordenamento.
Quais situações geram maior controvérsia?
A controvérsia surge especialmente quando a previsão algorítmica assume papel central na decisão.
Casos recorrentes incluem:
• decisões administrativas automatizadas sem intervenção humana
• uso de algoritmos em segurança pública para previsão de risco
• concessão ou negativa de benefícios com base em perfis preditivos
• classificação de cidadãos por sistemas opacos
• utilização de dados sensíveis para inferência comportamental
• ausência de explicação sobre os critérios utilizados
A dificuldade está em garantir controle e justificabilidade em sistemas complexos.
Qual a relevância desse debate?
O tema é central na modernização da Administração Pública.
Esse debate impacta diretamente:
• a legalidade de decisões baseadas em tecnologia
• a proteção contra discriminação algorítmica
• a transparência e o controle dos atos administrativos
• a eficiência na gestão pública
• a confiança dos cidadãos nas decisões estatais
O uso indiscriminado de previsões pode comprometer direitos fundamentais.
Quais elementos são analisados nesses casos?
A análise jurídica envolve critérios técnicos e principiológicos.
Entre os principais:
• existência de base legal para o uso da tecnologia
• grau de autonomia do sistema algorítmico
• transparência e explicabilidade do modelo
• possibilidade de revisão e controle humano
• qualidade e licitude dos dados utilizados
• respeito à igualdade e à não discriminação
• motivação adequada da decisão administrativa
Esses elementos são essenciais para aferir a validade do ato.
Atenção
A previsão algorítmica não pode substituir a decisão administrativa fundamentada.
É indispensável verificar:
• se há controle humano efetivo
• se os critérios são transparentes e auditáveis
• se a decisão é motivada de forma independente
• se não há discriminação ou viés indevido
• se os direitos fundamentais foram respeitados
A Administração pode utilizar previsões algorítmicas como instrumento de apoio, mas não pode delegar integralmente a decisão a sistemas automatizados. A legitimidade do ato depende da preservação dos princípios administrativos e da possibilidade de controle, sob pena de ilegalidade.