Quando a decisão deixa de ser exclusivamente humana
Imagine a seguinte situação:
um órgão público passa a utilizar sistemas automatizados para classificar requerimentos, sugerir minutas decisórias ou indicar padrões de julgamento. A decisão final continua formalmente assinada por um agente público, mas parte relevante da formação do convencimento foi influenciada por um modelo algorítmico.
Surge então uma questão constitucional central:
• é suficiente que a decisão esteja formalmente fundamentada, sem explicação sobre o funcionamento do sistema utilizado?
• há dever de transparência quanto aos critérios algorítmicos aplicados?
• como assegurar controle social e jurisdicional sobre decisões parcialmente automatizadas?
• quais limites impedem a opacidade tecnológica no exercício do poder público?
No contexto da transformação digital do Estado, a transparência deixa de ser apenas um valor administrativo e passa a ser requisito estrutural de legitimidade das decisões públicas automatizadas.
O que significa transparência em decisões automatizadas
O dever constitucional de transparência, aplicado às decisões influenciadas por sistemas automatizados, envolve mais do que publicidade formal do ato.
Ele exige:
• explicitação dos critérios utilizados pelo sistema
• indicação do grau de influência da ferramenta tecnológica na decisão
• possibilidade de compreensão racional do resultado
• viabilidade de controle por parte do interessado
Não se trata de revelar códigos-fonte de maneira irrestrita, mas de assegurar inteligibilidade decisória suficiente para permitir contraditório, impugnação e fiscalização institucional.
A lógica constitucional impõe que nenhuma decisão estatal possa se escudar na complexidade técnica para escapar ao dever de fundamentação.
Transparência como extensão do dever de fundamentação
A exigência de fundamentação das decisões administrativas e judiciais não se esgota na exposição genérica de motivos.
Quando há utilização de sistemas automatizados, a fundamentação precisa:
• indicar que houve apoio tecnológico
• esclarecer quais parâmetros relevantes foram considerados
• demonstrar que houve análise humana crítica
• afastar a ideia de decisão puramente automática
A opacidade algorítmica compromete o controle democrático, pois impede que o destinatário compreenda os critérios que influenciaram o exercício do poder público.
Elementos estruturais da transparência algorítmica
A aplicação prática do dever constitucional de transparência envolve alguns elementos centrais.
a) Identificação do uso de sistema automatizado
O administrado ou jurisdicionado deve saber que houve utilização de ferramenta tecnológica na formação da decisão.
b) Explicabilidade mínima
É necessário apresentar justificativa compreensível sobre os fatores determinantes do resultado.
c) Possibilidade de revisão humana
Deve existir instância apta a revisar criticamente o resultado produzido ou sugerido pelo sistema.
d) Auditabilidade institucional
Órgãos de controle interno e externo precisam ter acesso a informações técnicas suficientes para avaliar eventuais vieses ou falhas estruturais.
O desafio da opacidade técnica
Sistemas baseados em aprendizado de máquina podem operar com modelos estatísticos de alta complexidade. Isso gera dificuldades específicas:
• dificuldade de traduzir modelos técnicos em linguagem jurídica
• risco de reprodução de vieses históricos nos dados
• dependência de fornecedores privados
• assimetria informacional entre Estado e cidadão
A transparência constitucional exige que essas barreiras técnicas não se convertam em barreiras jurídicas ao controle.
Impactos na legitimidade e no controle jurisdicional
A ausência de transparência em decisões automatizadas pode gerar consequências relevantes:
• fragilização do contraditório
• dificuldade de impugnação administrativa ou judicial
• aumento do risco de decisões arbitrárias
• comprometimento da confiança institucional
Quando o cidadão não consegue compreender os critérios que influenciaram a decisão, o exercício do direito de defesa torna-se meramente formal.
Por outro lado, a adoção de padrões claros de explicabilidade fortalece a legitimidade institucional e reduz contestações futuras.
Como estruturar decisões compatíveis com o dever constitucional
Na prática institucional, alguns cuidados são fundamentais:
• registrar formalmente o uso do sistema automatizado
• delimitar o papel do agente humano na decisão final
• documentar critérios técnicos relevantes
• prever mecanismos de revisão e correção
• assegurar registro auditável das operações decisórias
A tecnologia pode ampliar eficiência e coerência decisória, mas não substitui a responsabilidade constitucional do agente público.
Limites e riscos do uso automatizado
O dever de transparência também atua como limite ao uso excessivo de automação.
Entre os riscos estão:
• delegação indevida de juízo valorativo à máquina
• automatização de decisões que exigem ponderação individualizada
• utilização de modelos sem validação adequada
• criação de decisões padronizadas incompatíveis com o caso concreto
A eficiência administrativa não pode se sobrepor à garantia de fundamentação adequada e controle democrático.
Onde o tema se torna mais sensível
O debate sobre transparência em decisões automatizadas ganha maior relevância em:
• concessão de benefícios públicos
• políticas de crédito e financiamento estatal
• triagens processuais no Judiciário
• fiscalização tributária automatizada
• aplicação de sanções administrativas
Nesses contextos, decisões influenciam direitos individuais, patrimônio e liberdade, o que reforça a exigência de controle e justificativa clara.
Transparência como condição de legitimidade tecnológica