Quando a decisão é do sistema — mas o dever é da Administração
Imagine o seguinte cenário:
um administrado tem seu benefício indeferido.
A justificativa é genérica:
“Decisão automática com base em cruzamento sistêmico de dados.”
Não há:
• explicação clara dos critérios utilizados
• acesso ao modelo decisório
• possibilidade real de contestação técnica
• auditoria independente disponível
A pergunta central é:
a Administração pode se eximir de responsabilidade alegando que a decisão foi “do sistema”?
A resposta técnica é negativa.
Automatização decisória e dever de juridicidade
A transformação digital ampliou o uso de decisões automatizadas na Administração Pública.
Órgãos como o Instituto Nacional do Seguro Social utilizam sistemas automatizados para:
• análise de benefícios
• cruzamento de dados cadastrais
• identificação de inconsistências
• detecção de indícios de irregularidade
A automação é legítima e pode aumentar eficiência.
Mas não elimina:
• dever de motivação
• possibilidade de revisão humana
• transparência mínima
• controle jurisdicional
O que significa “não auditável”
Uma decisão automatizada é não auditável quando:
• não há registro dos critérios aplicados
• o modelo algorítmico é opaco
• não existe rastreabilidade da decisão
• o administrado não consegue compreender o fundamento técnico
• não há instância técnica capaz de revisar o resultado
Nessas hipóteses, a opacidade compromete garantias fundamentais.
Motivação e explicabilidade
A Constituição exige fundamentação dos atos administrativos.
Mesmo que o processamento seja automatizado, a Administração deve ser capaz de:
• explicar os parâmetros utilizados
• indicar os dados considerados
• demonstrar coerência normativa
• permitir contraditório efetivo
A decisão automatizada não substitui a obrigação de justificar juridicamente o resultado.
O risco da “irresponsabilidade algorítmica”
Há um fenômeno preocupante:
a transferência implícita da responsabilidade para o sistema.
Isso ocorre quando:
• o agente público não domina o modelo utilizado
• inexistem protocolos de validação periódica
• não há governança de dados adequada
• falhas sistêmicas se repetem sem correção
O algoritmo é ferramenta.
A responsabilidade permanece institucional.
Pressupostos da responsabilidade administrativa
Pode haver responsabilização quando:
• a decisão automatizada viola norma jurídica
• há erro sistêmico previsível
• inexistem mecanismos de auditoria
• o administrado sofre dano decorrente da opacidade
• a Administração falha em revisar decisão equivocada
A responsabilidade pode assumir dimensão:
• administrativa interna
• civil indenizatória
• eventualmente disciplinar
Controle judicial e decisões automatizadas
O controle judicial pode incidir quando:
• há ausência de fundamentação adequada
• o contraditório é inviabilizado
• o sistema aplica critérios não previstos em lei
• a decisão é baseada em dado incorreto não verificável
O Judiciário não revisa o algoritmo em si, mas pode exigir:
• transparência mínima
• motivação individualizada
• possibilidade de revisão humana
• correção de falhas sistêmicas
Opacidade tecnológica não cria zona imune à Constituição.
Pode haver nulidade da decisão automatizada?
Sim.
A nulidade pode ser arguida quando:
• inexiste fundamentação compreensível
• não há acesso aos critérios decisórios
• é inviável impugnação técnica
• a decisão decorre de erro sistêmico comprovado
Nessas hipóteses, pode-se sustentar:
• violação ao devido processo legal
• afronta ao contraditório
• ausência de motivação válida
• necessidade de reanálise com supervisão humana
O ponto central é a impossibilidade de controle.
Governança algorítmica como dever jurídico
A Administração deve implementar:
• protocolos de auditoria periódica
• rastreabilidade das decisões
• avaliação de impacto regulatório
• supervisão humana qualificada
• mecanismos transparentes de revisão
A governança algorítmica passa a ser requisito de juridicidade.
Tecnologia não elimina responsabilidade
A automação administrativa é instrumento de eficiência.
Mas não substitui:
• motivação
• transparência
• controle
• responsabilidade
Decisões automatizadas não auditáveis fragilizam o devido processo e podem gerar responsabilização estatal.
Para a advocacia, o desafio é demonstrar que o problema não está apenas no resultado da decisão, mas na própria estrutura opaca que impede controle efetivo.
A tecnologia pode acelerar decisões.
Não pode obscurecer a responsabilidade.