Quando o algoritmo decide sem explicar
Imagine a seguinte situação:
um cidadão tem acesso negado a crédito, benefício ou serviço digital por decisão tomada automaticamente por sistema algorítmico.
A resposta recebida é genérica, sem indicação dos critérios utilizados.
Surgem então perguntas inevitáveis:
• existe direito de entender por que o sistema decidiu daquela forma?
• a tecnologia pode substituir a obrigação de fundamentação?
• decisões automatizadas que afetam direitos fundamentais precisam ser explicáveis?
A expansão da inteligência artificial trouxe ao centro do debate jurídico o chamado direito à explicação, ligado à transparência e ao controle de decisões algorítmicas.
O que são decisões algorítmicas
Decisões algorítmicas são aquelas tomadas total ou majoritariamente por sistemas automatizados com base em tratamento de dados pessoais.
Essas decisões podem envolver:
• análise de perfil e crédito
• concessão ou restrição de serviços
• classificação de risco
• seleção automatizada de usuários.
Quando produzem efeitos relevantes sobre indivíduos, passam a exigir garantias específicas de proteção jurídica.
Proteção constitucional e dados pessoais
A proteção de dados pessoais foi elevada a direito fundamental no texto constitucional, reforçando a necessidade de controle sobre decisões baseadas em dados. (planalto.gov.br)
Isso amplia a relevância jurídica da transparência algorítmica, especialmente quando decisões impactam liberdade, igualdade ou acesso a direitos sociais.
O direito à explicação na LGPD
A Lei Geral de Proteção de Dados estabelece que o titular pode solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados que afetem seus interesses. (planalto.gov.br)
Além disso, o controlador deve fornecer, quando solicitado:
• informações claras e adequadas
• critérios e procedimentos utilizados na decisão automatizada. (gov.br)
Esse dever constitui a base normativa do direito à explicação no Brasil.
Explicação não significa revelar o algoritmo inteiro
O direito à explicação não exige exposição integral do código-fonte.
O que se busca é:
• compreensão geral dos fatores relevantes da decisão
• possibilidade de contestação pelo titular
• transparência suficiente para controle jurídico.
A própria LGPD admite preservação de segredos comercial e industrial, desde que isso não inviabilize o exercício de direitos. (gov.br)
Direito à explicação e direitos fundamentais
Quando decisões automatizadas afetam direitos fundamentais, a exigência de explicação torna-se mais intensa.
Isso ocorre porque:
• sem compreender a decisão, o indivíduo não consegue exercer defesa efetiva;
• a opacidade algorítmica dificulta o controle judicial e administrativo;
• aumenta o risco de discriminação invisível ou erros sistêmicos.
A transparência passa a ser condição para a legitimidade da decisão automatizada.
O papel regulatório e institucional
A Autoridade Nacional de Proteção de Dados tem desenvolvido debates e processos participativos para regulamentar a revisão de decisões automatizadas, enfatizando a importância da transparência e da proteção dos titulares. (gov.br)
Essas iniciativas indicam tendência de fortalecimento da exigência de explicabilidade em sistemas baseados em IA.
Pode haver responsabilização por falta de explicação?
Sim. A ausência de transparência pode gerar:
• violação do direito à informação do titular;
• nulidade ou revisão da decisão automatizada;
• responsabilização civil em caso de dano causado.
A decisão algorítmica não é imune ao controle jurídico apenas por ser tecnológica.
Onde o tema é mais sensível
O direito à explicação ganha maior relevância em:
• concessão de crédito e scoring financeiro
• decisões previdenciárias e administrativas automatizadas
• plataformas digitais e marketplaces
• sistemas de seleção e reputação online
• serviços públicos digitalizados.
Quanto maior o impacto sobre direitos individuais, maior a exigência de transparência.
Sem explicação não há decisão legítima
O avanço dos sistemas algorítmicos não elimina princípios fundamentais do Estado de Direito.
O direito à explicação representa mecanismo essencial para garantir:
• transparência decisória;
• possibilidade de contestação e revisão;
• proteção contra arbitrariedade tecnológica.
O desafio contemporâneo é equilibrar inovação e proteção de direitos, assegurando que decisões automatizadas sejam compreensíveis e controláveis.
Para a advocacia e para os órgãos reguladores, a lição é clara: quanto mais os algoritmos influenciam direitos fundamentais, maior deve ser o dever de explicação por parte das instituições que os utilizam.