A utilização crescente de algoritmos em decisões que afetam diretamente a vida dos indivíduos tem revelado um fenômeno preocupante: a exclusão algorítmica. Trata-se da situação em que pessoas são invisibilizadas, preteridas ou impedidas de acessar direitos e oportunidades em razão de critérios automatizados.
Nesse contexto, surge uma indagação central: a exclusão promovida por sistemas algorítmicos pode configurar violação à dignidade da pessoa humana?
A resposta tende a ser afirmativa quando a tecnologia, em vez de promover eficiência e inclusão, passa a gerar discriminação estrutural e barreiras indevidas ao exercício de direitos.
1. O que é exclusão algorítmica?
A exclusão algorítmica ocorre quando sistemas automatizados produzem efeitos que afastam ou prejudicam indivíduos de forma injustificada ou desproporcional.
Abrange, por exemplo:
1.1 Negativa automatizada de acesso a crédito
1.2 Filtragem discriminatória em processos seletivos
1.3 Invisibilização de conteúdos ou perfis
1.4 Priorização desigual em plataformas digitais
1.5 Bloqueios automáticos de serviços
1.6 Classificações de risco baseadas em dados incompletos
Esses mecanismos operam, muitas vezes, sem transparência ou possibilidade de revisão.
2. Qual o fundamento jurídico da vedação?
A vedação à exclusão algorítmica encontra base em princípios estruturantes do ordenamento jurídico, com destaque para:
2.1 Dignidade da pessoa humana — núcleo axiológico central
2.2 Igualdade material — combate a discriminações indiretas
2.3 Devido processo — direito à revisão e contestação
2.4 Transparência — conhecimento dos critérios decisórios
2.5 Proteção de dados pessoais — nos termos da Lei Geral de Proteção de Dados
A automatização não afasta a incidência desses princípios.
3. Quando a exclusão algorítmica se torna ilícita?
A exclusão passa a ser juridicamente relevante quando:
• há impacto significativo sobre direitos fundamentais
• os critérios utilizados são opacos ou inacessíveis
• inexistem mecanismos de revisão humana
• o sistema reproduz ou amplia desigualdades
• há erro sistêmico ou uso de dados inadequados
• não há justificativa proporcional para a decisão
Nessas hipóteses, o uso da tecnologia pode ultrapassar os limites da legalidade.
4. Situações que geram maior controvérsia
O debate se intensifica em contextos de alta dependência tecnológica.
Casos recorrentes:
• recusa de crédito por score automatizado
• exclusão de candidatos em processos seletivos digitais
• bloqueio de contas em plataformas sem explicação
• sistemas públicos que negam benefícios automaticamente
• invisibilização em mecanismos de busca ou redes sociais
• decisões baseadas em dados históricos enviesados
Essas situações revelam a dificuldade de identificar e contestar a exclusão.
5. Qual a relevância desse debate?
A exclusão algorítmica desafia diretamente a efetividade dos direitos fundamentais.
Impactos principais:
• risco de discriminação estrutural invisível
• ampliação de desigualdades sociais
• fragilização da confiança em sistemas digitais
• dificuldade de acesso a direitos e oportunidades
• desumanização de decisões relevantes
• limitação da autonomia individual
A tecnologia não pode legitimar formas sofisticadas de exclusão.
6. Quais critérios orientam a análise jurídica?
A avaliação deve considerar:
• transparência dos algoritmos utilizados
• possibilidade de explicação da decisão
• existência de revisão humana
• qualidade e origem dos dados utilizados
• impacto da decisão na vida do indivíduo
• presença de vieses discriminatórios
• proporcionalidade da medida adotada
Assim como em contextos em que a ausência de mecanismos formais pode impedir o acesso a direitos , a opacidade algorítmica pode funcionar como barreira invisível ao exercício de garantias fundamentais.
Atenção
A exclusão algorítmica não é apenas um problema técnico — é uma questão jurídica e constitucional.
É essencial verificar:
• se há discriminação direta ou indireta
• se o indivíduo pode contestar a decisão
• se o sistema respeita direitos fundamentais
• se há controle sobre o funcionamento do algoritmo
• se a decisão é proporcional e justificada
A inovação tecnológica deve estar alinhada à dignidade da pessoa humana, e não em oposição a ela.