A expansão do uso de sistemas de inteligência artificial para avaliar pessoas — em contextos como crédito, emprego, segurança, consumo e serviços públicos — tem levantado uma questão cada vez mais relevante: o indivíduo pode recusar ser avaliado por algoritmos?
A automatização decisória promete eficiência e padronização, mas também introduz riscos significativos à liberdade individual, à privacidade e à igualdade. Nesse cenário, surge a discussão sobre a existência de um direito de não ser submetido a decisões automatizadas.
1. O que significa ser avaliado por IA?
A avaliação por inteligência artificial envolve o uso de sistemas automatizados para analisar dados e produzir decisões ou classificações sobre indivíduos.
Abrange, por exemplo:
1.1 Análise de crédito automatizada
1.2 Triagem de currículos por algoritmos
1.3 Sistemas de pontuação comportamental
1.4 Reconhecimento facial e identificação
1.5 Decisões administrativas automatizadas
1.6 Perfis de consumo e publicidade direcionada
Esses mecanismos operam, muitas vezes, sem intervenção humana direta.
2. Existe fundamento jurídico para esse direito?
Embora nem sempre expresso de forma direta, o direito de não ser avaliado exclusivamente por IA encontra base em diversos princípios e normas, especialmente na Lei Geral de Proteção de Dados.
Fundamentos relevantes:
2.1 Dignidade da pessoa humana — proteção contra decisões desumanizadas
2.2 Privacidade e proteção de dados — controle sobre informações pessoais
2.3 Devido processo — direito à revisão de decisões
2.4 Igualdade — prevenção de discriminações algorítmicas
2.5 Transparência — direito à explicação dos critérios utilizados
A legislação brasileira, inclusive, prevê o direito de solicitar revisão de decisões tomadas exclusivamente por tratamento automatizado.
3. Quando a avaliação por IA se torna problemática?
O uso de inteligência artificial torna-se juridicamente sensível quando:
• não há transparência sobre os critérios utilizados
• o indivíduo não pode contestar a decisão
• há ausência de intervenção humana
• o sistema reproduz vieses discriminatórios
• decisões impactam direitos relevantes (emprego, crédito, benefícios)
• não há consentimento ou base legal adequada
Nessas hipóteses, a automação pode violar garantias fundamentais.
4. Situações que geram maior controvérsia
O debate se intensifica em contextos de alto impacto social.
Casos recorrentes:
• negativa de crédito por score automatizado
• eliminação em processos seletivos por triagem algorítmica
• reconhecimento facial em espaços públicos
• decisões administrativas baseadas em sistemas automatizados
• bloqueio de contas ou serviços por plataformas digitais
• classificação de risco sem explicação clara
Essas situações evidenciam o risco de decisões invisíveis e inquestionáveis.
5. Qual a relevância desse debate?
A discussão envolve a própria redefinição da relação entre indivíduo e tecnologia.
Impactos principais:
• proteção contra decisões arbitrárias automatizadas
• garantia de controle humano sobre decisões relevantes
• fortalecimento da transparência tecnológica
• prevenção de discriminação algorítmica
• preservação da autonomia individual
• equilíbrio entre inovação e direitos fundamentais
A eficiência não pode justificar a supressão de garantias básicas.
6. Quais critérios devem orientar a análise jurídica?
A avaliação deve considerar:
• existência de intervenção humana significativa
• grau de impacto da decisão na vida do indivíduo
• transparência dos critérios utilizados
• possibilidade de contestação e revisão
• base legal para o tratamento de dados
• riscos de discriminação
• proporcionalidade no uso da tecnologia
Assim como ocorre em outros contextos de decisões automatizadas que podem limitar direitos , é essencial evitar que a tecnologia se torne barreira absoluta ao exercício de garantias jurídicas.
Atenção
O uso de inteligência artificial em avaliações não é proibido, mas deve respeitar limites jurídicos claros.
É indispensável verificar:
• se há direito à revisão da decisão
• se o processo é transparente
• se há supervisão humana efetiva
• se os dados utilizados são adequados e lícitos
• se há risco de discriminação ou erro sistêmico
A tecnologia deve servir como ferramenta — não como substituta absoluta do juízo humano.