Decisão tomada por algoritmo pode ser discriminatória — e isso pode ser contestado
Hoje, muitas decisões que afetam a vida das pessoas não são feitas diretamente por seres humanos, mas por sistemas automáticos. Bancos, empresas, plataformas digitais e até órgãos públicos utilizam algoritmos para analisar dados e tomar decisões rápidas.
O problema é que essas decisões nem sempre são justas.
O que é discriminação algorítmica?
É quando um sistema automático trata determinadas pessoas de forma diferente ou prejudicial com base em padrões ocultos nos dados.
Isso pode acontecer, por exemplo, quando:
Um banco nega crédito sem explicação clara
Um candidato é eliminado de um processo seletivo automaticamente
Um benefício é negado com base em critérios pouco transparentes
Um perfil é bloqueado por sistema automático
Mesmo que a decisão tenha sido feita por um “robô”, ela pode reproduzir preconceitos ou erros.
Tecnologia não está acima da lei
Empresas e órgãos públicos continuam responsáveis pelas decisões tomadas por seus sistemas.
Se houver tratamento desigual, falta de transparência ou prejuízo injusto, a decisão pode ser questionada. O uso de tecnologia não elimina o direito de defesa.
A pessoa tem direito de saber o motivo?
Sim. Sempre que uma decisão causar prejuízo, o cidadão pode pedir esclarecimentos. A falta de explicação clara pode indicar irregularidade.
Além disso, decisões automatizadas que impactam direitos relevantes devem permitir revisão humana.
O que fazer se houver suspeita de discriminação?
É possível:
Solicitar explicação formal da decisão
Pedir revisão por uma pessoa física
Registrar reclamação
Buscar orientação jurídica
A inovação é bem-vinda, mas não pode servir de justificativa para decisões injustas ou discriminatórias.
Se um sistema automático prejudicou você, a situação merece análise. A tecnologia deve servir às pessoas — não excluí-las.