Com o uso crescente de inteligência artificial e algoritmos na administração pública, governos passaram a utilizar sistemas automatizados para analisar dados e apoiar decisões que afetam diretamente a vida dos cidadãos.
Mas surge uma questão importante: o cidadão tem direito de saber como esses algoritmos funcionam?
A resposta, em muitos casos, é sim. O uso de tecnologia pelo poder público não elimina o dever de transparência e controle sobre as decisões administrativas.
O que são algoritmos usados pelo governo?
Algoritmos são sistemas que processam dados e aplicam regras para chegar a determinados resultados ou recomendações.
Na administração pública, eles podem ser utilizados para:
• Analisar pedidos de benefícios sociais
• Identificar possíveis fraudes
• Definir prioridades em políticas públicas
• Classificar riscos em processos administrativos
• Auxiliar na gestão de recursos públicos
Essas ferramentas permitem lidar com grandes volumes de informação de forma mais rápida.
O cidadão pode saber como a decisão foi tomada?
Em regra, sim.
Decisões administrativas que afetam direitos precisam ser justificadas e compreensíveis. Por isso, o cidadão pode ter direito de acessar informações como:
• Critérios utilizados na análise
• Dados considerados pelo sistema
• Motivos que levaram ao resultado da decisão
• Possibilidade de revisão do procedimento
Esse direito está relacionado ao princípio da transparência e ao dever de motivação dos atos administrativos.
Existe limite para o acesso ao algoritmo?
Pode haver algumas restrições.
Em certos casos, o governo pode alegar necessidade de proteção de:
• Segurança do sistema
• Dados sensíveis
• Informações estratégicas
• Segredos industriais de empresas contratadas
Mesmo assim, essas limitações não podem impedir totalmente o controle da decisão administrativa, principalmente quando direitos individuais estão envolvidos.
O cidadão pode contestar decisões automatizadas?
Sim.
Se uma decisão baseada em algoritmo causar prejuízo ou parecer injusta, o cidadão pode questioná-la por meio de:
• Revisão administrativa
• Pedido de acesso à informação
• Defesa em processo administrativo
• Ação judicial, quando necessário
A possibilidade de revisão é essencial para evitar erros ou distorções no uso da tecnologia.
O uso de algoritmos elimina a responsabilidade do Estado?
Não.
Mesmo quando utiliza sistemas automatizados, o poder público continua responsável pelos efeitos das decisões tomadas.
Se houver erro, discriminação ou falha no processo decisório, o Estado pode ser responsabilizado pelos danos causados.
Atenção
O uso de algoritmos pelo governo pode aumentar a eficiência da administração pública, mas não pode reduzir a transparência das decisões que afetam o cidadão.
Sempre que a tecnologia influencia um ato administrativo, deve existir possibilidade de compreender, questionar e revisar a decisão tomada.