Com o avanço da tecnologia, sistemas de inteligência artificial já começam a ser utilizados pelo poder público para analisar dados, prever riscos e auxiliar na tomada de decisões administrativas.
Mas surge a dúvida: o governo pode deixar que a inteligência artificial tome decisões que afetam a vida das pessoas?
A resposta é que a tecnologia pode ser utilizada como ferramenta de apoio, mas não pode substituir totalmente a responsabilidade e o controle humano nas decisões públicas.
O que é o uso de IA na administração pública?
Trata-se da utilização de sistemas capazes de processar grandes volumes de dados para auxiliar órgãos públicos em atividades como:
• Análise de benefícios sociais
• Identificação de fraudes
• Distribuição de recursos públicos
• Gestão de políticas públicas
• Avaliação de risco em processos administrativos
Essas ferramentas ajudam a acelerar análises e a identificar padrões que seriam difíceis de perceber apenas com avaliação humana.
A decisão pode ser totalmente automática?
Em regra, decisões que impactam direitos dos cidadãos não devem ser totalmente automatizadas.
Isso porque a atuação do poder público precisa respeitar princípios como:
• Legalidade
• Transparência
• Motivação das decisões
• Devido processo administrativo
• Controle e possibilidade de revisão
Assim, a inteligência artificial pode sugerir resultados ou indicar caminhos, mas a decisão final deve permitir supervisão e controle humano.
Quais são os riscos do uso de IA pelo governo?
Embora útil, o uso de inteligência artificial pode gerar problemas quando:
• O algoritmo reproduz vieses presentes nos dados utilizados
• O funcionamento do sistema não é transparente
• O cidadão não consegue entender por que foi afetado por determinada decisão
• Não existe possibilidade de contestação ou revisão
Esses fatores podem gerar decisões injustas ou discriminatórias se não houver fiscalização adequada.
O cidadão pode contestar decisões feitas com IA?
Sim.
Quando uma decisão administrativa causa prejuízo ao cidadão, é possível questionar o ato, especialmente quando houver:
• Falta de transparência no processo decisório
• Ausência de fundamentação clara
• Erro na análise de dados
• Violação de direitos ou garantias legais
Nesses casos, pode haver revisão administrativa ou até discussão judicial.
Existe responsabilidade por erros da tecnologia?
Sim.
Se uma decisão baseada em inteligência artificial causar dano injusto ao cidadão, o Estado pode ser responsabilizado, especialmente quando houver falha no controle, no uso da tecnologia ou no processo decisório.
Isso ocorre porque a administração pública continua responsável pelos atos praticados, mesmo quando utiliza sistemas automatizados.
Atenção
A inteligência artificial pode tornar a administração pública mais eficiente, mas não substitui o dever de legalidade, transparência e responsabilidade do Estado.
O uso dessas tecnologias exige supervisão humana, critérios claros e mecanismos de revisão, garantindo que decisões que afetem direitos sejam tomadas de forma justa e controlável.