A utilização de sistemas de inteligência artificial capazes de gerar conteúdos autônomos trouxe à tona um problema relevante: a produção de informações falsas ou inexistentes, fenômeno conhecido como “alucinação” algorítmica.
Nesses casos, a IA cria fatos, citações, dados ou eventos que não possuem correspondência com a realidade, mas que são apresentados com aparência de veracidade.
O uso dessas informações em contextos jurídicos, administrativos ou comerciais pode gerar consequências graves, especialmente quando influencia decisões ou prejudica terceiros.
- O que caracteriza a “invenção de fatos” por IA
Ocorre quando sistemas de inteligência artificial produzem informações incorretas ou inexistentes como se fossem verdadeiras.
Isso pode acontecer quando:
• a IA gera respostas sem base em dados verificáveis
• há criação de jurisprudência inexistente
• citações são atribuídas a fontes que não existem
• fatos são reconstruídos de forma equivocada
• conteúdos são gerados por probabilidade, não por verificação
• o sistema apresenta alta confiança em informações falsas
Nesses casos, a informação não decorre de erro humano direto, mas de falha algorítmica.
- Por que isso acontece na prática
As alucinações algorítmicas decorrem de limitações tecnológicas:
• modelos baseados em probabilidade linguística
• ausência de verificação factual em tempo real
• treinamento em grandes bases de dados heterogêneas
• dificuldade de distinguir verdade de plausibilidade
• otimização para fluidez e coerência textual
• limitações na curadoria de dados
O resultado é a geração de conteúdo plausível, porém incorreto.
- Situações comuns em que o problema ocorre
A invenção de fatos pode ser observada em diversos contextos:
• elaboração de peças jurídicas com citações inexistentes
• geração de pareceres com fundamentos incorretos
• criação de notícias falsas com aparência real
• respostas automatizadas em atendimento ao público
• produção de conteúdos acadêmicos sem verificação
• uso de IA em decisões administrativas
Essas situações demonstram o risco da confiança excessiva em sistemas automatizados.
- O impacto para terceiros e para o sistema jurídico
As consequências podem ser significativas:
• indução a erro em decisões jurídicas
• prejuízos financeiros e reputacionais
• disseminação de informações falsas
• comprometimento da segurança jurídica
• aumento de litigiosidade
• perda de confiança em sistemas automatizados
A utilização acrítica da IA pode comprometer a qualidade das decisões.
- Consequências jurídicas do uso de informações falsas geradas por IA
O uso indevido dessas informações pode gerar implicações legais:
• responsabilização por danos causados a terceiros
• dever de verificação por parte do usuário profissional
• falha na prestação de serviço
• violação do dever de diligência
• possível responsabilização de fornecedores de tecnologia
• nulidade de atos baseados em informações falsas
A automação não afasta a responsabilidade jurídica.
- Como evitar riscos e garantir o uso seguro da IA
A mitigação exige medidas práticas e institucionais:
• verificação independente das informações geradas
• uso da IA como ferramenta auxiliar, não decisória
• treinamento de usuários para identificação de erros
• implementação de sistemas de checagem factual
• transparência sobre limitações da tecnologia
• adoção de políticas de governança em IA
O controle humano permanece essencial no uso dessas ferramentas.
Na prática
• A IA pode gerar informações falsas com aparência real
• O uso sem verificação pode causar prejuízos
• Profissionais devem validar o conteúdo
• Pode haver responsabilização jurídica
• A tecnologia exige supervisão humana
A capacidade da inteligência artificial de “inventar fatos” evidencia que a inovação tecnológica deve ser acompanhada de cautela e responsabilidade.
Mais do que confiar na automatização, é essencial garantir mecanismos de verificação e controle que preservem a veracidade das informações e a segurança jurídica.
Com uso consciente, supervisão humana e regulamentação adequada, é possível aproveitar os benefícios da IA sem comprometer a integridade do sistema jurídico.