1. Introdução: a IA virou rotina — e o Direito está correndo atrás
A inteligência artificial deixou de ser promessa e passou a ser infraestrutura. Ela decide quem recebe crédito, quais currículos avançam em seleções, que conteúdo aparece no feed, como anúncios são direcionados e até como pessoas são avaliadas em plataformas de trabalho.
O problema é que, por muito tempo, a IA foi tratada como “ferramenta neutra”. Mas, na prática, ela pode errar, discriminar, amplificar injustiças e gerar danos em escala. E quando isso acontece, quase sempre aparece a mesma resposta padrão: “foi o algoritmo”.
É nesse cenário que ganha força o Marco Legal da IA, com a ideia de exigir avaliação de risco antes e durante o uso de sistemas de inteligência artificial. A mensagem é clara: se a tecnologia pode causar dano relevante, ela precisa ser tratada como atividade de risco, com dever de prevenção, documentação e responsabilidade.
2. O que significa exigir “avaliação de risco” para IA
A avaliação de risco, no contexto regulatório, não é um “relatório genérico” para inglês ver. É uma obrigação de mapear, com seriedade, o impacto do sistema antes de colocá-lo em operação.
Na prática, isso tende a envolver perguntas como:
o sistema pode gerar discriminação? pode violar privacidade? pode afetar direitos fundamentais? existe chance de erro com dano relevante? há possibilidade de manipulação? há transparência mínima para auditoria?
O ponto central é que o uso de IA passa a exigir uma postura preventiva. Em vez de esperar o dano acontecer, a empresa deve demonstrar que avaliou riscos, mitigou falhas e implementou controles.
3. Por que isso muda o jogo: “não sabia” deixa de ser defesa
Quando a lei passa a exigir avaliação de risco, a empresa perde o argumento de que o problema foi imprevisível. Se o risco era conhecido — e o sistema foi usado mesmo assim — a responsabilidade tende a ser mais difícil de afastar.
Isso impacta diretamente setores que usam IA em decisões sensíveis, como:
crédito e bancos, seguros, saúde, seleção de pessoas, segurança pública, educação, moderação de conteúdo e sistemas de recomendação.
Em qualquer contexto em que a IA influencia a vida de alguém, a tendência é que o Direito cobre não apenas o resultado, mas também o processo: como a decisão foi produzida, quais dados foram usados e quais controles existiam.
4. IA de alto risco: quando a obrigação é maior
A lógica mais comum em marcos regulatórios é separar sistemas de baixo impacto daqueles considerados de alto risco, isto é, capazes de afetar direitos fundamentais e gerar danos graves.
Em sistemas de alto risco, costuma surgir um pacote mais rígido de obrigações, como:
documentação técnica, testes, rastreabilidade, governança, monitoramento contínuo e mecanismos de revisão humana.
Isso significa que “usar IA” não será mais um detalhe técnico. Será um ponto de conformidade jurídica. E empresas que operam sem governança passam a correr risco real de sanções e litígios.
5. Transparência e explicabilidade: a era do “caixa-preta” está acabando
Um dos maiores conflitos com IA é o chamado “modelo caixa-preta”: a empresa usa um sistema que decide, mas ninguém sabe explicar como e por quê.
A exigência de avaliação de risco pressiona por transparência mínima. Não necessariamente para revelar segredos industriais, mas para garantir que exista:
capacidade de auditoria, rastreio de decisões e justificativa verificável.
No mundo jurídico, isso é decisivo. Porque, sem explicação, não há contraditório real. E sem contraditório, não há defesa efetiva.
Quando a IA afeta a vida de alguém (nega um benefício, bloqueia uma conta, reprova um candidato), a tendência é que o Direito passe a exigir que exista um caminho de revisão e contestação.
6. Relação com LGPD e responsabilidade civil: a IA não fica fora do sistema
A avaliação de risco também conversa diretamente com a LGPD, porque grande parte da IA depende de dados pessoais, perfilamento e decisões automatizadas.
Se a empresa usa IA para classificar pessoas, prever comportamentos ou tomar decisões, ela precisa justificar finalidade, necessidade e segurança. Caso contrário, pode haver violação por excesso de coleta, tratamento inadequado ou falta de transparência.
Além disso, a responsabilização civil pode ganhar força quando ficar demonstrado que:
o dano era previsível, o risco era conhecido e a empresa não implementou medidas razoáveis de prevenção.
Em termos práticos, isso aproxima a IA de um padrão jurídico já conhecido: quem coloca atividade de risco no mercado precisa gerir o risco.
7. Conclusão: IA não é só inovação — é poder, e poder exige controle
A aprovação de exigências como avaliação de risco marca uma mudança de mentalidade. A IA deixa de ser vista apenas como eficiência e passa a ser vista como estrutura de decisão com potencial de dano em escala.
A empresa que usa IA vai precisar responder por três perguntas básicas:
o que o sistema faz, quais riscos ele gera e quais medidas existem para impedir que ele cause danos.
A tendência é clara: quem quiser operar com IA em 2026 e nos próximos anos vai precisar mais do que tecnologia. Vai precisar de governança, transparência e responsabilidade jurídica real.