Sistemas autônomos não funcionam sozinhos — alguém é responsável
Carros autônomos, softwares que tomam decisões automáticas, robôs industriais e sistemas inteligentes já fazem parte da rotina de empresas e serviços públicos.
Mesmo quando a tecnologia age de forma automática, ela não está acima da lei.
O que são sistemas autônomos?
São tecnologias capazes de tomar decisões ou executar tarefas sem comando humano direto no momento da ação.
Isso pode envolver:
Veículos autônomos
Sistemas que analisam e aprovam cadastros
Plataformas que bloqueiam usuários automaticamente
Máquinas industriais automatizadas
Embora funcionem sozinhos, foram criados, programados e mantidos por pessoas ou empresas.
Quais são os riscos?
Se houver falha, erro de programação ou uso inadequado, podem ocorrer:
Danos materiais
Prejuízos financeiros
Acidentes
Violações de direitos
A tecnologia pode errar. E quando o erro causa prejuízo, surge a questão da responsabilidade.
Quem responde pelo dano?
Depende do caso, mas pode haver responsabilidade de:
Empresa que desenvolveu o sistema
Empresa que utiliza a tecnologia
Fornecedor do serviço
Órgão público que adotou o sistema
O fato de a decisão ter sido automática não elimina a obrigação de reparar o dano.
O que fazer se um sistema causou prejuízo?
É possível:
Solicitar esclarecimentos sobre o ocorrido
Registrar reclamação formal
Exigir reparação
Buscar orientação jurídica
Tecnologia não substitui responsabilidade.
Sistemas autônomos devem funcionar com segurança, transparência e respeito aos direitos das pessoas.