Por Ítalo Samuel R. C. M. Cardoso de Jesus, advogado.
Inicia-se com uma reflexão elementar, mas urgente: o uso de uma ferramenta de Inteligência Artificial (IA) sem a compreensão profunda de sua dinâmica, elementos e riscos não seria, por si só, uma conduta antiética?
Mais do que isso: quando os efeitos desse desconhecimento não recaem sobre o usuário, mas sobre o outro — o jurisdicionado —, é legítimo delegar decisões a sistemas complexos em um pilar tão sensível da sociedade como o Direito?
A adoção acrítica da IA no Judiciário
Na prática forense atual, o que se observa é uma adoção frenética de IAs por gabinetes de todas as instâncias do Judiciário, muitas vezes com resultados catastróficos.
Um exemplo emblemático ocorreu no Tribunal de Justiça de Minas Gerais (TJMG), onde uma decisão de absolvição de um homem de 35 anos, acusado de manter criminosamente relações sexuais com uma criança de 12, foi publicada contendo, no próprio corpo do voto, o prompt (comando) esquecido pelo redator.
O erro material revelou algo mais grave: a fundamentação não nasceu do convencimento motivado do magistrado, mas de uma instrução automatizada que ignorou a gravidade dos fatos e a proteção integral do menor.
Decisões desconectadas da realidade
Em quase 15 anos de advocacia militante, tem se observado uma acentuação de decisões absurdas como essa, completamente desconectadas da realidade fático-probatória constante nos autos do processo.
Não se trata de falhas isoladas, mas de um sintoma de um sistema que começa a substituir análise por automatização.
A natureza e os limites da Inteligência Artificial
Para desmistificar: a IA opera por meio de uma correspondência algorítmica entre um comando e uma base de dados. Trata-se, em essência, de uma fórmula matemática que entrega rapidez a questionamentos complexos.
No entanto, é preciso encarar a IA como ela é: uma atividade de risco. Por ser um produto desenvolvido sob a lógica da eficiência estatística, ela é, necessariamente, parcial.
Ao processar conflitos, a IA tende a relativizar a responsabilidade e o dano individual em favor de padrões genéricos. Ela não “sente” a lesão; ela calcula probabilidades — o que, invariavelmente, favorece quem detém o poder de padronizar o mercado e alimentar esses sistemas.
A ameaça aos fundamentos do Direito
Institutos fundamentais do Direito estão sob ameaça, em especial a Responsabilidade Objetiva fundamentada na Teoria do Risco Integral.
Como bem observou o sociólogo Ulrich Beck, em Sociedade de Risco, na modernidade o risco está intrinsecamente ligado à lucratividade. Se antes era uma aventura individual, hoje o risco é uma estratégia de mercado: quanto maior o risco assumido — ou transferido ao consumidor —, maior o lucro esperado.
O enfraquecimento da proteção ao vulnerável
Institutos como o Código de Defesa do Consumidor nasceram justamente para reequilibrar essa balança, garantindo que quem lucra com uma atividade arque com seus danos.
Contudo, ao delegar a análise desses conflitos a algoritmos opacos, o Judiciário flerta com o retrocesso e com a insegurança jurídica.
A desumanização do processo judicial
A confiança cega na automação, sobretudo em decisões judiciais, pode resultar em uma desumanização perigosa do processo.
Esquece-se que cada caso traz consigo particularidades e nuances que escapam à lógica fria dos algoritmos. O risco, portanto, não reside apenas na falibilidade técnica, mas principalmente na abdicação do olhar humano e sensível, indispensável à realização da Justiça.
O risco de erosão da responsabilidade objetiva
A afirmação de que teorias jurídicas desenvolvidas para proteger a parte mais vulnerável da relação processual — como a teoria do risco — encontram-se em situação de vulnerabilidade não constitui exagero.
Caso o Poder Judiciário delegue a interpretação de conceitos abertos a algoritmos baseados unicamente em padrões estatísticos, poderá ocorrer um enfraquecimento gradual da responsabilidade objetiva.
O Direito deixaria de ser um instrumento de pacificação social para se tornar um mero otimizador de estatísticas.
Entre velocidade e justiça
A IA vende velocidade, mas não garante Justiça. Sem o filtro ético e técnico do julgador, a tecnologia deixa de ser um instrumento de apoio para se tornar uma engrenagem de injustiças automatizadas.
O papel insubstituível do fator humano
Por fim, é fundamental ressaltar que a inteligência artificial constitui ferramenta auxiliar, incapaz de substituir o agente humano na análise do caso concreto.
Seu uso responsável exige participação humana em ao menos dois momentos cruciais: na elaboração do comando (prompt) e na avaliação crítica do resultado produzido.
Sem o devido conhecimento prévio dos fatos e das provas — isto é, sem a leitura atenta do processo —, o resultado obtido será sempre inadequado à finalidade proposta. Em outras palavras: será injusto.
Cardoso Jesus Advocacia atua há 15 anos no Direito Empresarial, oferecendo soluções práticas de compliance e adequação à LGPD.