Pensar o Direito no mundo contemporâneo é ir além da dogmática outrora consolidada. Cada vez mais o estudo do Direito exige uma interconexão com outros ramos do conhecimento, algo natural do processo de construção do conhecimento científico, que não acontece de forma isalada em cada área de estudo. Nesse sentido, descobertas da Física podem impactar a Química e vice-versa. A Ciência Direito, nesse aspecto, não é diferente das demais Ciências, ou seja, o direito não admite mais – se é que algum vez admitiu – uma postura dogmática quanto aos demais ramos do conhecimento, especialmente àqueles ligados às novas tecnológias, como a Inteligência Artificial.
Pensar o Direito exige, então, aceitar que a chamada “dogmática jurídica” não se encerrará em si mesma. Na verdade, para compreender o fenômeno da Inteligência Artificial, o operador do Direito precisará caminhar por sendas até então desconhecidas, saindo do seu mundo familiar e se dirigindo até zonas desconhecidas (Aftalion; Vilanova; Raffo, 2004), a fim de compreender como essa tecnologia com poder tão disruptivo pode impactar nos processos judiciais.
Morato e Nunes (2025) citam, como exemplos de sistemas de Inteligência Artificial nos tribunais brasileiros, o Logos, do Superior Tribunal de Justiça, que auxilia na análise de recursos especiais, habeas corpus e demais processos que tramitam na corte, por meio da tecnologia do GPT-4 e o ChatJT, da Justiça do Trabalho, desenvolvido com base no Gimini e responsável por automatizar o fluxo de trabalho e prestar auxílio na tomada de decisões estratégicas. A verdade é que, além desses sistemas citados, existem inumeros outros espalhados por todos os tribunais brasileiros, cada um deles influenciando o processo decisório de maneiras diferentes, seja meramente automatizando uma tarefa repetitiva, ou resumindo processos por meio de relatórios, ou agrupando precedentes ou até mesmo minutando decisões que serão validadas pela supervisão humana.
Nesse cenário, existe a necessidade de uma “verdadeira reengenharia jurídica” (Vale; Pereira, 2023, p. 15), considerando que institutos já consolidados, dentre eles o devido processo legal, passaria a incorporar novos princípios, como a transparência e a explicabilidade, responsáveis por orientar o novo ambiente tecnológico em que o Direito está inserido.
Em síntese, o princípio da transparência exige que as informações, critérios, parâmetros, base de dados, ou outros elementos componentes de um sistema de IA sejam disponibilizados ao usuário de forma compreensível, permitindo um processo de auditabilidade. Por sua vez, a explicabilidade consiste na exigência de que os sistemas de IA demonstrem, por texto, áudio, símbolo, imagem, gráfico, tabela, ou outro elemento visual ou de linguagem natural o caminho traçado para chegar até aquele resultado, explicando, por exemplo, quais critérios de escolha utilizou, qual informação da base de dados foi mais relevantes e como ele decidiu o que seria mais relevante, o que permitiria a contestação do jurisdicionado.
Historicamente, o cotejo de fatos e direitos alegados nos autos de uma ação juridicial eram realizados apenas pelo julgador (a) humano (a). Agora, porém, grande parte dos julgamentos recebem a análise de um juiz ou de uma juíza apenas no momento final, apenas na fase de revisão humana. Contudo, esses sistemas artificialmente inteligentes podem constituir-se como verdadeiras caixas-pretas, instrumentos que oferecem respostas sem que os operadores saibam como e porque essas respostam foram oferecidas. É que se chama de opacidade algorítimica, um “um cenário onde a compreensão do processo algortímico é limitada, ainda que seu funcionamento seja válido” (Morato; Nunes, 2025, p. 106).
Outro problema que surge da incorporação de sistemas de Inteligência Artificial no Poder Judiciário é o viés de automação, que pode ser definido como a noção das máquinas infalíveis leva ao risco do viés de automação, considerando aqui como a crença de que a decisão produzida por uma Inteligência Artificial é melhor que a decisão humana, mesmo quando existem indícios de erro (Citron, 2008).
Para superar desafios como sistemas opacos e o viés de automação, os princípios da transparência e da explicabilidade serão deveras relevantes, constando expressamente no marco regulatório mais relevante sobre a utilização de sistemas de Inteligência Artificial no Poder Judiciário, a Resolução nº 615 do Conselho Nacional de Justiça.
No art. 1º, a referida Resolução estabelece como objetivo a promoção de inovação tecnológica de modo seguro, transparente, insonomico e ético. Em prosseguimento, no § 2º do art. 1º, a Resolução afasta a necessidade de acesso irrestrito ao código-fonte, com a exigência de sejam adotados mecanismos de transparência e controle sobre o uso de dados e das decisões automatizadas. Nesse ponto, impende destacar que, embora o segredo comercial merece proteção, ele não pode ser uma “carta branca” contra a regulamentação (Korkmaz, 2023), merecendo mitigação em favor do usuário (Citron; Pasquale, 2014). Ainda nesse sentido, conforme art. 2º 3º da referida Resolução, o desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de soluções de IA pelo Poder Judiciário tem como fundamento e princípio, dentre outros, a transparência.
Exigir tranparência é exigir que o processo seja desenvolvido de forma democrática, permitindo-se que os jurisdicionados tenha acesso aos mecanismos que são utilizados para auxiliar no julgamento das suas demandas, justamente por isso o CNJ estabelece a necessidade de publicação de relatórios que detalhem o funcionamento dos sistemas, suas finalidades, dados utilizados e mecanismos de supervisão, conforme art. 12, I, da Resolução nº 615 do CNJ.
Assim como a transparência, a explicabilidade também é considerada um princípio para o desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de soluções de IA pelos tribunais, conforme art. 3º, II, da Resolução nº 615 do CNJ. De acordo com o art. 4º, XVIII, a explicabilidade é a compreensão clara, sempre que tecnicamente possível, de como as “decisões” são tomadas pela IA.
Ademais, conforme o art. 13, VII, antes e ser colocada em produção, a solução que utilize modelos de inteligência artificial de alto risco deverá adotar medidas para tornar viável a explicabilidade, sempre que tecnicamente possível, dos resultados dos sistemas artificialmente inteligentes, inclusive utilizando-se de linguagem simples e acessível, permitindo a interpretação dos resultados e do seu funcionamento, com observância dos direitos autorais, da propriedade intelectual e dos sigilos comercial e industrial.
A Resolução ainda assevera que, constatada a baixa transparência ou explicabilidade de uma solução de Inteligência Artificial, medidas corretivas deverão ser adotadas sempre que tecnicamente possível, incluindo eventual descontinuidade da solução, caso as correções não sejam viáveis. Nota-se, portanto, a preocupação do CNJ com o delineamento de padrões de funcionamento dos sitemas de Inteligência Artificial à disposição do Poder Judiciário, embora cada tribunal possua certa liberdade para criar e implementar seus próprios sistemas de Inteligência Artificial.
A incorporação de mecanismos dotados de Inteligência Artificial no Poder Judiciário criou um cenário novo para a Ciência do Direito, que agora precisará olhar cada vez mais para outros ramos do conhecimento a fim de assegurar que o processo judicial continue permitindo o acesso democrático de todos os cidadãos. Nesse sentido, o papel da Resolução nº 615 do CNJ é efetivar os princípios da transparência e da explicabilidade, de modo que os novos sistemas a serem criados e desenvolvidos pelo Poder Judicário favoreçam a participação democrática dos jurisdicionados.
O que se busca, então, com a instituição desses princípios, é que os cidadão possam saber se a sua demanda foi analisada por um sistema de Inteligência Artificial, como aquele sistema funciona, qual sua base de dados, porque ele escolheu aquelas respostas ao caso submetido, enfim, informações que assegurem a possibilidade do exercício do contraditório, vencendo a opacidade e o viés de automação, para que a supervisão humana não seja apenas uma previsão vazia, mas a concretização da participação democrática.
REFERÊNCIAS BIBLIOGRÁFICAS
AFTALIÓN, Enrique R.; VILANOVA, José; RAFFO, Julio. Introducción al derecho. Buenos Aires: Abeledo-Perrot, 2004.
CITRON, Danielle Keats; PASQUALE, Frank. The Scored Society: Due Process for Automated Predictions. Washington. Law. Review, v. 89, n. 1, p. 1-33, 2014.
CITRON, Danielle Keats. Technological Due Process. Washington University Law Review, vol. 85, n. 1249, 2008.
KORKMAZ, Maria Regina Rigolon. Decisões Automatizadas: explicação, revisão e proteção na era da inteligência artificial. São Paulo: Thomson Reuters Brasil, 2023.
MORATO, Otávio; NUNES, Dierle. Inteligência Artificial: O Desafio da Explicabilidade. São Paulo: Editora JusPodivm, 2025.
VALE, Luís Manoel Borges do; PEREIRA, João Sérgio dos Santos Soares. Teoria geral do processo tecnológico. São Paulo: Thomson Reuters Brasil, 2023.
