A incorporação de sistemas de Inteligência Artificial nos Tribunais reclama atenção para um “novo” direito: o direito à explicação, que consiste, em breves linhas, na exigência de que os jurisdicionados possam compreender como e porque aquela decisão foi tomada (Morato; Nunes, 2025). Para isso, aos próprios Tribunais, como gestores dos sistemas artificialmente inteligentes que utiliza, cabe assegurar que esses sistemas forneçam explicações suficientes para os jurisdicionados.
Diante desse conceito, o direito à explicação compreende-se como uma consequência do princípio da motivação das decisões judiciais, que exsurge do princípio máximo do devido processo legal. Insculpido, à nível constitucional, pelo art. 93, IX, da Constituição Federal, o princípio da motivação das decisões judiciais é uma forma de impedir arbitrariedades e assegurar que as partes possam se insurgir contra os fundamentos que justificaram uma decisão injusta.
Nesse sentido, a motivação das decisões judiciais tem duas funções. A primeira é a função endoprocessual, por meio da qual as partes conhecem as razões de decidir do julgador e podem exercer um controle interno, por intermédio dos recursos. Na função extraprocessual, a fundamentação é escrutinada pela via da democracia participativa, ficando sujeita ao controle externo (Pinto, 2024).
Antes do advento dos sistemas de Inteligência Artificial, a exigência de motivação das decisões judiciais era direcionada ao magistrado, a fim de que o processo argumentativo que o levou a tomar determinada decisão fosse exposto e, assim, seus fundamentos pudessem ser impugnados. No entanto, no atual cenário tecnológico em que estão inseridos os processos judiciais a exigência da motivação deve ser destinada sobretudo aos sistemas de Inteligência Artificial, que muitas vezes podem ser completamente opacos.
De acordo com Morato e Nunes (2025, p. 105-106), um modelo de Inteligência Artificial pode ser considerado opaco quando “não é possível visualizar, com clareza, como e porque ele toma determinada decisão”. A opacidade pode se manifestar como estratégia corporativa ou segredo de estado, como analfabetismo técnico ou decorrer da alta complexidade dos algoritmos, conforme preceitua Jenna Burrel (2025).
A estratégia corporativa ou segredo de estado tem como objetivo a proteção de interesses econômicos, estratégicos ou de segurança, de empresas ou países. Essa forma de opacidade é proposital e serve para proteger as vantagens competitivas daqueles que se aproveitam do sistema. O analfabetismo técnico é dificuldade que os usuários teriam de compreender o funcionamento do sistema. Nesse caso, embora exista algum grau primário de transparência, ele é apenas formal, pois os usuários ainda são despreparados. No terceiro caso, embora o código do sistema seja aberto ou os usuários sejam treinados, dificilmente poderá existir uma verdadeira transparência ou explicabilidade, pois os sistemas são treinados com gigantescos volumes de dados, em várias camadas e por muitos programadores, de modo que nem mesmo eles conhecem todo o sistema e seu funcionamento integral (Burrel, 2025).
Um Tribunal não pode ter como estratégia a falta de transparência dos sistemas de Inteligência Artificial, pelo menos não daqueles que sejam utilizados para fins de auxílio à decisão judicial. Do mesmo modo, ao integrar esse tipo de tecnologia é indispensável que os servidores sejam devidamente instruídos e “alfabetizados” para compreenderem o funcionamento do sistema (como e porque). É desafiador, no entanto, superar a opacidade de sistemas de alta complexidade, uma vez que são treinados com quantidades de dados impossíveis de serem conferidos previamente por humanos, ou mesmo validados em uma supervisão posterior (Burrel, 2025).
Por isso, faz-se necessário classificar os sistemas de Inteligência Artificial de acordo com os riscos oferecidos e, a partir daí, buscar o máximo de explicação possível. Morato e Nunes apresentam classificação que se divida em sistemas de baixo risco, alto risco e risco excessivo. No primeiro caso, o sistema apresenta impacto que é limitado e reversível, ainda que aconteça uma falha. No segundo caso, o sistema pode impactar direitos fundamentais, como no caso de ser utilizado para fins decisórios envolvendo acesso ao crédito, saúde, segurança, políticas públicas e etc. No terceiro caso, os sistemas seriam capazes de eliminar a revisão humana, fazer julgamentos morais ou realizar a previsão de condutas, o que geraria grandes chances de vulneração de direitos fundamentais (Burrel, 2025).
A Resolução nº 615, de 11 de março de 2025, do Conselho Nacional de Justiça, possui capítulo próprio acerca da categorização dos riscos dos sistemas de Inteligência Artificial. De acordo com a referida Resolução (art. 9º), os tribunais têm o dever de avaliar as soluções que utilizem IA, com o objetivo de estabelecer o grau de risco. Os fatores a serem avaliados são potenciais impactos nos direitos fundamentais, complexidade do modelo, sustentabilidade financeira, os usos da solução e a quantidade de dados sensíveis que serão utilizados.
Em sequência, o art. 10 da supracitada Resolução prevê que o Poder Judiciário não pode desenvolver e utilizar soluções:
I – que não possibilitem a revisão humana dos resultados propostos ao longo de seu ciclo de treinamento, desenvolvimento e uso, ou que gerem dependência absoluta do usuário em relação ao resultado proposto, sem possibilidade de alteração ou revisão;
II – que valorem traços da personalidade, características ou comportamentos de pessoas naturais ou de grupos de pessoas naturais, para fins de avaliar ou prever o cometimento de crimes ou a probabilidade de reiteração delitiva na fundamentação de decisões judiciais, bem como para fins preditivos ou estatísticos com o propósito de fundamentar decisões em matéria trabalhista a partir da formulação de perfis pessoais;
III – que classifiquem ou ranqueiem pessoas naturais, com base no seu comportamento ou situação social ou ainda em atributos da sua personalidade, para a avaliação da plausibilidade de seus direitos, méritos judiciais ou testemunhos; e
IV – a identificação e a autenticação de padrões biométricos para o reconhecimento de emoções.
Ademais, conforme § 1º do art. 10, cabe aos tribunais implementar mecanismos de monitoramento capazes de assegurar o cumprimento das vedações, bem como monitorar o desenvolvimento das soluções que utilizem Inteligência Artificial. No caso de alguma solução (em desenvolvimento ou já em aplicação) se enquadrar nas vedações anteriormente indicadas, ela deverá ser descontinuada, conforme § 2º do art. 10. Nesse ponto, é de se destacar a relevância do trabalho de fiscalização interno dos tribunais, que tem um verdadeiro dever de autogestão para impedir que sistemas vedados sejam inseridos na tramitação de um processo judicial.
De acordo com o art. 11, os sistemas artificialmente inteligentes poderão ser considerados de alto ou baixo risco, conforme Anexo de Classificação de Riscos. Nesse sentido, é considerado de baixo risco a:
detecção de padrões decisórios ou de desvios de padrões decisórios, bem como detecção de precedentes qualificados pertinentes, observado o caráter complementar da técnica de inteligência artificial, desde que não haja substituição da avaliação humana sobre processos, sendo seu uso destinado para apoio interno ao tribunal e para uniformização da jurisprudência;
É especificamente em atividades desse tipo que o Direito à Explicação se torna relevante. Definir um padrão decisório e, mais ainda, detectar o desvio desse padrão exige uma atividade cognitiva que não se resume a correlacionar grandes bases de dados, mas, na verdade, exige uma análise profunda, inclusive para que o julgador identifique se seria o caso de distinguishing ou overruling.
Há ainda outra problemática nos sistemas de Inteligência Artificial que detectam padrões e desvios de padrões. Eles existem para que muitos processos sejam julgados ao mesmo tempo, aplicando-se a mesma decisão paradigmática a todos eles. Ora, um simples erro da máquina e o impacto seria profundo. Pode-se levantar o argumento sempre citado da “supervisão humana”, mas ela muitas vezes é apenas formal, ou seja, não há, de fato, uma revisão do ato praticado pela IA, até porque se o julgador humano fosse revisar cada ato o sistema perderia o sentido: o objetivo dele é otimizar o tempo, e isso nada tem a ver com revisar grandes quantidades de processos.
Nesse contexto, para além das “razões humanas” expostas na decisão, que se situam no âmbito do princípio da motivação das decisões judiciais, com função endoprocessual e extraprocessual, as “razões algorítmicas” também são indispensáveis, e se situam no âmbito do direito à explicação. Em outras palavras, os motivos que conduziram o sistema de Inteligência Artificial a determinado resultado também devem ser expostos.
Assim, quando um sistema de IA identifique um padrão decisório, por exemplo, a sua indicação de padrão deve explicar como e porque aquela escolha foi realizada. Quando ele indicar um desvio de padrão decisório, também deve ser explicado como e porque esse resultado foi obtido. Dessa forma, eventuais erros ou inconsistências poderão ser submetidas ao escrutínio público, inclusive com a possibilidade de impugnação pelas partes envolvidas no processo.
REFERÊNCIAS BIBLIOGRÁFICAS
BURRELL, Jenna, How the Machine ‘Thinks:’ Understanding Opacity in Machine Learning Algorithms (September 15, 2015). Disponível em: https://ssrn.com/abstract=2660674 or http://dx.doi.org/10.2139/ssrn.2660674. Acesso em: 20 dez. 2025.
MORATO, Otávio; NUNES, Dierle. Inteligência Artificial: O Desafio da Explicabilidade. São Paulo: Editora JusPodivm, 2025.
PINTO, Henrique Alves. A tripla fundamentação das decisões jurisdicionais pautadas em Inteligência Artificial: o redimensionamento da fundamentação pela explicabilidade algorítmica. 2. ed., rev., atual. e ampl. São Paulo: Editora Juspodivm, 2024.
