Apostilas em PDF – Inteligência Artificial no Poder Judiciário: respeito aos direitos fundamentais

Se você estuda para fazer o ENAM ou sonha em seguir a carreira da magistratura, precisa entender como a inteligência artificial está transformando o trabalho dos juízes. O novo ato normativo proposto pelo CNJ traz regras importantes, inspiradas nas melhores experiências internacionais, para garantir que essa tecnologia seja usada de forma responsável em nossos tribunais.

Dada a importância do tema, este texto faz parte de uma série de três artigos que abordam as principais mudanças introduzidas pelo novo regulamento. O primeiro artigo tratou da obrigatoriedade da supervisão humana e da classificação dos riscos dos sistemas de IA. Neste, falaremos sobre a relação entre a IA e os direitos fundamentais.

A proposta normativa do Conselho Nacional de Justiça avança com determinação, traçando um caminho seguro para que a inteligência artificial se integre ao sistema judiciário sem comprometer pilares essenciais. Não se trata apenas de inovação tecnológica, mas de uma transformação que deve ocorrer sob vigilância constante, preservando a autonomia magistral, o devido processo legal e a inviolabilidade dos dados pessoais dos cidadãos.

Conforme destaca o professor Dierle Nunes em seu artigo IA generativa no Judiciário brasileiro: realidade e alguns desafios, publicado na ConJur em 10 de março de 2025:

“Os tribunais pátrios estão investindo significativamente na personalização de ferramentas tecnológicas para otimizar suas atividades. Como exemplo, desde fevereiro de 2025, o STJ implementou o projeto Logos, que utiliza o GPT-4o para auxiliar assessores na análise de recursos especiais, HCs etc. A ferramenta oferece um “Painel de Controle” que acessa automaticamente os autos e os organiza em suas principais peças. Com comandos simples (prompts), o modelo pode gerar relatórios sobre o recurso, fornecer resumos das peças processuais e identificar trechos específicos relevantes para o juízo de admissibilidade, destacando-os diretamente nas peças indicadas. (…) Em sentido análogo, a Justiça do Trabalho estruturou o projeto ChatJT, ferramenta de inteligência artificial desenvolvida com base no GEMINI para otimizar consultas, automatizar fluxos de trabalho e auxiliar na tomada de decisões estratégicas. Adaptado às necessidades do Judiciário, o sistema permite acesso facilitado a leis e jurisprudência por meio do Sistema Falcão, entre outros usos.¹”

O debate se intensifica quando confrontamos questões desafiadoras como a opacidade dos algoritmos, que funcionam como verdadeiras caixas-pretas decisórias; os vieses discriminatórios, que podem perpetuar e amplificar injustiças históricas; e a accountability, que exige responsabilização clara por cada decisão automatizada. 

Na análise da resolução, abordaremos a implementação dos sistemas de IA e seus ciclos de vida, bem como a proteção de dados pessoais e o uso da IA no apoio à tomada de decisões. Acompanhem a discussão a seguir:

• Ciclo de vida do modelo de IA

A compatibilidade da inteligência artificial com os direitos fundamentais deve ser analisada em todas as etapas do seu ciclo de vida. Isso significa que, desde a criação e o desenvolvimento até a implantação, o uso diário, as atualizações e até possíveis retreinamentos, é essencial garantir que a tecnologia respeite princípios como dignidade, privacidade e não discriminação.

Além disso, os tribunais têm a responsabilidade de estabelecer mecanismos de auditoria e monitoramento contínuos. Ou seja, a IA não pode ser simplesmente implementada e esquecida; é preciso acompanhá-la de perto para garantir que continue funcionando de forma ética e dentro das normas. Caso sejam identificados problemas ou riscos de violação de direitos, os sistemas deverão passar por ajustes e correções para manter a conformidade com os princípios fundamentais.

• Dados pessoais e segredo de justiça

Para garantir a integridade dos dados e proteger os direitos dos jurisdicionados, a proposta estabelece diretrizes rigorosas para o tratamento de informações sigilosas ou protegidas por segredo de justiça, em conformidade com a Lei Geral de Proteção de Dados (LGPD). 

O objetivo é minimizar riscos de vazamento ou uso indevido de dados sensíveis, preservando a confiança no sistema judicial. Como medida essencial, o texto prevê a anonimização e pseudoanonimização dos dados, reduzindo ou eliminando a possibilidade de identificação direta ou indireta das pessoas envolvidas, reforçando a privacidade e a segurança da informação.

Os dados precisam ser representativos, abrangendo a variedade de situações e contextos do Judiciário, para evitar padrões enviesados e garantir a equidade e imparcialidade nas decisões. Sempre que possível, os dados devem ser anonimizados, especialmente quando envolverem informações protegidas por segredo de justiça, para garantir maior segurança e evitar a identificação indevida de pessoas.

• Das decisões judiciais assistidas por IA

A integração de ferramentas de inteligência artificial no sistema judiciário representa um avanço tecnológico significativo, porém traz consigo uma responsabilidade igualmente importante: a preservação dos princípios fundamentais de justiça. 

As decisões judiciais que utilizam IA devem, prioritariamente, salvaguardar a igualdade entre as partes, evitar qualquer forma de discriminação e valorizar a pluralidade social. Estes sistemas não devem substituir o julgamento humano, mas sim auxiliá-lo, contribuindo para reduzir preconceitos e minimizar erros de julgamento que possam resultar da marginalização de indivíduos ou grupos.

Para garantir que estes princípios sejam respeitados, medidas preventivas devem ser implementadas de forma contínua. Isto inclui a validação regular das soluções de IA, auditorias frequentes e monitoramento constante durante todo o ciclo de vida da aplicação. Relatórios periódicos também são essenciais para avaliar o impacto destas ferramentas na qualidade e imparcialidade das decisões judiciais. 

Esta abordagem rigorosa demonstra que, apesar do entusiasmo pelos avanços tecnológicos, o compromisso com a justiça igualitária prevalece sobre qualquer benefício operacional que uma ferramenta enviesada possa oferecer. Em última análise, a tecnologia deve sempre servir ao propósito maior de uma justiça mais acessível, eficiente e, acima de tudo, justa para todos os cidadãos.

Se um sistema de inteligência artificial apresentar viés discriminatório ou qualquer incompatibilidade com os princípios estabelecidos, é fundamental agir rapidamente para corrigir o problema. Essas correções podem ir desde ajustes técnicos até a suspensão temporária ou, em casos mais graves, a desativação definitiva da ferramenta.

E se o viés identificado não puder ser corrigido? Nesse caso, a decisão mais responsável é descontinuar o sistema completamente. Além disso, é essencial elaborar um relatório detalhado explicando os motivos dessa decisão, garantindo transparência e evitando que erros semelhantes se repitam no futuro. O compromisso deve ser sempre com a justiça, a equidade e a proteção dos direitos fundamentais.

Dessa forma, a norma assegura que a Inteligência Artificial seja utilizada de forma a respeitar os direitos fundamentais. No próximo e último artigo da série, abordaremos outras inovações da Resolução, incluindo o desenvolvimento de soluções corporativas de IA e as diretrizes para o uso de modelos de linguagem de larga escala (LLMs). Fique ligado!

Tiago Carneiro Rabelo – Analista Judiciário do TJDFT, Especialista em Direito Digital e CST em Inteligência Artificial. Professor da OAB/DF, GRAN e Faculdade Republicana.

Rede Social: @prof.tiagorabelo

Notas de rodapé: