A regulamentação prevê mecanismos para monitorar e fiscalizar o uso da tecnologia, garantindo segurança jurídica e o cumprimento da Lei Geral de Proteção de Dados (LGPD), especialmente no que diz respeito à privacidade. Além disso, a norma determina que a IA no Judiciário deve obrigatoriamente contar com supervisão humana, funcionando apenas como um complemento ao trabalho dos magistrados e servidores.
A inteligência artificial poderá ser usada no Judiciário para auxiliar magistrados na formulação de perguntas em audiências, detectar contradições em depoimentos, classificar processos semelhantes, organizar argumentos das partes e alertar juízes sobre decisões que possam contrariar precedentes.
A norma exige que os modelos adotados respeitem direitos fundamentais, permitam monitoramento contínuo, garantam segurança jurídica e cumpram as regras de privacidade da Lei Geral de Proteção de Dados. Além disso, os sistemas não podem impedir a revisão humana, fazer juízos de valor sobre a personalidade ou prever a reincidência criminal de indivíduos, nem classificar pessoas com base em comportamento ou situação social para influenciar decisões judiciais.
A resolução também cria o Comitê Nacional de Inteligência Artificial, responsável por monitorar e atualizar as diretrizes para o uso da tecnologia no setor.
Segundo o presidente do CNJ e do Supremo Tribunal Federal (STF), ministro Luís Roberto Barroso, o texto aprovado permite atualizações e ajustes até o início da vigência, que ocorrerá 120 dias após a aprovação. Barroso ressaltou que a regulamentação da IA representa um desafio, pela rapidez com que a tecnologia muda.
O CNJ vem discutindo o tema desde 2023, quando foi instituído o Grupo de Trabalho sobre Inteligência Artificial no Poder Judiciário, coordenado pelo conselheiro Luiz Fernando Bandeira de Mello Filho. O grupo teve como objetivo realizar estudos e debates para propor uma regulamentação voltada ao uso de sistemas de IA generativa, capazes de produzir conteúdos com base em grandes modelos de linguagem no âmbito da Justiça.
Na época, Barroso demonstrou preocupação com os riscos associados à IA, especialmente em relação à privacidade, proteção de dados pessoais, vieses discriminatórios e possíveis parcialidades no uso da tecnologia.
(Com Agência Estado)
Clique aqui e faça parte no nosso grupo para receber as últimas do HiperNoticias.
Clique aqui e faça parte do nosso grupo no Telegram.
Siga-nos no TWITTER ; INSTAGRAM e FACEBOOK e acompanhe as notícias em primeira mão.
