Publicada em 09/12/2025 às 17h01
O Comitê de Governança em Inteligência Artificial (CGIA) do Tribunal de Justiça de Rondônia publicou no Diário da Justiça, no último dia 19, a Nota Técnica nº 2/2025-CGIA/TJRO, que trata de um dos temas mais sensíveis na incorporação de ferramentas de inteligência artificial ao sistema de justiça: a manipulação maliciosa de comandos em documentos processuais, conhecida como prompt injection.
Reconhecidas na literatura especializada como risco relevante para sistemas judiciais automatizados, as vulnerabilidades de prompt injection dizem respeito a técnicas que inserem comandos ocultos em documentos processuais para manipular sistemas de IA utilizados na análise e classificação de peças judiciais.
O documento, assinado pelo presidente do CGIA, desembargador Alexandre Miguel, detalha como essa vulnerabilidade pode comprometer a integridade das soluções tecnológicas utilizadas pelo Judiciário, sobretudo aquelas responsáveis por tarefas de análise, classificação e sumarização de peças.
Uso de IA no Judiciário
A nota técnica parte de diretrizes estabelecidas pelo Conselho Nacional de Justiça (CNJ) e pela Política de Inteligência Artificial do TJRO para explicar que o prompt injection consiste na introdução proposital de instruções ocultas em documentos, com a finalidade de induzir sistemas de IA a produzir resultados distorcidos. As técnicas vão desde textos invisíveis (como fonte branca sobre fundo branco) até comandos escondidos em metadados ou camadas internas de arquivos.
Entre os riscos apontados estão falhas de segurança, comprometimento de bases de dados e abalo à confiança nos sistemas digitais do Judiciário. Como resposta, o Tribunal estabelece medidas como: registro detalhado de logs de interações com sistemas de IA; conversão de documentos para texto plano, reduzindo a superfície de ataque; testes de vulnerabilidade na homologação de sistemas; revisão humana obrigatória dos resultados produzidos por IA; e possibilidade de perícia técnica em documentos suspeitos, além de responsabilização administrativa e processual.
A nota recomenda ampla divulgação do tema, capacitação contínua de magistrados e servidores e reforço dos mecanismos de auditoria pela área de tecnologia. Conforme o Comitê de Governança, proteger a integridade dos sistemas de IA é essencial para garantir segurança, transparência e confiança no processo judicial.
Comentários
Seja o primeiro a comentar!