Uma advogada foi flagrada tentando manipular ferramentas de inteligência artificial utilizadas pelo Tribunal de Justiça da Bahia durante a análise de um pedido de habeas corpus. O caso envolve um homem acusado de crimes como homicídio qualificado, sequestro, cárcere privado, adulteração de sinal identificador de veículo e organização criminosa armada.
Segundo o Tribunal, comandos ocultos foram inseridos em um documento digital apresentado pela defesa. A intenção seria direcionar a ferramenta de inteligência artificial para que o pedido de habeas corpus fosse deferido, caso o arquivo fosse analisado pelo sistema.
A técnica utilizada é conhecida como prompt injection. Na prática, são inseridas instruções em um documento com o objetivo de interferir no comportamento de uma ferramenta de inteligência artificial.
Durante a análise do processo, a equipe técnica identificou uma camada de texto que não aparecia de forma perceptível na visualização comum do arquivo em PDF. Entre as instruções escondidas, havia uma orientação para que a inteligência artificial concedesse o habeas corpus.
O caso foi relatado pelo desembargador Pedro Guerra. De acordo com a análise realizada no processo, a inserção das instruções teria sido feita de maneira deliberada para tentar interferir nos algoritmos utilizados pelo Judiciário.
Mesmo com a tentativa de manipulação, o pedido de habeas corpus foi negado pela 2ª Turma da Primeira Câmara Criminal. A prisão preventiva do acusado foi mantida, com o entendimento de que a decisão estava baseada em elementos concretos presentes na investigação.
Após a identificação do episódio, o colegiado determinou o encaminhamento do caso à Ordem dos Advogados do Brasil, em Mato Grosso do Sul, para a apuração de possível infração disciplinar. O Ministério Público da Bahia também recebeu uma cópia do documento para avaliar a existência de possíveis ilícitos.
O episódio chama atenção para os desafios relacionados ao uso da inteligência artificial no Poder Judiciário. As ferramentas podem auxiliar na análise de documentos e processos, mas não substituem a atuação dos magistrados, que continuam responsáveis pela avaliação das informações e pelas decisões judiciais.
O Tribunal também trabalha no desenvolvimento de mecanismos de segurança para identificar tentativas de manipulação de sistemas de inteligência artificial, especialmente por meio de documentos apresentados durante processos.