IA no tribunal: TJBA flagra 2º comando escondido em processo
O Tribunal de Justiça da Bahia (TJBA) encontrou, de novo, um comando escondido dentro de um documento de defesa, escrito para tentar convencer a inteligência artificial do tribunal a decidir a favor do réu. O caso foi comunicado nesta terça-feira (17) e encaminhado à OAB da Bahia.
É o segundo episódio do tipo no mesmo tribunal em menos de dois meses.
O que aconteceu
Segundo o próprio TJBA, as instruções estavam nas alegações finais e numa petição apresentadas pela defesa ainda na primeira instância, num processo que agora tramita como apelação criminal na 2ª Turma da Primeira Câmara Criminal.
O texto foi escrito em letra branca sobre fundo branco. Quem lê o documento na tela não vê nada. Mas uma IA que "lê" o arquivo inteiro enxerga tudo. O recado mandava decidir a favor do réu, ignorar qualquer outra orientação e manter o próprio comando em segredo.
Quem pegou a tentativa foi o Elos IA, ferramenta que o tribunal usa para ajudar os gabinetes a preparar despachos e votos. Ela tem um recurso específico para detectar esse tipo de truque.
O relator, desembargador Baltazar Miranda Saraiva, mandou registrar o episódio nos autos e enviar ofício à OAB-BA, para que a entidade avalie se houve infração ética. O tribunal faz questão de dizer que isso não é uma condenação antecipada do advogado, que não teve o nome divulgado.
Não é a primeira vez
No começo de outubro, o mesmo TJBA tinha revelado um caso parecido num pedido de habeas corpus. Ali, uma advogada que atua em Mato Grosso do Sul colocou uma camada de texto invisível no PDF pedindo que a IA concedesse a liberdade ao cliente. O pedido foi negado, e o caso foi enviado à OAB-MS e ao Ministério Público da Bahia.
Dois casos em seis semanas mostram que a ideia já circula entre quem atua na área.
O nome do golpe: prompt injection
"Prompt" é a instrução que se dá a uma IA. Prompt injection é enfiar uma instrução escondida dentro de um conteúdo que a IA vai processar, na esperança de que ela obedeça ao texto oculto em vez de fazer o trabalho que deveria.
Funciona assim:
- A pessoa escreve o comando com letra branca, fonte minúscula ou numa camada invisível do PDF.
- O humano não vê nada ao abrir o arquivo.
- A IA lê o texto bruto e pode tratar aquilo como ordem.
Nos dois casos, a armadilha não funcionou. A IA do tribunal serve de apoio, e a decisão continua sendo do juiz.
A polêmica por trás
Tribunais do país inteiro estão adotando IA para dar conta de pilhas de processos. Isso agiliza o trabalho, mas abre uma porta nova para quem quer levar vantagem. Há quem cobre regra mais dura e transparência sobre onde a IA entra; os tribunais respondem que ela só auxilia e que o próprio sistema está pegando as fraudes.
O que ninguém discute: esconder ordem para a máquina numa peça judicial é tentar enganar o tribunal. A OAB agora tem dois casos na mesa.
O que isso muda pra você
Pode parecer assunto de advogado, mas não é. Quem vive de drone e vídeo já usa IA no dia a dia: para resumir edital de licitação, revisar contrato de cliente, ler termo de referência de prefeitura ou montar proposta.
O mesmo truque vale contra você:
- Contrato ou edital que chega em PDF pode ter texto escondido tentando fazer a sua IA dizer que "está tudo certo".
- Antes de confiar no resumo, selecione todo o texto do arquivo (Ctrl+A / Cmd+A) e cole num bloco de notas. Texto branco aparece na hora.
- Use a IA como ajudante, não como quem assina embaixo. A leitura final da cláusula de multa e de prazo é sua.
- Do outro lado do balcão: nunca coloque texto oculto em proposta ou relatório que você manda para cliente ou órgão público. Além de antiético, hoje dá para detectar.
A lição do TJBA serve para qualquer profissional: IA acelera, mas quem responde pelo resultado é gente. Se quiser entender por que tantos projetos de IA ainda não entregam o que prometem, vale ler este levantamento do Gartner.
Fontes
- TJBA: TJBA encaminha à OAB-BA caso de possível tentativa de manipulação de inteligência artificial em processo criminal
- Correio: Advogado é flagrado usando comando secreto para tentar manipular decisão do TJBA
- Jornal Grande Bahia: TJBA identifica tentativa de manipulação de IA em pedido de Habeas Corpus e envia caso à OAB-MS e ao MPBA
Precisa de imagem aérea de verdade?
Filmagem com drone, cobertura de evento e edição pra Instagram, em Belo Horizonte e região.
Pedir orçamento no WhatsApp
