Artigo de Rodrigo Badaró e Matheus Puppe aponta risco de manipulação da IA no Judiciário por meio de “prompt injection
Em artigo publicado nesta quinta-feira (25/9) pelo jornal Correio Braziliense, o conselheiro do Conselho Nacional de Justiça (CNJ), Rodrigo Badaró — representante da advocacia no órgão —, e Matheus Puppe, advogado mestre e doutorando pela Universidade de Frankfurt e Data Protection Officer (DPO) do Conselho Federal da OAB, falam sobre os riscos do uso malicioso da inteligência artificial no sistema de Justiça.
Os autores alertam para a técnica conhecida como “prompt injection”, que pode manipular o funcionamento de sistemas de IA usados em atividades como triagem de petições e auxílio à redação de minutas judiciais.
"Prompt injection é a inserção de instruções ocultas em petições, anexos, metadados ou links para manipular o comportamento de uma IA. Comandos embutidos em texto invisível, comentários HTML, caracteres de 'largura zero' ou campos de 'Title/Keywords' de arquivos podem induzir o sistema a priorizar teses, suprimir contrarrazões, rotular falsamente urgência ou sugerir minutas enviesadas”, explicam.
O texto destaca, ainda, os possíveis impactos institucionais e éticos decorrentes da manipulação da IA, com implicações para a imparcialidade e a segurança jurídica no processo.
"Para magistrados, o risco é institucional. Sistemas de triagem e auxílio à minuta, se expostos a dados maliciosos, podem aumentar falsos positivos de urgência, classificar incorretamente temas repetitivos e gerar rascunhos tecnicamente coesos, porém processualmente viciados", observam Badaró e Puppe.