STJ Inicia Investigação sobre Uso de Inteligência Artificial em Fraudes Judiciais
Na última quarta-feira, 20 de setembro, o Superior Tribunal de Justiça (STJ) anunciou a abertura de uma investigação para examinar possíveis fraudes envolvendo o uso de inteligência artificial no sistema de petições eletrônicas do tribunal.
Motivos para a Investigação
A decisão foi tomada pelo presidente do STJ, Herman Benjamin, após a identificação de tentativas de manipulação do sistema por meio de um mecanismo conhecido como 'prompt injection'. Essa técnica permite que comandos ocultos sejam inseridos nas petições, com o objetivo de contornar filtros que garantem a admissibilidade dos documentos.
Procedimentos Adotados
Para conduzir essa investigação, foram instaurados um inquérito policial e um procedimento administrativo interno. As medidas visam não apenas descobrir a extensão das fraudes, mas também responsabilizar advogados e escritórios de advocacia que possam estar envolvidos nesse tipo de prática.
Proteções Existentes no Sistema
O STJ informou que seu sistema já possui mecanismos de proteção contra o uso indevido de prompts. Essas barreiras têm a função de impedir que ordens fraudulentas sejam processadas pela plataforma, garantindo que apenas documentos que atendam aos requisitos legais sejam aceitos.
Implicações para o Sistema Judiciário
A descoberta dessas tentativas de fraude suscita preocupações significativas sobre a integridade do sistema judicial. O uso de inteligência artificial, embora traga benefícios em eficiência e agilidade, também exige vigilância constante para evitar que seja utilizada de maneira mal-intencionada.
Conclusão
A investigação aberta pelo STJ é um passo importante para a preservação da confiança no sistema judiciário. À medida que a tecnologia avança, é crucial que instituições como o STJ se adaptem e implementem medidas robustas para evitar fraudes e assegurar que a justiça seja administrada de forma equitativa e transparente.
