O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) a abertura de uma investigação formal para apurar o uso indevido de comandos de inteligência artificial (prompts) com o objetivo de fraudar processos no seu sistema eletrônico de petições. A medida visa coibir práticas que buscam burlar os mecanismos de segurança da plataforma.
Por determinação do presidente do STJ, ministro Herman Benjamin, foram instaurados um inquérito policial e um procedimento administrativo interno. O objetivo é investigar as tentativas de fraude, que supostamente teriam sido orquestradas por advogados e escritórios de advocacia.
Essa iniciativa surge após técnicos do tribunal detectarem a inserção de petições contendo "prompt injection". Trata-se de uma técnica maliciosa empregada para manipular modelos de inteligência artificial, visando favorecer indevidamente uma das partes durante a tramitação eletrônica dos processos.
Esses comandos ocultos, habilmente camuflados nas petições, têm como propósito forçar o sistema de IA a desconsiderar os filtros de seleção predefinidos. Tal artifício permitiria, por exemplo, a admissão de documentos que não atendem aos requisitos básicos de admissibilidade legal.
O STJ, contudo, assegura que seu sistema já possui mecanismos de segurança e "travas" específicas contra o uso de prompts indevidos. Essas barreiras tecnológicas impedem que as ordens fraudulentas sejam efetivamente executadas pela plataforma de recebimento de petições, garantindo a integridade do processo judicial eletrônico.
Vale Europeu Notícias 
Comentários: