STJ abre inquérito após identificar petições com código secreto para fraudar decisões

O Superior Tribunal de Justiça (STJ) determinou a abertura de um inquérito e de um procedimento administrativo após identificar petições com prompt injection, também conhecido como injeção de comando, em seu acervo de processos.

Segundo especialistas, o prompt injection é utilizado para inserir comandos ocultos em documentos comuns com o objetivo de enganar modelos de inteligência artificial (IA).

+ Dino dá 48 horas para Câmara explicar situação de Mário Frias no exterior

+ Carla Zambelli: Moraes determina providências para extradição de ex-deputada

De acordo com o presidente do STJ, ministro Herman Benjamin, o sistema de inteligência artificial da corte conseguiu neutralizar as tentativas.

Apesar de ter bloqueado as ações, o STJ determinou que todas as tentativas de uso de prompt injection sejam registradas nos autos. A medida permitirá que ministros e ministras da corte possam aplicar sanções processuais aos envolvidos nos casos identificados.

“O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos”, afirma Benjamin.