STJ abre inquérito após identificar petições com código secreto para fraudar decisões
Corte identifica uso de prompt injection em processos e determina sanções administrativas e criminais aos envolvidos
STJ abre inquérito após identificar petições com código secreto para fraudar decisões
O Superior Tribunal de Justiça (STJ) determinou a abertura de um inquérito e de um procedimento administrativo após identificar petições com prompt injection, também conhecido como injeção de comando, em seu acervo de processos.
Acompanhe o SBT News nas TVs por assinatura Claro (586), Vivo (576), Sky (580) e Oi (175), via streaming pelo +SBT, Site e YouTube, além dos canais nas Smart TVs Samsung e LG.
Siga no Google DiscoverSegundo especialistas, o prompt injection é utilizado para inserir comandos ocultos em documentos comuns com o objetivo de enganar modelos de inteligência artificial (IA).
De acordo com o presidente do STJ, ministro Herman Benjamin, o sistema de inteligência artificial da corte conseguiu neutralizar as tentativas.
Apesar de ter bloqueado as ações, o STJ determinou que todas as tentativas de uso de prompt injection sejam registradas nos autos. A medida permitirá que ministros e ministras da corte possam aplicar sanções processuais aos envolvidos nos casos identificados.
“O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos”, afirma Benjamin.
