O Superior Tribunal de Justiça (STJ) anunciou nesta quarta-feira (20) a abertura de uma investigação para examinar o uso de prompts de inteligência artificial com o objetivo de contornar o sistema eletrônico de petições do tribunal.
Por determinação do presidente do STJ, Herman Benjamin, foi instaurado um inquérito policial e um procedimento administrativo interno para investigar possíveis tentativas de fraudes que teriam sido realizadas por advogados e escritórios de advocacia.
A decisão surgiu após técnicos do tribunal detectarem o uso de “prompt injection”, uma técnica utilizada para manipular modelos de IA e beneficiar partes em processos eletrônicos.
Esses comandos ocultos são introduzidos nas petições com a intenção de forçar o sistema de IA a desconsiderar filtros que barram a aceitação de documentos que não atendem aos requisitos fundamentais de admissibilidade.
O STJ informou que seu sistema já possui mecanismos de proteção contra a inserção de prompts, impedindo que tais comandos sejam executados pela plataforma que processa as petições.
Fonte: Agência Brasil
- Moraes cancela a utilização de tornozeleira eletrônica para ex-prefeito de Belford Roxo
- Justiça condena traficantes pela morte da cantora Aline Borel
- Bolsonaro solicita anulação da proibição de visitas na prisão domiciliar
- Ministro do STJ é alvo de investigação por suposta venda de sentenças
- Juíza interrompe perícia em celular encontrado na cela de Jairinho
