Defensores citaram sentenças de processos inexistentes em petições ajuizadas no TJMS
Na era em que a tecnologia generativa é usada frequentemente para golpes, o Poder Judiciário também se torna alvo e a atenção de juízes e desembargadores precisa ser redobrada para que decisões preliminares e sentenças não sejam induzidas por peças fraudulentas peticionadas ou pelo chamado “prompt injection”, situação em que ocorre a inclusão de comando escondido dentro da documentação que vai ser apreciada em juízo.
O Tribunal de Justiça de Mato Grosso do Sul identificou casos de advogados que usaram inteligência artificial para fabricar jurisprudências inexistentes em petições, citando decisões falsas atribuídas ao STJ e outros tribunais. Magistrados recusaram as ações e alertaram para litigância de má-fé, enquanto especialistas advertem sobre o risco do “prompt injection”, técnica que pode induzir decisões judiciais equivocadas. A OAB/MS afirmou que adotará medidas disciplinares caso receba denúncias formais.
Desde o ano passado, o Tribunal de Justiça de Mato Grosso do Sul se deparou com pedidos e manifestações de advogados em diversas ações que usaram como exemplo, para defender teses, sentenças de processos que nunca existiram. Em um dos casos, o juiz detalhou que “a utilização deliberada de jurisprudência inexistente configura litigância de má-fé, (…). A prática de manipulação de precedentes enseja comunicação à OAB para apuração de infração ético disciplinar”.
A ação era referente ao Imposto de Transmissão Causa Mortis e o advogado dos autores usou, para tentar convencer o juiz, a citação de decisões supostamente do Superior Tribunal de Justiça, do Tribunal de Justiça de São Paulo e do próprio Tribunal de Justiça de Mato Grosso do Sul. Ao analisá-las, a fiscalização descobriu que as decisões eram inventadas e que os números dos processos citados não existiam ou tratavam de assuntos diferentes.
Diante disso, o magistrado da 1ª Vara de Bonito recusou a ação alegando não ter como “conferir validade à argumentação criada pela IA sem supervisão humana e, sobretudo, sem nenhum respaldo na realidade jurídica”.
Em outro processo, um procurador municipal de Mato Grosso do Sul entrou com recurso contra a decisão de primeiro grau que havia condenado a prefeitura à obrigação de revisar seu Plano Diretor. No embargo, o defensor municipal usou o sistema automatizado para tentar convencer o desembargador José Eduardo Neder Meneghelli a reformar a sentença.
Identificada a situação, Meneghelli destacou no acórdão que a peça trazia “julgado inexistente atribuído a magistrado que nunca integrou o TJMS, configurando tentativa de induzir o juízo a erro por meio da utilização de conteúdo fictício, aparentemente gerado por inteligência artificial”.
Direito Digital – O presidente da Comissão de Direito Digital e Inteligência Artificial da OAB/MS, Raphael Chaia, comentou que o uso de ferramentas tecnológicas de forma a fraudar processos deve ser comum. Ele afirma que há possibilidade de uma sentença judicial ser definida de forma errônea se a análise for feita por tecnologia generativa em caso de prompt injection.
“Se o juiz ou analistas e assessores usarem IA em 100% do processo, a IA vai ler o comando e atender o comando que está lá. Isso pode levar a um desfecho equivocado porque a estrutura da sentença, ou rascunho ou outro despacho vai ser conforme a programação do prompt”, afirma.
Ele analisa que, se houver magistrados que se fiem na inteligência artificial, isso pode criar um ponto de vulnerabilidade na análise dos processos e decisões. Chaia destaca, entretanto, que caso haja esse tipo de atuação no Judiciário, ocorre em escala reduzida.
Em relação aos advogados, o presidente da comissão avalia que eles apostam que o sistema judicial não vai identificar a fraude.
“Se as etapas do processo são encaminhadas 100% por IA, o advogado ganha a causa, consegue a sentença que ele quer. Mas se a fraude é identificada, o advogado pode responder em ação ético-disciplinar da OAB, ter o registro suspenso ou cassado”.
Até o momento, segundo Chaia, a Ordem não recebeu denúncia de inserção de comandos em petições para analisar, e o secretário de ética da categoria, Luiz Renê, sustentou que a instituição vai atuar sempre que comunicada oficialmente. Em nota oficial, a OAB/MS afirmou que, se receber denúncias dessa vertente, a entidade “adotará as medidas éticas disciplinares correspondentes, sempre respeitando o direito à ampla defesa e ao contraditório”.
