A Suprema Corte do Novo México, nos Estados Unidos, multou o advogado de defesa Stephen Aarons em US$ 5 mil após concluir que ele apresentou, em um recurso de homicídio, um documento com depoimentos policiais e de testemunhas inventados pelo ChatGPT. A decisão foi tomada em 10 de setembro.
O recurso envolve Oscar Renee Sandoval, condenado à prisão perpétua no ano passado pela morte da mãe de seus filhos. Além da multa por desacato, os juízes decidiram encaminhar Aarons a um conselho disciplinar da advocacia para investigação.
Tribunal identifica relatos fictícios
Segundo a Suprema Corte estadual, a petição entregue por Aarons trazia depoimentos falsos de testemunhas que não existiam. O documento fazia parte da apelação apresentada contra a condenação de Sandoval.
O tribunal também apontou que o material parecia incluir uma versão fabricada sobre as roupas usadas pelo atirador. Entre os trechos questionados, havia a afirmação de que ele vestia calça escura e camisa branca.
Para os magistrados, Aarons não verificou a precisão do conteúdo antes de levá-lo ao processo. A corte o considerou em desacato e avaliou que o advogado demonstrou pouco arrependimento e preocupação insuficiente com o cliente.
Advogado atribui erro ao ChatGPT
Em declaração à Reuters, Aarons disse que utilizou o ChatGPT para resumir os procedimentos do julgamento ao aceitar a apelação, no ano passado. Ele afirmou que não compreendia a dimensão da capacidade da ferramenta de produzir informações falsas.
Advogados, vocês assistem aos noticiários? Ouvem rádio? Leem alguma coisa sobre o que está acontecendo no mundo?”
C. Shannon Bacon, juíza da Suprema Corte do Novo México
Na audiência de 21 de agosto, o advogado relatou ter fornecido ao sistema uma transcrição gerada por computador e outros documentos do caso. Segundo ele, esperava receber um resumo confiável para trabalhar no recurso.
Aarons reconheceu o erro e disse esperar que a análise disciplinar considere as circunstâncias do episódio. A OpenAI, empresa responsável pelo ChatGPT, não respondeu imediatamente ao pedido de comentário feito pela Reuters.
Recurso passa a nova defensora
Mesmo com a punição ao advogado, o recurso de Sandoval continua pendente. O réu havia se declarado inocente antes de ser condenado pelo homicídio e receber pena de prisão perpétua.
Em 2 de setembro, o caso foi atribuído a Kim Chavez Cook, defensora pública do Novo México. Ela recusou-se a comentar o processo.
O gabinete do procurador distrital do Condado de Doña Ana também não comentou o caso. Assim, a discussão sobre a condenação segue separada da apuração sobre a conduta profissional de Aarons.
Casos de IA avançam na Justiça
A sanção no Novo México se soma a outros casos em que tribunais estaduais e federais dos Estados Unidos disciplinaram advogados pelo uso de textos produzidos por inteligência artificial sem checagem adequada.
Em episódios anteriores, ferramentas de IA já foram associadas à inclusão de precedentes judiciais inexistentes ou a citações incorretas de leis em petições. No caso de Aarons, porém, o problema alcançou relatos de testemunhas no contexto de um recurso criminal.
Durante a audiência, a juíza C. Shannon Bacon questionou por que o advogado não conhecia os riscos ligados às chamadas alucinações de inteligência artificial. A manifestação evidenciou a preocupação do tribunal com a responsabilidade de profissionais que usam esses sistemas em processos judiciais.
