A Suprema Corte da Índia suspendeu uma decisão de primeira instância após constatar que a sentença havia se apoiado em quatro precedentes inexistentes, gerados por ferramenta de inteligência artificial. O episódio, ocorrido no estado de Andhra Pradesh, foi classificado pela mais alta corte do país como questão de “preocupação institucional”, com “impacto direto na integridade do processo adjudicatório”. Vídeo: Funcionários de lanchonete são demitidos após negarem atendimento a cliente com moletom de Trump nos EUA Leia também: Motorista autuada por embriaguez invade cena de crime e passa com carro sobre corpo de homem nos EUA A controvérsia teve início em Vijayawada, onde uma juíza cível substituta julgava disputa envolvendo um imóvel. No curso do processo, o tribunal designou um servidor para realizar vistoria e apresentar relatório técnico. Os réus se opuseram à medida, mas a magistrada rejeitou a objeção com base em quatro decisões judiciais que citou na sentença. Posteriormente, porém, verificou-se que os precedentes mencionados não existiam. As decisões haviam sido geradas por sistema de inteligência artificial — tecnologia conhecida por sua capacidade de “alucinar”, isto é, produzir informações falsas apresentadas como se fossem fatos, inclusive criando fontes e julgados inexistentes. 'Boa fé' Diante da descoberta, os réus recorreram ao Tribunal Superior de Andhra Pradesh. Ao examinar o caso, a corte estadual reconheceu que as decisões citadas eram falsas. Ainda assim, manteve o entendimento da primeira instância, avaliando que a magistrada agira de “boa fé”. Segundo o Tribunal Superior, “as citações podem ser inexistentes, mas, se o tribunal de primeira instância aplicou corretamente os princípios jurídicos pertinentes e sua aplicação aos fatos do caso também estiver correta, a mera menção a decisões/citações incorretas ou inexistentes não pode ser fundamento para anular a decisão”. A corte também solicitou explicações à juíza. Em resposta, a magistrada afirmou que era a primeira vez que utilizava ferramenta de IA, que acreditava que as citações eram “autênticas” e que não teve intenção de representar incorretamente decisões judiciais. Declarou ainda que “o erro ocorreu exclusivamente devido à confiança em uma fonte automática”. O tribunal estadual, ao tratar do tema, defendeu o “exercício da inteligência real sobre a inteligência artificial”. Ali Khamenei: Funeral começa nesta quarta-feira em Teerã e terá três dias de cerimônias Inconformados, os réus levaram o caso à Suprema Corte. Ao analisar o recurso, o tribunal adotou postura significativamente mais rigorosa. Para a corte, o uso de decisões falsas geradas por IA não se limita a “um erro de julgamento”, mas configura “conduta imprópria”. “Este caso assume considerável preocupação institucional, não por causa da decisão tomada quanto ao mérito da causa, mas pelo processo de adjudicação e de determinação”, afirmou a Suprema Corte. 'Absolutamente inadmissível' Além disso, foram expedidas notificações ao Procurador-Geral, ao Advogado-Geral e ao Conselho da Ordem dos Advogados da Índia, sinalizando possível apuração mais ampla de responsabilidades e eventuais repercussões sistêmicas. Galerias Relacionadas O episódio não é isolado. No mês anterior, a própria Suprema Corte já havia criticado advogados pelo uso de IA na redação de petições, qualificando a prática como “absolutamente inadmissível”, segundo relato do site jurídico LiveLaw. Casos semelhantes também foram registrados nos Estados Unidos e no Reino Unido, incluindo advertências do Tribunal Superior da Inglaterra e do País de Gales após situações envolvendo decisões fictícias ou parcialmente inventadas produzidas com auxílio de inteligência artificial. No esforço de enfrentar o problema de forma estruturada, a Suprema Corte indiana publicou, no ano passado, um documento técnico sobre o uso de IA no Judiciário. O texto estabelece diretrizes e boas práticas, com ênfase na necessidade de supervisão humana e na preservação de salvaguardas institucionais “firmemente estabelecidas”.