Os estudantes universitários que supostamente cresceram dependentes do ChatGPT estão começando a enfrentar consequências depois de se formar e ingressar na força de trabalho para depositar muita confiança nos chatbots.
No mês passado, um recém -formado na faculdade de direito perdeu o emprego depois de usar o ChatGPT para ajudar a redigir um documento judicial que acabou ficando repleto de erros.
As consequências chegaram depois que um tribunal em Utah ordenou sanções após o pedido incluir a primeira citação falsa já descoberta no estado alucinado pela inteligência artificial.
Também problemático, o Tribunal de Utah constatou que o arquivamento incluía casos “múltiplos” citados incorretamente, além de “pelo menos um caso que não parece existir em nenhum banco de dados legal (e só pode ser encontrado no ChatGPT”.
Douglas Durbano, advogado envolvido no arquivamento, e Richard Bednar, o advogado que assinou e apresentou o documento, deveria ter verificado a precisão antes que qualquer tempo do tribunal fosse desperdiçado avaliando a citação falsa, escreveu o juiz Mark Kouris em sua opinião.
“Enfatizamos que todo advogado tem um dever contínuo de revisar e garantir a precisão de seus registros judiciais”, escreveu Kouris, observando que os advogados “ficaram aquém de suas responsabilidades de gatekeeping como membros da Ordem do Estado de Utah quando enviaram uma petição que continha precedente falso gerado por Chatgpt”.
A citação falsa pode ter sido facilmente capturada se um processo de revisão adequado estivesse em vigor. Quando o ARS levou a Chatgpt a resumir o caso falso, “Royer v. Nelson, 2007 UT App 74, 156 P.3d 789”, o chatbot não forneceu detalhes além de alegar que “este caso envolve uma disputa entre dois indivíduos, Royer e Nelson, no Tribunal de Utah dos Recursos”, que levanta a Red sinaliza.