Os medos de Hunt não são infundados, disse à ARS McSherry, diretora jurídica do grupo de direitos digitais, a Electronic Frontier Foundation.
“A ordem da descoberta representa riscos genuínos para a privacidade do usuário em si e como um precedente para muitos outros processos em todo o país”, disse McSherry. “E é emblemático de um problema mais amplo: a AI Chatbots está abrindo outro vetor para vigilância corporativa, especialmente se os usuários não tiverem controle significativo sobre o que acontece com suas histórias e registros de bate -papo”.
Segundo Hunt, Wang não conseguiu “considerar os ‘bate -papos anônimos’, que devem razoavelmente conter as informações mais sensíveis e potencialmente prejudiciais dos usuários, da retenção e divulgação neste caso,” alegando que “constitui uma ação excessivamente ampla e irracional”.
Ele instou o juiz a revisar a ordem para incluir essa isenção, bem como isenções para qualquer bate -papo “discutindo tópicos médicos, financeiros, legais e pessoais que contenham informações profundamente privadas dos usuários e não tenham relevância” para os interesses reivindicados das organizações de notícias do demandante.
Para Hunt e muitos outros usuários, surpreendidos pelo pedido, as apostas parecem altas. Ele sugeriu que Wang deveria ter permitido que ele intervenha “porque esse caso envolve questões constitucionais novas e importantes sobre o incidente de direitos de privacidade ao uso da inteligência artificial – uma área de direito em desenvolvimento rapidamente – e a capacidade de um magistrado de instituir um programa de vigilância em massa em todo o país por meio de uma ordem de descoberta em um caso civil”.
Mas Wang discordou de Hunt que ela superou sua autoridade para fazer cumprir a ordem, enfatizando em uma nota de rodapé de que sua ordem não pode ser interpretada como permitir a vigilância em massa.
“O interveniente proposto não explica como a ordem de retenção de documentos de um tribunal que direciona a preservação, a segregação e a retenção de certos dados privados de uma empresa privada para fins limitados de litígio é ou pode ser, um ‘programa de vigilância em massa em todo o país'”, escreveu Wang. “Não é. O judiciário não é uma agência de aplicação da lei”.