A ferramenta de IA também pode estar “ultrapassando sua interpretação do áudio”, possivelmente interpretando mal a gírias ou adicionando contexto que nunca aconteceu.
Uma “grande preocupação”, disse o EFF, é que os relatórios da IA podem dar aos policiais uma “cortina de fumaça”, talvez até permitindo que se esquivem de consequências para se deitarem no estande, culpando a ferramenta de IA por qualquer “linguagem tendenciosa, imprecisões, erros de interpretação ou mentira” em seus relatórios.
“Não há registro mostrando se o culpado era o oficial ou a IA”, disse o EFF. “Isso torna extremamente difícil, se não impossível, avaliar como o sistema afeta os resultados da justiça ao longo do tempo”.
Segundo o EFF, o rascunho de “parece deliberadamente projetado para evitar auditorias que possam fornecer qualquer responsabilidade ao público”. Em um vídeo de uma discussão na mesa redonda, a EFF revisou, um gerente de produto principal do Axon Senior para a IA generativa elogiou os rascunhos que desaparecem como um recurso, explicando: “Não armazenamos o rascunho original e isso é por design e é realmente porque a última coisa que queremos fazer é criar mais dores de divulgação para nossos clientes e escritórios de advogados”.
O EFF interpretou isso como significando que “a última coisa” que Axon quer “é que os policiais tenham que fornecer esses dados a qualquer pessoa (por exemplo, um juiz, advogado de defesa ou sem fins lucrativos das liberdades civis)”.
“Para servir e proteger o interesse público, a produção de IA deve ser avaliada continuamente e agressivamente quando e onde for usado”, afirmou o EFF. “Mas Axon intencionalmente dificultou isso”.
A EFF está pedindo um esforço nacional para monitorar os relatórios policiais gerados pela IA que devem ser cada vez mais implantados em muitas cidades nos próximos anos e publicou um guia para ajudar jornalistas e outros a enviar pedidos de registros para monitorar a uso da polícia em sua área. Mas “infelizmente, a obtenção desses registros não é fácil”, confirmou a investigação da EFF. “Em muitos casos, é impossível”.