A ferramenta AI favorita da Cops excluiu automaticamente evidências quando a IA foi usada
Na quinta -feira, um grupo de direitos digitais, a Electronic Frontier Foundation, publicou uma generalizada Inquérito De acordo com o design da polícia da IA, é quase impossível auditar e pode facilitar o fato de o pessoal da polícia se deitar sob o juramento.
O Draft One da Exxon foi estreado no verão passado Em um departamento de polícia do Colorado, levanta imediatamente questões sobre os efeitos negativos dos relatórios policiais escritos na IA no sistema de justiça criminal. Essa câmera corporal de ferramentas depende de uma variedade de bate -papo para preparar relatórios policiais baseados em áudio, que se acredita serem alterados para corrigir quaisquer erros, avaliar superfícies de IA para preconceito ou adicionar contexto -chave ao pessoal da polícia.
Mas o EFF descobriu que a tecnologia “parece ter sido projetada para a auditoria, a transparência e a responsabilidade”. Quando a IA é usada em todos os departamentos, a polícia não precisa ser divulgada, e o rascunho não salva um rascunho nem mantém um registro, mostrando quais partes dos relatórios são A-GERAIT. A EFF disse que os departamentos também não mantêm versões diferentes do rascunho, o que dificulta a estimativa de como uma versão de um relatório de IA pode se comparar a outra para ajudar o público a decidir se a tecnologia é “lixo”. Isso levanta a questão, a EFF sugeriu: “Por que nenhuma agência gostaria de manter um registro que possa estabelecer precisão tecnológica?”
