Observando os detetives: reivindicações de marketing suspeitas de ferramentas que detectam conteúdo gerado pela IA
Um tropo comum que atravessa a ficção científica e os gêneros misteriosos é um detetive humano emparelhado com um robô. Pensar Eu, robôcom base nos romances de Isaac Asimov, ou Mac e queijoum show-a-um-show familiar para Amigos fãs. Para nossos propósitos, considere uma série de TV de curta duração chamada Holmes & Yoyoem que um detetive e seu parceiro do Android tentam resolver crimes, apesar das constantes funções de Yoyo. Vamos levar a partir deste exemplo o princípio – é elementar – que você não pode assumir a perfeição de ferramentas de detecção automatizadas. Lembre-se desse princípio ao fazer ou ver alegações de que uma ferramenta pode detectar com segurança se o conteúdo é gerado pela IA.
Nos posts anteriores, identificamos preocupações sobre o uso enganoso de ferramentas generativas de IA que permitem DeepFakes e clonagem de voz e para Manipulação por batida. Pesquisadores e empresas trabalham há anos em meios tecnológicos para identificar imagens, vídeo, áudio ou texto como genuíno, alterado ou gerado. Este trabalho inclui o desenvolvimento de ferramentas que podem adicionar algo ao conteúdo antes é disseminado, como Ferramentas de autenticação Para conteúdo genuíno e maneiras de “marcar d’água” geraram conteúdo.
Outro método de separar o real do falso é usar ferramentas que se aplicam ao conteúdo depois disseminação. Em um 2022 Relatório ao CongressoDiscutimos alguns esforços de pesquisa altamente que valem a pena desenvolver essas ferramentas de detecção para os DeepFakes, além de explorar suas limitações duradouras. Esses esforços estão em andamento em relação à clonagem de voz e texto gerado também, no entanto, Como observamos recentementeDetectar o último é um desafio particular.
Com a proliferação de ferramentas generativas de IA amplamente disponíveis, surgiram um aumento proporcional nas ferramentas de detecção comercializadas como capazes de identificar conteúdo gerado. Algumas dessas ferramentas podem funcionar melhor do que outras. Alguns são gratuitos e outros o cobram pelo serviço. E algumas das reivindicações de marketing atendidas são mais fortes que outras – em alguns casos, talvez Muito forte para a ciência atrás deles. Essas ferramentas podem ter outras falhas, como não ser capaz de detectar imagens ou vídeo que uma ferramenta de IA generativa apenas editou levemente, ou um viés contra falantes não ingleses ao tentar detectar texto gerado.
Aqui está o que deduzir:
- Se você estiver vendendo uma ferramenta que pretende detectar conteúdo generativo de IA, verifique se suas reivindicações refletem com precisão as habilidades e limitações da ferramenta. Para voltar ao nosso tropo, para Cavaleiro Rider Os fãs, isso significa que suas reivindicações devem estar mais alinhadas com Kitt e menos do que com seu gêmeo ruim, Karr.
- Se você estiver interessado em ferramentas para ajudar a detectar se você está recebendo a boa sopa de tartarugas ou apenas a simulação, faça as reivindicações sobre essas ferramentas com alguns megabytes de sal. O excesso de confiança de que você pegou todas as falsificações e perdeu nenhum pode machucar você e aqueles que podem ser injustamente acusados, incluindo candidatos e estudantes de emprego.
Não seria bom viver em uma terra techno-solucionista, na qual um simples gadget poderia lidar de maneira fácil e efetiva de todos os problemas de IA difíceis de nossos dias? Não é tal sorte. Nossa agência pode abordar algumas dessas questões usando leis do mundo real nos livros, e essas leis se aplicam a reivindicações de marketing feitas para ferramentas de detecção.
Procurando mais postagens no AI e seu negócio série de blogs?
