Clonagem de voz: uma vantagem para pessoas com problemas médicos ou uma bonança habilitada para IA para golpistas? A resposta depende de quem está usando a tecnologia e como a está usando. É por isso que a FTC está adotando uma abordagem de 360° na batalha contra o uso indevido da clonagem de voz. Uma parte dessa estratégia abrangente é o Desafio de Clonagem de Voz da FTC, anunciado em novembro – e estamos entusiasmados em revelar os vencedores.
Os golpes de imitação enganaram os consumidores em cerca de US$ 1,1 bilhão em 2023. A regra de regulamentação comercial da FTC sobre representação de governo e empresas entrou em vigor em 1º de abril de 2024 e oferece novas ferramentas para enfrentar essa forma de fraude. Também estamos aceitando comentários públicos até 30 de abril em um aviso suplementar de proposta de regulamentação que proibiria a representação de indivíduos.
Veja como a clonagem de voz se encaixa na imagem. Você está familiarizado com golpes de emergência familiar onde uma pessoa liga alegando ser um parente próximo que precisa de dinheiro o mais rápido possível para fiança ou despesas hospitalares. E você já ouviu falar de fraudadores se passando por “chefe”, ligando para um funcionário e orientando-os a transferir fundos. Por mais prejudiciais que esses golpes já sejam, imagine se a voz do outro lado da linha soasse idêntica à de um membro real da família ou supervisor. Esse é apenas um perigo representado pelo uso indevido da tecnologia de clonagem de voz.
A FTC continuará a lutar pela aplicação da lei, mas os investigadores, empresários e especialistas em tecnologia têm um papel a desempenhar na abordagem da agência. Em Novembro anunciámos o Desafio de Clonagem de Voz que visa promover ideias inovadoras sobre prevenção, monitorização e avaliação da clonagem maliciosa de voz. E agora – rufem os tambores, por favor – temos o prazer de anunciar os três vencedores que dividirão um prêmio de US$ 35.000:
- Detecção de IA: Este envio da OmniSpeech é direcionado a aplicativos e dispositivos de consumo e corporativos e usaria algoritmos de IA para diferenciar entre padrões de voz genuínos e sintéticos.
- DeFake: Ning Zhang, da Universidade de Washington, sugeriu o uso de uma forma de marca d’água. A proposta pede a adição de perturbações cuidadosamente elaboradas às amostras de voz que as pessoas não seriam capazes de ouvir, mas que poderiam prejudicar os clonadores de voz da IA, de modo que o áudio não pudesse ser clonado com precisão.
- História de Origem: Enviada pela OriginStory LLC, essa tecnologia visa autenticar no momento da gravação que se trata de uma voz humana por meio de sensores prontos para uso já integrados em diversos dispositivos.
Embora não seja elegível para o prêmio em dinheiro devido ao tamanho da empresa, a quarta inscrição vencedora é de Segurança Pindrop. Sua tecnologia Voice Cloning Detection detecta clones de voz e deepfakes de áudio em tempo real. A tecnologia avalia cada chamada telefônica ou áudio digital recebido em blocos de dois segundos e sinaliza aqueles que são potenciais falsificações profundas.
A FTC agradece ao painel de jurados que avaliaram as inscrições: Professor Arvind Narayanan da Universidade de Princeton, Professor Assistente Britt Paris da Universidade Rutgers, e Beau Woods, CEO da Stratigos Security e bolsista de inovação em segurança cibernética do Atlantic Council.
O combate à fraude possibilitada pela IA é uma batalha que a FTC está travando em muitas frentes e todos nós temos interesse na proteção dos consumidores. Estamos gratos aos vencedores, participantes e jurados do Voice Cloning Challenge e esperamos continuar a colaborar com académicos, tecnólogos, membros da indústria tecnológica e parceiros governamentais e responsáveis pela aplicação da lei.
Duas considerações finais para as empresas. Primeiro, os golpistas também têm como alvo as empresas, então você tem interesse em apoiar os esforços para impedir o uso indevido da clonagem de voz. Em segundo lugar, os golpistas raramente operam sozinhos. Para lucrar com os seus esquemas, eles contam com o apoio de empresas que oferecem os serviços adicionais de que necessitam – plataformas, pagamentos, etc. Preste atenção ao aviso de que dar uma mão aos criminosos da clonagem de voz pode colocá-lo em maus lençóis legais.
