A FTC anuncia os vencedores do desafio de clonagem de voz – e tem uma ou duas palavras para empresas

Clonagem de voz: um benefício para pessoas com questões médicas ou uma bonanza habilitada para AI para golpistas? A resposta depende de quem está usando a tecnologia e como está usando. É por isso que a FTC está adotando uma abordagem de 360 ​​° na batalha contra o uso indevido de clonagem de voz. Uma parte dessa estratégia abrangente é o desafio de clonagem de voz da FTC anunciado em novembro – e estamos empolgados em revelar os vencedores.

O imitador enganou os consumidores de US $ 1,1 bilhão em 2023. A regra de regulamentação comercial da FTC sobre representação do governo e empresas entrou em vigor em 1º de abril de 2024 e oferece novas ferramentas para assumir essa forma de fraude. Também estamos aceitando comentários públicos até 30 de abril em um Aviso suplementar da proposta de regulamentação Isso proibiria a representação dos indivíduos.

Veja como a clonagem de voz se encaixa na foto. Você está familiarizado golpes de emergência familiares onde uma pessoa chama alegando ser um parente próximo que precisa de dinheiro o mais rápido possível para fiança ou despesas hospitalares. E você ouviu falar de fraudadores posando como um “chefe” chamando um funcionário e direcionando -os a transferir fundos. Por mais prejudiciais que sejam esses golpes, imagine se a voz do outro lado do telefone parecer idêntica a um membro ou supervisor da família real. Esse é apenas um perigo representado pelo uso indevido da tecnologia de clonagem de voz.

A FTC continuará a luta pela aplicação da lei, mas pesquisadores, empresários e especialistas em tecnologia têm um papel a desempenhar na abordagem da agência. Em novembro, anunciamos o desafio de clonagem de voz, com o objetivo de promover idéias inovadoras sobre a prevenção, o monitoramento e a avaliação da clonagem de voz maliciosa. E agora – Drum Roll, por favor – temos o prazer de anunciar os três vencedores que dividirão um prêmio de US $ 35.000:

• Você tem detecção: Esta submissão da Omnispeech é destinada a aplicativos e dispositivos de consumidores e empresas e usaria algoritmos de AI para diferenciar os padrões de voz genuínos e sintéticos.
• Desencadear: Ning Zhang, da Universidade de Washington, sugeriu o uso de uma forma de marca d’água. A proposta exige a adição de perturbações cuidadosamente criadas às amostras de voz que as pessoas não seriam capazes de ouvir, mas isso poderia tirar as clonners de voz da IA ​​para que o áudio não pudesse ser clonado com precisão.
• OriginStory: Enviado pela OriginStory LLC, essa tecnologia visa autenticar no momento da gravação de que é uma voz humana usando sensores prontos para uso já integrados em muitos dispositivos.

Embora não seja elegível para o prêmio em dinheiro por causa do tamanho da empresa, a quarta entrada vencedora é de Pindrop Security. Sua tecnologia de detecção de clonagem de voz detecta clones de voz e os deepfakes de áudio em tempo real. A tecnologia avalia cada chamada telefônica ou áudio digital em pedaços de dois segundos e sinaliza aqueles que são potenciais falses profundas.

A FTC agradece ao painel de juízes que avaliaram as submissões: o professor Arvind Narayanan, da Universidade de Princeton, o professor assistente Britt Paris, da Universidade Rutgers, e Beau Woods, CEO da Stratigos Security e um bolsista de inovação de segurança cibernética do Atlantic Council.

Combate a fraude habilitada para a AI é uma batalha que a FTC está lutando em muitas frentes e todos nós temos uma participação na proteção dos consumidores. Somos gratos aos vencedores, participantes e juízes do desafio de clonagem de voz e esperamos o envolvimento contínuo com acadêmicos, tecnólogos, membros da indústria de tecnologia e parceiros policiais e policiais.

Dois pensamentos finais para as empresas. Primeiro, os golpistas também têm como alvo as empresas, para que você tenha interesse em apoiar os esforços para interromper o uso indevido de clonagem de voz. Segundo, os golpistas raramente operam sozinhos. Para lucrar com seus esquemas, eles dependem do apoio de empresas que oferecem os serviços adicionais de que precisam-plataformas, pagamentos etc. prestam atenção ao aviso de que emprestando os bandidos de clonagem de voz poderia levá-lo a água quente legal.