As plataformas tecnológicas devem combater o rápido aumento defases explícitos e “pornografia de vingança” usando um banco de dados de imagens para proteger mulheres e meninas on -line, de acordo com novas orientações sendo elaboradas pelo cão de vigilância do Reino Unido.
A mudança faz parte de uma série de medidas propostas pela Ofcom para combater a misoginia on -line, o assédio e o compartilhamento de imagens íntimas sem o consentimento do sujeito – geralmente chamado de “pornografia de vingança”.
O regulador está recomendando o uso da chamada tecnologia de correspondência de hash, que permite que as plataformas retirem uma imagem que tem sido objeto de uma reclamação.
Sob o sistema, uma imagem ou vídeo sinalizada por um usuário é referenciada cruzada contra um banco de dados de imagens ilícitas convertidas em um “hash” ou impressão digital digital. Isso permite que imagens nocivas sejam detectadas e removidas da circulação.
Exemplos incluem Stopncii.orgque permite que sobreviventes e vítimas geram hashes a partir de imagens íntimas não consensuais, cujos detalhes são compartilhados nas plataformas participantes.
A Ofcom Research descobriu que a proliferação de ferramentas generativas de IA, que podem criar imagens e áudio altamente realistas a partir de instruções simples, levou a um abuso de imagens íntimas mais Deepfake sendo publicado on-line em 2023 do que em todos os anos anteriores combinados.
Jessica Smith, da Ofcom, que liderou o desenvolvimento da nova orientação, disse: “Para abuso de imagem íntima, estamos dizendo que as empresas de tecnologia devem se inscrever em uma tecnologia chamada hash de correspondência, que é basicamente um banco de dados de imagens que permite que qualquer imagem ser identificado em escala onde quer que seja compartilhado em uma plataforma.
“É uma tecnologia realmente inovadora. O que isso significa é que não precisa ser relatado toda vez que é carregado. Isso significa que é relatado uma vez e onde quer que exista, é identificado. ”
O projeto de orientação vai além do que é exigido pela Lei de Segurança Online 2023, a fim de cobrir não apenas danos ilegais, mas também os danos “legais” que não atendem a um limiar criminal, com muitos postos misóginos não tecnicamente ilegais.
Ele estabelece como os provedores de serviços – incluindo aplicativos de namoro, mídias sociais, jogos, sites de pornografia e serviços de pesquisa – podem abordar conteúdo e atividade que afetam desproporcionalmente mulheres e meninas em reconhecimento aos riscos específicos que enfrentam.
A Ofcom também disse que as plataformas devem considerar a introdução de “cutucadas” para perguntar se alguém tem certeza de que deseja publicar um comentário potencialmente prejudicial – um recurso que demonstrou levar a uma mudança significativa de comportamento.
A Ofcom recomenda que as plataformas introduzam configurações padrão de agrupamento para que mulheres e meninas possam facilmente obter os perfis mais privados sem precisar passar por todas as configurações para escolher aquelas que mais as protegem.
Em seu documento de consulta, a Ofcom destaca que:
As mulheres têm cinco vezes mais chances de serem vítimas de abuso de imagem íntima.
Quase 70% dos meninos de 11 a 14 anos foram expostos a conteúdo on-line que promove a misoginia e outras visões prejudiciais.
Quase um quarto das meninas adolescentes (23%) veem regularmente conteúdo que se opõe ou humilham as mulheres.
O abuso doméstico on-line é subnotificado-metade dos sobreviventes (49%) não contou a ninguém sobre isso.
Quase três quartos dos entrevistados em uma pesquisa (73%) haviam sofrido ameaças e abusos on-line.
Uma mensagem importante por trás da Lei de Segurança Online é a segurança por design, o que significa que as plataformas devem construir em medidas de segurança a partir do estágio de design. O Ofcom diz que usará seus poderes de transparência para destacar quais plataformas são compatíveis e quais não são, para informar os usuários.
O rascunho de orientação agora sai para feedback, com orientações finais a serem publicadas ainda este ano.
Melanie Dawes, diretora executiva da Ofcom, disse: “Nossa orientação prática é um pedido de ação para serviços on -line, estabelecendo um padrão novo e ambicioso para a segurança on -line de mulheres e meninas.
“Não há apenas um imperativo moral para as empresas de tecnologia protegerem os interesses das usuários do sexo feminino, mas também faz um bom sentido comercial, promovendo maior confiança e envolvimento com uma proporção significativa de sua base de clientes”.
