O Facebook viu um aumento de violência e assédio depois de mudar a política

Meta publicou pela primeira vez Relatar integridade Desde que Mark Zuckerberg retornou, as políticas de fala da empresa e mudam a abordagem para ajustar o conteúdo no início deste ano. Segundo os relatos, o Facebook viu um aumento no conteúdo de violência, bullying e assédio, embora o número de conteúdo seja reduzido ao geral.

Os relatórios são a primeira vez que a Meta compartilhou dados sobre como a decisão de Zuckerberg sobre meta políticas foi tomada na plataforma usada por bilhões de pessoas. Notavelmente, a empresa está filmando mudanças como uma vitória, dizendo que elas reduziram seus erros enquanto o índice geral de conteúdo quebra suas regras “é praticamente inalterado para a maioria dos problemas”.

Existem duas exceções notáveis, no entanto. O conteúdo de violência e gráficos aumentou de 0,06% -0,07% no final de 2024 para 0,09% no primeiro trimestre de 2025. Meta conjuntos para um aumento no “aumento do compartilhamento de conteúdo”, bem como seus próprios esforços para “reduzir erros de execução”. A Meta também testemunhou um aumento notável na taxa de bullying e assédio no Facebook, aumentando de 0,06-0,07% no final de 2024 para 0,07-0,08% no início de 2025. (Notalmente, essa é uma categoria separada das políticas de ódio da Companhia, que, que, que, foram reescritos Para permitir postagens direcionadas Imigrante e LGBTQ.)

Esses parecem uma taxa relativamente pequena, mas mesmo um pequeno aumento pode notar uma plataforma como o Facebook, vendo bilhões de postagens todos os dias. (Meta descreve seus dados da taxa de circulação como uma estimativa do grau de quebra frequente do conteúdo das regras que aparecem em sua plataforma.)

O relatório também enfatiza menos do que quanto conteúdo, pois ficou longe da implementação de todas as políticas mais graves, como exploração de crianças e conteúdo terrorista. O meta relatório mostra uma redução significativa no número de postagens do Facebook excluídas para conteúdo desagradável, por exemplo, com apenas 3,4 milhões de conteúdo “implementado” de acordo com a política, o número mais baixo da empresa desde 2018. A eliminação do spam também diminuiu de 730 milhões em 2024.

Ao mesmo tempo, a Meta afirmou que está cometendo muito menos erro de censura, este é um dos erros de Zuckerberg Justo Para a decisão de rescindir a censura proativa. “Vimos cerca de 50% dos erros de implementação em nossas plataformas nos Estados Unidos do quarto trimestre 2024 ao primeiro trimestre de 2025”, escreveu a empresa em uma atualização para o seu post de janeiro. Notificação Sua política muda. A Meta não explicou como calcular esse número, mas disse que os relatórios futuros “incluiriam dados sobre nossos erros para que todos possam seguir nosso processo”.

No entanto, a Meta admite que ainda existem pelo menos um grupo em que ainda é necessária alguma moderação ativa: adolescentes. “Ao mesmo tempo, ainda estamos comprometidos em garantir que os adolescentes em nossa fundação tenham a experiência mais segura possível”, escreveu a empresa. “É por isso que, para os adolescentes, continuaremos a tomar a iniciativa de esconder outros tipos de conteúdo nocivo, como o bullying”. Meta foi lançado “Conta adolescente“Nos últimos meses, isso facilitará o filtro de conteúdo específico para usuários mais jovens.

A empresa também oferece uma atualização sobre como usar grandes modelos de idiomas para apoiar seus esforços de censura de conteúdo. “Após mais testes, começamos a ver que o LLM opera fora do desempenho humano nos campos de política escolhidos”, escreveu Meta. “Também usamos o LLM para excluir o conteúdo da fila de avaliação em certos casos em que estamos confiantes de que ele não viola nossa política”.

Outro ingrediente principal das mudanças políticas de Zuckerberg é encerrar a parceria de meta -testes reais nos Estados Unidos. A empresa começou a lançar Versão privada A comunidade observa o Facebook, o Instagram e os tópicos no início deste ano, e desde então expandiu seus esforços para trocar e responder tópicos. A Meta não forneceu nenhuma visão de sua nova abordagem à sua nova multidão para testes reais que poderiam ou a frequência das notas apareceu em sua plataforma, embora tenha prometido atualizações nos próximos meses.