Um aplicativo de mensagens anônimas comercializado para crianças e adolescentes: o que poderia dar errado? Muito, alega a FTC e o Ministério Público de Los Angeles. Uma queixa contra os Labs e os fundadores da NGL Raj Vir e Joao Figueedo alega violações da Lei da FTC, a Regra de Proteção à Privacidade Online da Criança (COPPA), a Lei de Confiança dos Companheiros Online (ROSCA) e o Código de Negócios e Professidades da Califórnia. A empresa também fez reivindicações relacionadas à IA, a denúncia desafia como enganosa. O acordo financeiro de US $ 5 milhões merece sua atenção, mas é a proibição permanente do marketing de aplicativos de mensagens anônimas para crianças ou adolescentes que é particularmente notável.
Entre os produtos mais baixados nas lojas de aplicativos, o aplicativo NGL recebeu o nome da abreviação de texto para “não vai mentir”, mas com base nas alegações de queixas, ele pode representar “não será legal”. O aplicativo pretende permitir que os usuários recebam mensagens anônimas de amigos e contatos de mídia social. Os réus expressaram expressamente como um “lugar divertido e seguro” para “os jovens” “compartilharem seus sentimentos sem julgamento de amigos ou pressões sociais”. Para os pais desconfiados com o uso de um aplicativo de mensagens anônimas, os réus diminuíram suas preocupações divulgando a “moderação de conteúdo da classe mundial AI”, que lhes permitiu “filtrar a linguagem e o bullying prejudiciais”. Os consumidores que baixaram o aplicativo foram solicitados a criar uma conta que coletava uma quantidade substancial de informações pessoais, mas a NGL não perguntou quantos anos eles tinham e não usavam nenhuma forma de triagem de idade.
Você deseja ler a reclamação para obter detalhes, mas, em termos gerais, os usuários de aplicativos podem publicar instruções pré-geradas em suas contas de mídia social como “Envie-me uma linha de coleta e eu lhe direi se funcionou” ou “compartilhe uma opinião que receberá você cancelou”, o que permitiu aos espectadores dos prompts escrever uma mensagem anônima em resposta. Além disso, muitos usuários receberam mensagens anônimas como “Você é heterossexual?” “Eu tive uma queda por você há anos e você ainda não conhece LMAO” e “Você diria que sim se eu te pedisse para sair – A.” Quando um destinatário abriu a mensagem, um botão pareceu convidando a pessoa a descobrir “Quem enviou isso?” com uma assinatura paga do NGL Pro. Ansioso para aprender a identidade do remetente, muitos destinatários clicaram nesse botão.
Esse é o resumo mais breve do que a NGL disse aos usuários e pais, mas uma olhada mais de perto a queixa de seis acusações revela o que a FTC e o escritório da DA de Los Angeles dizem que estava realmente acontecendo nos bastidores.
A FTC desafia o marketing dos réus de seu aplicativo de mensagens anônimas para crianças e adolescentes como uma prática injusta. De acordo com a denúncia, o réu Figueedo instou os funcionários a conseguir que “crianças populares sejam publicadas e que seus amigos postem” e observaram que a “melhor maneira é chegar” no Instagram “encontrando garotas populares nas páginas de torcida do ensino médio”. Como outro executivo da NGL observou: “Precisamos de estudantes do ensino médio e não de 20 anos.” Mas para qualquer pai de um adolescente – ou qualquer pessoa que tenha sido adolescente – as consequências inevitáveis de um aplicativo de mensagens anônimas que visam adolescentes não seria difícil de prever. Como disse um diretor assistente do ensino médio aos réus, os alunos estavam usando o aplicativo para enviar “ameaçador” e “conteúdo sexualmente explícito” que estava “afetando significativamente a saúde mental e o bem-estar de nossos alunos”. De acordo com a denúncia, a NGL recebeu inúmeros relatos de cyberbullying, assédio e auto-mutilação e ainda optou por não mudar sua estratégia de marketing ou como seu produto operava.
Além disso, a FTC e o escritório da DA de Los Angeles alegam que os réus usaram múltiplas deturpações para impulsionar seu aplicativo. Por exemplo, muitas dessas mensagens anônimas que os usuários foram informados vieram de pessoas que conheciam – por exemplo, “um de seus amigos está escondendo (o) algo de você” – na verdade foram falsificados pela própria empresa em um esforço para induzir vendas adicionais da assinatura do NGL Pro para pessoas ansiosas para aprender a identidade de quem havia enviado a mensagem. Mas mesmo depois de receber inúmeras queixas que descrevem as mensagens anônimas como “invasivas”, “indutores de ansiedade” e “odiosas”, a resposta interna da NGL não foi nada menos que alegre. A denúncia cita o seguinte comentário do réu Figueiredo: “Esses viciados em pessoas … há pessoas compartilhando o (link do aplicativo NGL) todos os dias e tudo o que recebem são perguntas falsas 😂”.
A FTC e o escritório da DA de Los Angeles dizem que a promessa da NGL aos pais de proteger as crianças através do uso de “moderação de conteúdo de classe mundial também mostrou -se enganosa. De acordo com a denúncia, a IA muito vaidora da empresa geralmente falhou em filtrar a linguagem e o bullying prejudiciais. Não deve levar a inteligência artificial para prever que os adolescentes escondidos atrás da capa do anonimato enviassem mensagens como “você é feio”, “Você é um perdedor”, “você é gordo” e “todo mundo te odeia”. Mas um meio de comunicação relatou que o aplicativo falhou em exibir mensagens prejudiciais (e muito previsíveis) desse tipo.
Além do mais, mesmo que os usuários atualizem para o NGL Pro, eles ainda não serão informados de quem enviou a mensagem, tornando essa reivindicação enganosa também. Mas esse não foi o único problema com as práticas dos réus. De acordo com a denúncia, os consumidores que clicaram no “quem enviou isso?” O botão não foi claramente informado de que essa era uma opção negativa recorrente-não uma compra única-e que os réus cobrariam US $ 9,99 (e mais tarde US $ 6,99) por semana para NGL Pro.
Os réus estavam bem cientes das queixas do consumidor sobre acusações inesperadas e a ineficácia do “quem enviou isso?” recurso. Até a Apple alertou os réus que seu produto “tenta manipular os clientes a fazer compras indesejadas no aplicativo, não exibindo o valor cobrado de forma clara e conspicuamente para os usuários”. Como os réus responderam? Em uma discussão em texto com os réus VIR e FIGUEIREIRO, o líder do produto da NGL resumiu sucintamente a reação da empresa às queixas do consumidor: “lol otários”. De acordo com a FTC, o uso dos réus de uma opção negativa on -line para exagerar as vendas de seu aplicativo NGL Pro violou a ROSCA, que exige que as empresas vendam produtos on -line com opções negativas para divulgar de forma clara e conspicuamente todos os termos relevantes da transação antes de obter as informações de cobrança do consumidor e obter o expresso do consumidor consentir antes de fazer a carga.
A FTC também diz que a empresa coletou e armazenou indefinidamente os dados pessoais dos usuários, incluindo seus nomes de usuário do Instagram e Snapchat e fotos de perfil, informações sobre sua localização e seu histórico de navegação. O processo alega que os réus violaram o Copo de regra Ao não fornecer um aviso adequado aos pais, não obtendo consentimento verificável dos pais e não fornecendo uma maneira razoável de os pais interromperem o uso ou excluir os dados de crianças menores de 13 anos.
A denúncia também alega várias violações das leis de proteção ao consumidor da Califórnia.
O acordo proposto inclui um remédio financeiro de US $ 5 milhões – US $ 4,5 milhões para reparação do consumidor e uma penalidade civil de US $ 500.000 ao escritório da DA de Los Angeles. Mas o mais importante é que o pedido proíbe os réus de oferecer aplicativos de mensagens anônimas para crianças menores de 18 anos. Quanto tempo essa proibição estará em vigor? Para sempre.
Entre outras coisas, o acordo exige que os réus implementem um portão etário para impedir que usuários atuais e futuros com menos de 18 anos acessem o aplicativo e exige a destruição de uma quantidade substancial de informações do usuário na posse dos réus. Além disso, os réus devem obter o consentimento informado expresso dos consumidores antes de cobrá -los para qualquer assinatura de opção negativa, deve fornecer um mecanismo simples para o cancelamento dessas assinaturas e deve enviar lembretes aos consumidores sobre cobranças negativas de opções.
Que orientação outras empresas podem tirar do acordo?
A FTC usará todas as suas ferramentas para proteger as duas crianças e adolescentes. Certamente Coppa é (e permanecerá) uma ferramenta importante para proteger as crianças menores de 13 anos e garantir que os pais – não as empresas de tecnologia – permaneçam no controle das informações pessoais das crianças. Mas essa ação também reforça a preocupação da FTC com as práticas de informação que representam um risco para a saúde mental e física dos adolescentes.
Não divulgue o uso das ferramentas de IA da sua empresa, se você não puder fazer backup de suas reivindicações com provas sólidas. Infelizmente, os acusados dos réus previam com precisão as apreensões que os pais e educadores teriam sobre o aplicativo e tentaram garantir -lhes promessas de que a IA resolveria o problema. Muitas empresas estão explorando o zumbido da IA dia a dia Ao fazer alegações falsas ou enganosas sobre o suposto uso da inteligência artificial. As reivindicações relacionadas à IA não são esfarrapadas. São representações objetivas sujeitas à doutrina de comprovação de longa data da FTC.
Não há nada “digno de lol” nas violações de Rosca. Durante décadas, a FTC usou a Lei da FTC e a Lei de Confiança dos Compradores Online para Restaurar para lutar contra opções negativas ilegais. De acordo com a denúncia, os réus atrairam adolescentes com perguntas anônimas como “Você diria que sim se eu lhe pedisse” e depois os apresentasse com aquele difícil de resistir “quem enviou isso?” Botão sem explicar claramente que a empresa estava inscrevendo -os em uma assinatura de opção negativa e carregando -os toda semana. O fato de os réus usaram essa tática ilegal de isca e troca contra adolescentes e depois riram disso acrescenta insulto descarado ao ferimento financeiro que infligiram.
