Além das fotos obrigatórias do Grand Canyon ou da Torre Inclinada de Pisa, muitas fotos que os consumidores desejam manter apresentam rostos de amigos e familiares. Usar um serviço como o aplicativo Ever da Everalbum para armazenar fotos e vídeos na nuvem é uma forma de liberar espaço nos dispositivos dos consumidores. Mas o que a Everalbum estava fazendo nos bastidores depois que os consumidores confiaram essas imagens à empresa? Um acordo proposto pela FTC sugere que o uso padrão da tecnologia de reconhecimento facial pela Everalbum foi contra as promessas feitas aos clientes.
De 2015 a setembro de 2020, a Everalbum, com sede em São Francisco, ofereceu o Ever, um aplicativo de armazenamento e organização de fotos que permite às pessoas fazer upload de fotos e vídeos de seus dispositivos móveis, computadores, serviços de mídia social e outros lugares para os servidores em nuvem da empresa. Em fevereiro de 2017, o Everalbum lançou seu recurso “Amigos”, que permitia aos usuários marcar pessoas em suas fotos pelo nome, para que todas as fotos marcadas de forma semelhante pudessem ser agrupadas. Quando o Everalbum lançou o recurso, ele habilitou o reconhecimento facial por padrão para todos os usuários do aplicativo e não ofereceu uma maneira para as pessoas desligarem ou desabilitarem o recurso.
Então, em maio de 2018, Everalbum começou a exibir uma mensagem pop-up para usuários no Texas, Illinois, Washington e na União Europeia que dizia: “Ever usa tecnologia de reconhecimento facial para criar automaticamente álbuns seus e de seus amigos. Você quer que Ever faça isso? Sim ou não, obrigado.” Portanto, para pessoas em Waco, Waukegan, Walla Walla e Würzburg, o Everalbum desativou o recurso Friends – e o reconhecimento facial – a menos que esses consumidores clicassem afirmativamente em Sim. A empresa também modificou seu aplicativo para que usuários no Texas, Illinois, Washington e na UE pudessem ativar e desativar o reconhecimento facial.
Pouco tempo depois, Everalbum postou na página HELP de seu site um artigo intitulado “O que é reconhecimento facial?” Aqui está o que a empresa disse aos consumidores:
Quando o reconhecimento facial está ativado, a tecnologia analisa as fotos e vídeos que você envia para criar uma sequência de números que chamamos de “incorporação facial”.
* * * *
Quando o reconhecimento facial está ativado, você nos informa que podemos usar incorporações de rostos de pessoas em suas fotos e vídeos, incluindo você, e que você tem a aprovação de todos que aparecem em suas fotos e vídeos.
Mas, de acordo com a denúncia, o problema era que, embora isso fosse verdade para os consumidores no Texas, Illinois, Washington e na UE, não era verdade para o resto dos milhões de usuários do Everalbum. Em outras palavras, apesar da declaração da empresa de que não usava tecnologia de reconhecimento facial a menos que o usuário a habilitasse, a Everalbum usava reconhecimento facial para a maioria das fotos e vídeos dos consumidores e não lhes oferecia uma maneira de alterar essa configuração padrão. De acordo com a FTC, a empresa continuou a fornecer informações imprecisas a esses consumidores até pelo menos abril de 2019, quando alterou a sua política e apresentou o mesmo pop-up para oferecer uma escolha a todos os utilizadores.
Isso é apenas parte da história porque, separada do recurso Friends, por um período de dois anos, o Everalbum deu outro uso às fotos pessoais dos consumidores. Inicialmente, a empresa utilizou tecnologia de reconhecimento facial disponível publicamente, mas depois começou a desenvolver a sua própria tecnologia, utilizando fotos dos clientes como parte da “matéria-prima”. De acordo com a denúncia, a empresa combinou milhões de imagens extraídas de usuários de seu aplicativo Ever com outras imagens obtidas de conjuntos de dados disponíveis publicamente para ajudar no desenvolvimento de tecnologia de reconhecimento facial, incluindo tecnologia que finalmente comercializou para outras empresas por meio de sua empresa. marca, Paravisão.
A denúncia também alega que Everalbum interpretou o “sempre” um pouco literalmente demais. Quando os usuários optaram por desativar suas contas, a empresa alertou que “você perderá permanentemente o acesso a (número de) fotos e (número de) álbuns”. Em resposta às perguntas dos clientes sobre a exclusão de suas contas, em pelo menos alguns casos, Everalbum disse a eles: “Observe que isso também excluirá permanentemente todas as fotos e vídeos armazenados em sua conta”. Mas apesar dessa declaração e de declarações semelhantes na sua política de privacidade, até pelo menos outubro de 2019, a Everalbum não eliminou as fotos ou vídeos dos utilizadores que tinham desativado as suas contas e, em vez disso, manteve as imagens indefinidamente.
A ordem proposta exige que o Everalbum exclua todos os modelos e algoritmos de reconhecimento facial que desenvolveu usando fotos ou vídeos de usuários Ever, todas as fotos e vídeos enviados por usuários que solicitaram a desativação de suas contas Ever e todos os dados de reconhecimento facial derivados de imagens enviadas por usuários que não consentiu afirmativamente com o uso do reconhecimento facial. A ordem proposta também proíbe declarações falsas relacionadas – entre outras coisas – à coleta, uso, divulgação, manutenção, exclusão, privacidade e segurança de informações de ou sobre consumidores individuais e a capacidade dos consumidores de controlar qualquer uma dessas ações. Além disso, para quaisquer futuros produtos voltados para o consumidor, a Everalbum deve obter o consentimento expresso e afirmativo dos consumidores antes de obter dados de reconhecimento facial de suas imagens ou usar essas imagens para desenvolver modelos ou algoritmos de reconhecimento facial. Assim que o acordo for publicado no Federal Register, a FTC aceitará comentários públicos por 30 dias.
Tal como o acordo proposto deixa claro, as empresas precisam de enfrentar a sua obrigação de fundamentar as suas alegações sobre o reconhecimento facial ou outras práticas de recolha de informações.
As práticas de reconhecimento facial da sua empresa podem ser altamente relevantes para os consumidores. Os consumidores estão preocupados com o reconhecimento facial? Dois desenvolvimentos sugerem que sim. Primeiro, desde que o Everalbum começou a oferecer às pessoas a opção de escolher se gostariam que o aplicativo Ever usasse reconhecimento facial, aproximadamente 25% dos usuários que fizeram uma seleção optaram por desativar o recurso. Em segundo lugar, além do Texas, Illinois, Washington e da UE, outras jurisdições nos EUA e a nível mundial estão a considerar limitações à utilização de dados biométricos. As empresas prudentes estão agindo com cautela na forma como implementam a tecnologia de reconhecimento facial e como explicam suas práticas aos consumidores.
Honre suas promessas durante todo o ciclo de vida dos dados. Continuaremos dizendo isso até ficarmos tristes, mas as empresas devem cumprir suas promessas de informações, desde a coleta inicial até o descarte seguro. Quando as empresas afirmam que os dados serão eliminados permanentemente, os consumidores têm todo o direito de confiar nessa representação. Tornar as informações inacessíveis aos consumidores e mantê-las no sistema da empresa não será suficiente.
