O que você diz em sua casa, o que você fazer em sua casa. Não fica mais privado do que isso. Mas, de acordo com duas reclamações recentes da FTC, a Amazon e o Ring usaram esses dados altamente privados-gravações de voz coletadas pelo Alexa Voice Assistant da Amazon e vídeos coletados pelas câmeras de segurança doméstica conectadas à Internet-para treinar seus algoritmos enquanto dão pouca privacidade aos clientes . Esses assuntos, os primeiros anunciados desde o novo FTC Declaração de Política BiométricaContém lições importantes para as empresas que usam IA, dados biométricos e outras informações confidenciais.
AI e privacidade devem trabalhar de mãos dadas. Nesta era da IA, os desenvolvedores querem mais e mais dados – muitas vezes, independentemente de sua fonte. Mas tenha cuidado ao coletar ou manter os dados do consumidor. Sob o padrão de injustiça da Seção 5, a FTC não analisa apenas os benefícios potenciais da IA, mas também com os custos para os consumidores. De acordo com as queixas, a Amazon e o Ring falharam nesse teste. A FTC alegou que as práticas de acesso a dados permitiram a espionagem e assédio, enquanto a retenção permanente da Amazon de dados de voz e práticas de exclusão de má qualidade expuseram gravações de voz dos consumidores ao risco de acesso desnecessário aos funcionários. A mensagem para as empresas: a FTC responsabilizará as empresas de como elas obtêm, reterão e usarão os dados do consumidor que alimentam seus algoritmos. Como os comissários colocam em seu declaração conjunta no Alexa MatterO aprendizado de máquina não é uma licença para violar a lei.
Os consumidores – não as empresas – controlam seus dados. Algumas empresas pensam que estão livres para usar dados pessoais em sua posse para qualquer finalidade que escolher. Não tão rápido. As reclamações da FTC contra Amazon e Anel Deixe claro que as empresas que ignoram os direitos dos consumidores de controlar seus dados o fazem por sua conta e risco. Em sua denúncia, a FTC diz que Ring deu a todos os funcionários e contratados acesso aos vídeos dos clientes para treinar algoritmos (entre outras coisas) com apenas o “consentimento” da caixa da caixa. Mas isso não é suficiente para garantir que os usuários estejam realmente no controle do que acontece com suas informações. E na queixa da Amazon, a FTC diz que a Amazon minou os direitos dos pais sob o Regra da Lei de Proteção à Privacidade Online da Criança (COPPA) Para excluir as gravações de voz de seus filhos. Os pais têm o direito da regra da COPPA de decidir quais dados sobre seus filhos são armazenados por uma empresa e quais dados são excluídos. O resultado é claro: qualquer empresa que prejudique o controle do consumidor de seus dados pode enfrentar a ação de aplicação da FTC.
Coloque salvaguardas especiais sobre revisão humana e acesso aos funcionários a dados confidenciais. Os desenvolvedores de IA geralmente dependem de revisores humanos para marcar e anotar os dados que treina algoritmos de aprendizado de máquina. Mas os consumidores sabem quando seus dados estão sob revisão? Em sua denúncia, a FTC diz que Ring escondeu esta revisão de seus clientes e permitiu que os revisores abusam de seu acesso aos vídeos dos consumidores. Como resultado, os clientes de Ring – que compraram os produtos de Ring para mais Segurança – acabou sendo alvo da espionagem e vigilância dos funcionários do anel. A reclamação da Amazon também diz que a Amazon não usou controles apropriados para limitar quais funcionários poderiam acessar as gravações de voz dos usuários do Alexa, então milhares dos funcionários tinham acesso a gravações de voz sensíveis que eles não precisavam. As empresas que dependem da revisão humana estão no aviso de que salvaguardas de dados confidenciais, incluindo controles rígidos de acesso, não podem ser uma reflexão tardia. Eles devem ser o primeiro passo.
A FTC protege os dados biométricos. No mês passado, a FTC emitiu um Declaração de política sobre a proteção de dados biométricos. Essa afirmação explica que os dados biométricos – sejam impressões digitais e digitalizações de íris ou vídeos e gravações de voz – merece a máxima proteção devido à sua sensibilidade inerente e ao potencial de viés, discriminação e outros usos prejudiciais. Os assentamentos da FTC com a Amazon e o anel destacam que, quando a FTC diz que proteger os dados biométricos é uma prioridade, significa o que diz – e a Comissão apoiará essa política com ação de execução.
A FTC usa todas as ferramentas disponíveis para proteger a privacidade das crianças. Após uma série de ações de execução sobre a privacidade de crianças e adolescentes (pense MicrosoftAssim, Jogos épicosAssim, EdmodoAssim, Vigilantes do Peso (Kurbo)e Cegg), deve ficar claro que a proteção de crianças é uma das principais prioridades da FTC. Isso é especialmente verdadeiro na interseção de IA e privacidade de crianças e adolescentes. No Queixa da AmazonA FTC diz que a Amazon estava mantendo as gravações de voz das crianças (arquivos de áudio e transcrições) permanentemente e minando os direitos de exclusão dos pais. De acordo com a denúncia, a Amazon poderia usar esses dados para processamento de linguagem natural. No Queixa de anelA FTC descreve a abordagem mais cavalheiresca de Ring à privacidade e segurança, apesar do fato de que suas câmeras foram comercializadas para vigiar os quartos das crianças. A resposta da FTC? Sem dados. A FTC usará todas as ferramentas disponíveis – incluindo a regra da COPPA e as proibições da Lei da FTC sobre práticas enganosas e injustas – para proteger a privacidade das crianças.
Deseja manter seus algoritmos e produtos de dados? Obtenha os dados legalmente. Com Ring e Alexa, bem como CurvaAssim, Cambridge Analyticae EveralbumA FTC obteve inúmeros pedidos exigindo que as empresas excluam dados e Exclua ou evite gerar produtos de dados, como algoritmos, modelos e outras ferramentas derivadas de dados ilícitos. Essas ações deixam claro que não há passes gratuitos para abuso de dados. Se você obtiver ilegalmente ou usar os dados do consumidor ilegalmente, poderá pagar com seu produto de dados.
