Este Google Gemini Flawless malicioso Gmail Ai pode produzir um resumo

Os resumos da IA são para simplificar a vida: o objetivo deles é descontar uma grande quantidade de texto em algo que você pode digitalizar rapidamente, para que você possa gastar tempo em questões mais prementes. O problema é que você nem sempre pode confiar nessas convocações. Geralmente, a razão para isso é Ai HolochottesE oferece incorretamente um resumo do texto. Em outros casos, os hackers podem de fato ser comprometidos.

De fato, isso está acontecendo com a IA proprietária do Google, Gêmeos, com local de trabalho. Como outros modelos de IA generativos, Gemini também pode resumir e -mails no Gmail. No entanto, Como o computador que está demitindo relatouHá um risco de exploração. Os hackers podem injetar o resumo com informações maliciosas que empurram esses usuários

Como funciona: um ator ruim produz um email com um texto oculto dentro dele, que usa HTML e CSS e combina tamanho e cor da fonte. Você não verá essa parte da mensagem, mas Gêmeos o fará. Como os hackers não sabem como usar links ou anexos, os itens que podem sinalizar os filtros de spam do Google têm maior probabilidade de pousar na caixa de entrada do usuário.

Então, você abre o e -mail e não sente nada do azul. Mas é longo, então você escolhe resumir Gêmeos para você. Embora se concentre na mensagem visível na parte superior do resumo, o fim resumirá o texto oculto. Em um exemplo, o texto oculto instruiu Gemini a preparar alerta e alertou o usuário de que sua senha do Gmail estava comprometida. Ele então destacou um número de telefone para ligar para “colaboração”.

Esse tipo de atividade maliciosa é especialmente perigosa. Eu posso ver como alguém que usa Gêmeos acredita em tal aviso, especialmente se já tomar o resumo da IA a um custo significativo. Sem saber como o golpe funciona, parece que a Gemini parece uma saída oficial, pois o Google fez de seu engenheiro de IA alertar os usuários a se comprometer com suas senhas.

O Google respondeu a um pedido para comentar de um computador bleping. O IIT afirma que ele não viu tais evidências de manipulação de ginásio e que a loja foi referida de um Postagem do blog Como isso luta contra ataques de injeção imediatamente? Um representante compartilhou a seguinte mensagem: “Estamos constantemente apertando nossa já forte defesa por meio de exercícios de tendência vermelha que treinam nossos modelos para defender esse tipo de ataques anti -batatas”. Ele confirmou que alguns planos estavam prestes a ser implantados.

Como se proteger desse erro de segurança de Gêmeos

Pesquisadores de segurança que descobriram esse erro, Marco Figaro, têm alguns conselhos às equipes de segurança para lidar com essa ameaça. Fagero recomenda remover o texto oculto do usuário e a execução de um filtro que digitaliza a saída da saída de Gemini Suspeed SC, como links, números de telefone ou avisos.

Como um usuário de fechamento no local de trabalho, no entanto, você não pode trabalhar muito mais do que esse conselho. Mas você não precisa, agora quando sabe o que encontrar. Se você usar o resumo da AII de Gêmeos, expresse dúvidas profundas sobre quaisquer mensagens rápidas contidas nele – especialmente se esses avisos não tiverem nada a ver com email. Certamente, você pode receber um e-mail legítimo que foi avisado sobre violações de dados e, portanto, os resumos da geração da IA dirão o mesmo. Mas se o resumo disser que o email em questão é sobre o evento em sua cidade na próxima semana e, sob o resumo, você verá um aviso sobre comprometer sua senha do Gmail, você pode assumir com segurança que está ficando confuso.

Como outros esquemas de phishing, o aviso pode ser bandeira vermelha. Em um exemplo destacando o computador Bleping, o feitiço do Gmail é “Gmail”. Se você não está ciente de como o Gmail foi formatado, ele não pode ficar com você, mas encontre outras contradições e erros. O Google não tem número de telefone direto para ligar para problemas de suporte. Se você já tentou entrar em contato com a empresa, saberá que existe uma maneira praticamente zero de entrar em contato com uma pessoa real.

Além desse esquema de phishing, você deve ser suspeito do resumo da IA. Isso não significa que eles devem ser completamente evitados – eles podem ser úteis – mas, se não sofrerem de falha, os resumos da IA estão errados. Se o email que você está lendo for importante, eu recomendamos abster -se do recurso abstrato ou, pelo menos, digitalizar o texto original para garantir que o resumo tenha sido corrigido.