Actualmente, as tecnologias emergentes desafiam a capacidade de as pessoas distinguirem os conteúdos verdadeiros dos conteúdos fabricados, especialmente quando se trata de imagens e vídeos que circulam nas redes sociais e na Internet. A proliferação da Inteligência Artificial (IA) generativa promoveu o aumento da falsificação de recursos visuais a um nível extremo, despoletando milhares de burlas visuais de alta qualidade e, consequentemente, ciber-fraudes.
A análise de Stan Kaminsky , especialista em segurança da Kaspersky, destaca como é que as falsificações digitais, muito devido à proliferação da IA generativa, atingiram um novo nível de engano, aumentando em milhares os números de fraudes. As práticas para enganar os utilizadores, que incluem imagens manipuladas e deepfakes, vão além de uma mera autenticidade visual, uma vez que têm um impacto directo na cibersegurança e que colocam em causa a confiança depositada na veracidade dos meios de comunicação com conteúdos visuais. Parece que perdemos a capacidade de confiar nos nossos olhos», afirma Kaminsky.
Há anos que se verifica a existência de fraudes através da utilização de imagens e vídeos falsos para enganar aos utilizadores online e em muitos casos, levá-los a gastar dinheiro. Entre as práticas mais comuns, levadas a cabo pelos cibercriminosos, estão as fotografias utilizadas para fins sociais, como a imagem de um cãozinho abandonado “a precisar de ajuda”, a de uma figura pública a promover alguns planos suspeitos ou mesmo a fotografia de um cartão de crédito que dizem pertencer a um conhecido. Os autores de fraudes também utilizam imagens geradas por IA para perfis falsos em sites de encontros e redes sociais.
«As burlas mais sofisticadas recorrem a vídeos e áudios falsos de um responsável de uma empresa ou de um familiar da vítima para a levar a satisfazer os pedidos dos cibercriminosos. Recentemente, um colaborador de uma instituição financeira foi induzido a transferir 25 milhões de dólares para um grupo de cibercriminosos que tinham organizado uma chamada de vídeo com o director financeiro e colegas da vítima, onde todos estes vídeos eram deepfakes», destaca o especialista.
Para evitar ser vítima destes esquemas, o especialista partilha três estratégias que verificam a autenticidade e a origem de imagens e vídeos recebidos:
• Pesquisa inversa de imagens. A tentativa de encontrar anomalias na própria imagem não vai ajudar muito. Recomendamos que tente procurar cópias da fotografia na Internet através de ferramentas como a pesquisa inversa de imagens, do Google e o TinEye, que localizam a origem de uma imagem e a detectam a sua utilização maliciosa online.
• Análise de metadados e de erros. Os métodos mais populares incluem a análise dos metadados da imagem e a análise do nível de erro (ELA), que verifica a existência de ferramentas de compressão JPEG e que provam a existência de manipulações de imagens.
• Coligação para a Proveniência e Autenticidade de Conteúdos (C2PA). A C2PA inclui alguns dos principais intervenientes nas indústrias informática, fotográfica e dos media e procura verificar a autenticidade das imagens, desde a sua criação à sua publicação online.
«É essencial abordar este desafio a partir de uma perspectiva multidisciplinar que integre a comunicação, a tecnologia e a cibersegurança. As contrafacções digitais não só quebram a confiança na informação, como também representam uma ameaça à segurança e à privacidade dos utilizadores online», conclui Stan Kaminsky, especialista em segurança da Kaspersky.
Pode saber mais sobre este tema, clique aqui.
