Deepfakes estão cada vez mais difíceis de serem detectados, tanto pelo olho humano quanto por ferramentas tecnológicas. Uma análise recente do PC World revelou que muitas plataformas de segurança estão falhando na identificação de conteúdos manipulados por inteligência artificial.
Qualidade das Manipulações Supera Ferramentas
O problema ficou evidente em um vídeo publicado no TikTok, onde uma mulher aparece vendendo um produto. Tudo parecia normal até que ela colocou os dedos no meio da cartilagem do nariz de uma forma estranha e nada comum para ações humanas. O vídeo impressiona pela qualidade da manipulação, passando ileso por ferramentas de detecção mesmo sendo um deepfake.
Nem mesmo plataformas públicas bastante usadas por usuários conseguiram entregar estimativas precisas a respeito do conteúdo feito por IA. Por exemplo, o site deepfakedetector.ai, acessado durante a análise, afirmou que a probabilidade do vídeo ser um deepfake variava entre 5% a 24%. A resposta da ferramenta dizia ainda que o material contava com detalhes e expressões faciais nítidas, profundidade de campo, interação natural com objetos e movimentos oculares e frequência de piscadas convincentes.
Desempenho Variado das Ferramentas
Por outro lado, o Hive Moderation, recurso que também é usado para detectar vídeos feitos por deepfake, entregou uma resposta mais satisfatória e confiável, identificando o vídeo como um material gerado por inteligência artificial. Essa disparidade de desempenho entre as ferramentas demonstra que a corrida contra os deepfakes ainda está desequilibrada.
Como Detectar Golpes com Deepfakes
Um bom jeito de não cair no conto das deepfakes é sempre desconfiar. Em um mundo onde vídeos e imagens manipuladas por IA se tornam cada vez mais condizentes com a realidade, ter um senso de ceticismo diante de produções de conteúdo na internet é fundamental para evitar cair em um golpe.
No caso do vídeo do nariz citado acima, a pessoa que está por trás do deepfake provavelmente está fazendo aquilo para enganar os usuários, apresentando o produto vendido como algo feito manualmente ao invés de ser fabricado em uma linha de produção para justificar um valor alto, por exemplo.
Estratégias de Proteção
Também é possível fazer uma captura de tela do produto vendido na internet e aplicar uma busca reversa de imagens no Google Lens, que permite ao usuário a descoberta da origem, do contexto ou fotos similares de uma imagem enviada. Ainda é possível pesquisar palavras-chaves ou frases que descrevem o item, verificando a confiança daquele perfil.
Vale ressaltar que prestar atenção aos detalhes do vídeo é uma ação fundamental para analisar piscadas irregulares, sincronia labial estranha, sombras inconsistentes e outros movimentos faciais que pareçam antinaturais, como o do vídeo do nariz.
Conclusão
A corrida contra os deepfakes está acirrada, e as ferramentas de detecção estão tendo dificuldades para acompanhar o ritmo das evoluções tecnológicas. Enquanto as plataformas de segurança não se atualizarem, a melhor defesa continua sendo a desconfiança e a atenção aos detalhes por parte dos usuários. Ficar informado sobre as últimas técnicas de manipulação e manter um olhar crítico sobre o conteúdo online são passos essenciais para não cair em golpes com deepfakes.