Um homem em Xangai, na China, perdeu mais de US$ 27.000 (cerca de R$ 150 mil) após ser enganado para um relacionamento online com uma namorada falsa gerada por inteligência artificial, informou a mídia estatal chinesa.
Os golpistas usaram um programa de IA generativa para criar vídeos e fotos realistas de uma jovem mulher imaginária, de acordo com a emissora pública CCTV. A vítima transferiu quase 200.000 yuans (cerca de US$ 27.580) para o que ele pensou ser a conta bancária de sua namorada.
Uma pessoa falsa criada com IA
Os criminosos usaram vídeos e fotos falsos para convencê-lo de que ela precisava de fundos para abrir um negócio e ajudar um parente a pagar despesas médicas.
Eles até criaram registros médicos e uma carteira de identidade fictícia para dar credibilidade ao seu esquema. Na verdade, esses golpes deepfake geralmente criam personas fictícias que são convincentes para 70% das pessoas, de acordo com a empresa de segurança Kaspersky.
A operação foi realizada por uma “equipe de golpistas que enviaram vídeos e fotos criados por IA ou combinando múltiplas imagens”, disse a CCTV, citando uma investigação policial. A vítima “nunca conheceu” sua suposta namorada pessoalmente, observou o canal.
Um vídeo transmitido pela CCTV mostra fotos de uma mulher em diferentes situações, como posando com uma paleta de tinta ou em uma rua da cidade.
O surgimento de ferramentas de inteligência artificial capazes de gerar imagens, vídeos e textos convincentes está dando origem a golpes cada vez mais sofisticados ao redor do mundo, pois é possível simular imagens, vídeos e até chamadas de áudio e vídeo com extremo realismo.
No início deste mês, a gigante de mídia social dos EUA Meta pediu aos usuários da internet que tenham cuidado com relacionamentos online, observando que os golpes que usam IA generativa estão aumentando.
E no ano passado, a World, a plataforma de criptomoedas de Sam Altman (o CEO da OpenAI), apresentou uma ferramenta de verificação de “humanidade” que aponta nessa direção: um sistema que valida que do outro lado de um chat há uma pessoa real e não uma IA golpista.
O Globo