Vídeo com voz clonada de ex-CEO da Binance destaca perigo das deepfakes

Changpeng "CZ" Zhao, ex-CEO da Binance, relatou ter encontrado um vídeo gerado por inteligência artificial que imita sua voz com tamanha precisão que ele não conseguiu distinguir da gravação real. A publicação, compartilhada em uma rede social, apresenta Zhao falando em mandarim, com movimentos faciais sincronizados de forma assustadora, segundo ele.

O vídeo, que combina trechos de vídeos e fotos, reacendeu preocupações sobre o uso não autorizado de IA para imitar figuras públicas. O caso se junta a uma série de incidentes em que executivos do setor de criptomoedas foram alvos de clonagem digital através de ferramentas de geração de conteúdo, por vezes usadas para golpes.

Em 2023, o então chefe de comunicação da Binance revelou que golpistas usaram uma simulação em vídeo para realizar reuniões com representantes de projetos via Zoom, utilizando entrevistas públicas para criar imagens sintéticas. Zhao já havia alertado sobre tentativas de golpes envolvendo deepfakes, recomendando que usuários não confiem em vídeos solicitando transferências de criptomoedas.

Tecnologias de clonagem de voz evoluíram para exigir apenas poucos segundos de gravação para gerar cópias convincentes. Ferramentas de nível consumidor, como ElevenLabs, conseguem criar essas réplicas com menos de 60 segundos de áudio. Relatórios apontam que esses serviços estão disponíveis a preços acessíveis em mercados clandestinos, por até US$ 5, enquanto modelos comerciais oferecem mais restrições.

Apesar de novos regulamentos, como o Ato de Inteligência Artificial da União Europeia, que exige identificação clara de conteúdos gerados por IA, a aplicação dessas regras ainda está distante. Fabricantes de hardware começaram a desenvolver ferramentas para detectar manipulações em tempo real, mas essas soluções ainda não estão amplamente disponíveis no mercado.