App chinês cria deepfakes, viraliza e gera preocupação

Os usuários chineses do iPhone estão migrando para um novo aplicativo chamado Zao para fazer seus próprios deepfakes. Os usuários podem encenar filmes e séries, e o resultado final parece muito autêntico.

Por Segurança digital Pular para comentários

Um aplicativo chinês que permite aos usuários trocar de rosto de maneira muito autêntica, interpretando personagens de filmes ou séries, está dando o que falar. Lançado na App Store da China no último dia 30 de agosto, rapidamente se tornou um dos aplicativos mais baixados na loja da Apple chinesa.

Com a tecnologia deepfake, o app precisa de uma só foto do usuário para inserir o rosto em personagens interpretados por Leonardo DiCaprio, por exemplo.

Os usuários fornecem uma série de selfies nas quais piscam, movem a boca e fazem expressões faciais, e o aplicativo usa as imagens para inserir em filmes ou seriados.

Os desenvolvedores tiveram que emitir uma declaração no último domingo se comprometendo com mudanças, depois que os críticos atacaram a política de privacidade do aplicativo, que tinha direitos "gratuitos, irrevogáveis, permanentes, transferíveis e relicenciados" a todo o conteúdo gerado pelo usuário.

Existe a preocupação com os deepfakes, que usam inteligência artificial para parecer genuína. Os críticos dizem que a tecnologia pode ser usada para criar vídeos falsos para manipular eleições, difamar alguém ou potencialmente causar distúrbios, espalhando desinformação em grande escala.

"Entendemos as preocupações com a privacidade. Recebemos o feedback e corrigiremos os problemas que não levamos em consideração, o que levará algum tempo", afirmaram em um comunicado os representantes da desenvolvedora Momo Inc, um serviço de namoro do tipo Tinder, listado na Nasdaq dos EUA.

Desde então, mudou seus termos para dizer que não usará fotos ou vídeos enviados pelos usuários, exceto para melhorar o aplicativo. Também se comprometeu a remover de seus servidores qualquer conteúdo carregado, mas posteriormente excluído pelos usuários.

As preocupações com os deepfakes aumentaram desde a campanha eleitoral dos EUA em 2016, que viu amplo uso de desinformação, de acordo com as investigações.

Em junho, o SEO do Facebook, Mark Zuckerberg, disse que a rede social estava lutando para encontrar maneiras de lidar com vídeos deepfake, dizendo que eles podem constituir "uma categoria completamente diferente" de desinformação, diferente de qualquer outra coisa que tenhamos visto.

O aplicativo não está disponível na App Store nem na Google Play, nem no Brasil e nem nos Estados Unidos, mas é possível encontrar um APK para download no Android.

Compartilhe com seus amigos:
Priscilla Kinast
Priscilla Kinast Estudante de Ciência e Tecnologia na UFRGS - Universidade Federal do RS, apaixonada por inovações tecnológicas, mistérios da ciência, bem como filmes e séries de ficção científica
FACEBOOK // INSTAGRAM: @priscillakinast // TWITTER: @prkinast
Quer conversar com o(a) Priscilla, comente:
Carregar comentários
Quantos celulares a Motorola tem em linha?
5(14,82%)
10(58,15%)
15(11,52%)
20(7,48%)
26(8,02%)