Você já quis ver seu rosto em um filme? Bem, agora você pode! Sempre quis ver como você se sairia como vocalista de sua banda favorita? Você também pode fazer isso com a ajuda dos principais aplicativos deepfake, que permitem que você enfrente a troca com facilidade.

As possibilidades de aplicação da troca facial são infinitas, especialmente na indústria do entretenimento. Mas nem tudo é diversão e jogos. Há um enorme potencial para o abuso da tecnologia , especialmente em relação ao cyberbullying e à pornografia falsa. Na era das chamadas “notícias falsas”, você realmente não deveria aceitar nada do que vê na Internet pelo valor de face - literalmente, no caso de falsas profundas. Os desenvolvedores de aplicativos deepfake também detêm um tremendo poder sobre o grande volume de dados pessoais fornecidos pelos usuários, levantando sérias preocupações em torno da privacidade dos dados.

Como funciona a tecnologia deepfake?

A tecnologia Deepfake utiliza uma combinação de inteligência artificial e aprendizado de máquina para produzir saída de áudio e visual de alta qualidade. Isso geralmente envolve alimentar um programa com centenas, senão milhares, de imagens ou amostras de áudio para treiná-lo para produzir modelos realistas. No nível do consumidor, o uso mais comum é em aplicativos deepfake em smartphones que pegam as características faciais de um usuário e 1) sobrepõem seu rosto em outra cabeça ou 2) sobrepõem outro rosto ao seu.

Principais aplicativos deepfake

De modo geral, cada desenvolvedor nesta lista afirma coletar apenas informações relevantes para a função de seus respectivos aplicativos. Depois de processados, os dados carregados pelo usuário são excluídos. Nem são usados ​​para treinar algoritmos de aprendizado de máquina fora da função dos aplicativos. Se isso é verdade ou não, ainda não se sabe , já que atualmente não há supervisão regulatória oficial para monitorar aplicativos deepfake. Vejamos os seis principais aplicativos deepfake e algumas das controvérsias notáveis ​​sobre como eles usam dados pessoais que você deve considerar antes de baixá-los. 

FaceApp

Provavelmente o aplicativo mais conhecido desta lista, o FaceApp é um aplicativo de edição de fotos e vídeos extremamente popular da Wireless Lab que gera transformações extremamente realistas de rostos humanos. O aplicativo tem ganhado força de forma constante, acumulando mais de meio bilhão de downloads desde seu lançamento em 2016. Seus recursos mais populares incluem a capacidade de trocar de gênero, envelhecer ou reduzir a idade das fotos de um usuário.

Em 2019, o desenvolvedor de aplicativos russo foi atacado por linguagem ambígua em sua política de privacidade, permitindo-lhe usar os rostos e semelhanças dos usuários para fins comerciais. Além disso, não estava claro onde o aplicativo armazenava as fotos enviadas e por quanto tempo. Questões foram levantadas sobre se os dados do usuário são armazenados ou não em servidores russos; no entanto, Yaroslav Goncharov, o proprietário do FaceApp, declarou oficialmente que o aplicativo não compartilha nenhum dado enviado pelo usuário com as autoridades russas.

Zao

Considerado a resposta chinesa ao FaceApp, o Zao vem com recursos semelhantes - e controvérsias semelhantes. Zao foi criado por uma subsidiária da empresa de tecnologia chinesa Momo, que desenvolve aplicativos sociais e de namoro. O principal recurso do Zao permite que os usuários façam upload de retratos e troquem seus rostos com os de celebridades em uma seleção de videoclipes usando seu mecanismo de IA.

Quando Zao foi lançado em agosto de 2019, ele disparou para o topo das paradas como um dos aplicativos deepfake mais populares na App Store da Apple. Pouco tempo depois, o acordo do usuário do Zao foi submetido a escrutínio público, pois fornecia à Momo direitos totais e permanentes para redirecionar o conteúdo gerado pelo usuário da maneira que achar adequada. Isso foi tão bom quanto você imagina com os usuários. Curiosamente, a polêmica ganhou força suficiente para que a mídia estatal chinesa também expressasse suas preocupações sobre a questão da privacidade.

Reface

Lançado inicialmente em janeiro de 2020 como Doublicat pelo desenvolvedor ucraniano Neocortext , o aplicativo foi renomeado como Reface cerca de meio ano depois. Ele rapidamente se tornou um dos principais aplicativos deepfake no Google Play e na Apple App Store em mais de 100 países. O Reface usa a tecnologia GAN AI para transformar as fotos fornecidas pelo usuário e a entrada de vídeo ao vivo com trocas de gênero e troca de rostos de celebridades ou personagens de filmes.

Reface lidou com alguma controvérsia para uma seção em seus termos de uso que afirma que o uso do aplicativo concede à Neocortext " licença perpétua para criar trabalhos derivados de, exibir, transmitir, executar publicamente e exibir publicamente o conteúdo gerado em qualquer forma e em qualquer e todos os meios de comunicação ou métodos de distribuição. ”A Reface afirmou que todas as imagens carregadas pelos usuários serão excluídas do Google Cloud dentro de uma hora.

Avatarify

Como o nome sugere, Avatarify dá vida à sua foto enviada. O mecanismo de IA do Avatarify permite aos usuários transformar suas imagens em retratos cantados, desenhos animados ou trocá-los em vídeos de celebridades. Imagens de animais de estimação também podem ser animadas. 

Lançado em julho de 2020, o aplicativo ganhou um grande número de seguidores depois que os vídeos do Avatarify se tornaram virais no TikTok e Douyin, a versão chinesa do TikTok. No entanto, no início de 2021, a Apple removeu o Avatarify de sua loja de aplicativos na China depois que preocupações relacionadas à privacidade foram levantadas. 

Wombo

Lançado em fevereiro de 2021 e descrito pelos desenvolvedores Wombo Studios como “o melhor aplicativo de sincronização labial com IA do mundo”, o Wombo é outro aplicativo popular que permite aos usuários transformar suas selfies em retratos cantados. Uma variedade de músicas populares são oferecidas no aplicativo para os usuários escolherem. Em contraste com outras entradas nesta lista, a política de privacidade do Wombo declara nenhuma intenção de reaproveitar o conteúdo gerado por sua base de usuários e que todas as imagens carregadas são excluídas imediatamente após o processamento.

Voilà AI Artist

E agora algo um pouco diferente. O desenvolvedor Wemagine. AI criou o Voilà AI Artist, um aplicativo deepfake que permite aos usuários transformar seus rostos em desenhos 3D, caricaturas desenhadas à mão e até pinturas da era renascentista. Tal como acontece com outros aplicativos deepfake nesta lista, Voilà AI Artist afirma excluir todas as imagens carregadas pelos usuários após um breve período de tempo - neste caso, entre 24 e 48 horas.

Estranhamente - ou não? - os termos de serviço do Wemagine.AI declaram literalmente o que os termos de uso da Reface fazem sobre o conteúdo gerado pelo usuário. Especificamente que: “ licença perpétua para criar trabalhos derivados, exibir, transmitir, executar publicamente e exibir publicamente o conteúdo gerado em qualquer forma e em toda e qualquer mídia ou método de distribuição. ”

Talvez seja o padrão? Talvez isso mostre que a privacidade é uma reflexão tardia? Certamente aumenta a conversa sobre a privacidade dos dados dos usuários, e os usuários devem pensar com muito cuidado antes de compartilhar suas fotos com aplicativos e serviços online.

Leia Também: Nova tecnologia de IA é um mau presságio para roubo de identidade, golpes e propaganda

O Avance Network é uma comunidade fácil de usar que fornece segurança de primeira e não requer muito conhecimento técnico. Com uma conta, você pode proteger sua comunicação e seus dispositivos. O Avance Network não mantém registros de seus dados; portanto, você pode ter certeza de que tudo o que sai do seu dispositivo chega ao outro lado sem inspeção.