Além do vale misterioso? Como saberemos o que é real e o que não é? Os desenvolvimentos em IA e aprendizado de máquina avançaram a passos largos, mas nem sempre com foco em nossa privacidade ou segurança.

Neste artigo exploratório, consideramos o que poderia acontecer com algumas das maiores mudanças na IA, se isso poderia inaugurar uma nova era para o crime cibernético e a maior questão de todas: estamos finalmente fazendo a transição para um mundo pós-verdade?

[Conheça o Avance Network a verdadeira comunidade criptografada de extremo a extremo]

Roubando seu rosto

Já se foi o tempo em que os golpistas podiam facilmente roubar sua foto de perfil, configurar uma conta falsa de mídia social e começar a fraudar outras pessoas - tudo em seu nome. Não estamos dizendo que isso não aconteça mais, mas os recursos de pesquisa reversa de imagens fornecidos por vários mecanismos de pesquisa tornaram mais fácil determinar se o indivíduo por trás de uma imagem de perfil é genuíno.

Mas hoje em dia existem mais contas falsas. This Person Does Not Exist é um site que fornece rostos humanos gerados por IA de pessoas que, você adivinhou, não existem. Ao contrário de usar uma foto de perfil roubada de uma pessoa existente, esses rostos gerados por IA são virtualmente indetectáveis. O que, como você pode imaginar, tornará as investigações de fraude um pouco mais difíceis de conduzir.

A pandemia deste ano agora normalizou completamente as videochamadas para qualquer coisa, desde educação até consultas médicas e exames de emprego. Mas e se a pessoa com quem você está fazendo videoconferência não for realmente quem diz ser? O software de troca facial agora é tão crível que o rosto de um ator pode ser substituído de maneira convincente pela aparência de outra pessoa. Qualquer um pode ser colocado em qualquer coisa - incluindo você. Retratos planos 2D podem agora ser convertidos em vídeos 3D. Essas imagens e vídeos de alta qualidade gerados por algoritmos de aprendizado de máquina são chamados de "deepfakes" e são capazes de troca de rosto, mimetismo facial, sincronização labial e movimento de corpo inteiro. Você já quis ver Sylvester Stallone como Kevin em Home Alone ? Agora você pode. E quanto a Jim Carrey como Jack Torrance em The Shining ? Isso também existe . Embora esses exemplos sejam novos, uma questão muito mais ameaçadora se esconde nas sombras.

E se a sua imagem fosse usada em um vídeo de vigilância falsificado mostrando você cometendo um crime que nunca havia cometido, em um lugar que você nunca tinha estado antes? Para ir mais longe, e se as condições ambientais também pudessem ser alteradas para qualquer especificação?

Agora é possível criar cenas e ambientes fotorrealísticos espaciais 5D (3x dimensões para localização e 2x dimensões para direções de visualização) com uma técnica chamada Neural Radiance Fields (NRF). Isso funciona agregando uma coleção de fotos de um único local para gerar cenas do mundo real totalmente exclusivas desse mesmo local.

Vamos ainda mais longe na toca do coelho. E se você contestasse a autenticidade desse hipotético vídeo falsificado com seus acusadores, apenas para encontrar um vídeo atualizado editado com uma mudança na hora do dia - ou mesmo na temporada? Acontece que isso pode realmente acontecer. Em 2017, pesquisadores da Nvidia apresentaram uma IA que podia mudar os vídeos do dia para a noite (e vice-versa) e do verão para o inverno (e vice-versa).

Pior ainda, e se seu rosto foi usado em um filme pornográfico sem o seu consentimento? Acontece que isso não apenas já acontece, mas é mais nefasto do que você pode imaginar. O uso de deepfakes na pornografia mudou de substituir o rosto de uma atriz pornô pelo de uma celebridade, para ser usado como uma ferramenta para vingança pornográfica ou mesmo extorsão.

As implicações de todos esses desenvolvimentos são gritantes e assustadoras.

Roubando sua voz

Não são apenas imagens e vídeos. Agora sua voz também pode ser roubada. Tecnologias como o OverDub da Descript estão liderando o caminho na clonagem de voz “ultra-realista”. O OverDub utiliza a tecnologia Lyrebird, que pode sintetizar uma recriação digital de qualquer voz, alimentando várias amostras vocais em um programa, de modo que possa agregar os dados de áudio para criar uma recriação realista dessa voz.

Novos exemplos da tecnologia incluem uma faixa escrita por IA sobre Mark Zuckerberg "interpretado" por Eminem, Donald Trump "recitando" o infame discurso de Darth Plagueis em Star Wars: Episódio III - A Vingança dos Sith e Jay-Z "fazendo rap" no “ Ser ou não ser ” solilóquio do Hamlet de Shakespeare . Embora seja divertido ouvi-los e considerar possíveis versões cover de músicas que você adoraria ouvir, a fraude de voz deepfake está aumentando, com um aumento na adoção de golpistas que utilizam a prática em chamadas de spam .

Em 2019, uma voz falsa foi usada para fraudar um CEO em US $ 243.000 . O CEO de uma empresa de energia não identificada com sede no Reino Unido foi levado a pensar que estava conversando com seu chefe com base no leve sotaque alemão e na cadência do discurso.

Roubando suas impressões digitais

As impressões digitais são um marcador universal da identidade humana com base em suas características únicas - especificamente arcos, voltas e espirais. Historicamente, a identificação por impressão digital tem sido usada pelas autoridades policiais desde o final do século XIX .

Em 2018, pesquisadores da Universidade de Nova York anunciaram que não apenas usaram uma rede neural para sintetizar impressões digitais artificiais - apelidadas de " DeepMasterPrints " - como também descobriram que essas impressões digitais poderiam atuar como uma "chave mestra" para enganar os sistemas de identificação biométrica. Além disso, verificou-se que essas impressões digitais eram capazes de imitar mais de 20% das amostras em um sistema biométrico.

DeepMasterPrints funciona explorando duas falhas em um sistema de impressão digital. O primeiro é que os sensores de impressão digital geralmente não leem uma impressão digital inteira, mas sim qualquer parte do dedo que é digitalizada. A segunda é que algumas características de impressão digital são mais comuns do que outras. Isso aumenta a margem de erro para a identificação positiva, mas irá corresponder a outras amostras no sistema por puro acaso.

Roubando sua criatividade

Como humanos, uma das últimas armas que nos resta em nossa difícil batalha com as máquinas é a criatividade . A capacidade de criar arte sempre foi considerada a única coisa que temos e que nos diferencia da inteligência artificial. Costuma-se dizer que empregos como artistas, escritores e músicos seriam teoricamente difíceis de serem substituídos por robôs.

Isso não é mais verdade.

Nada é mais sagrado?

Criação de arte

Em outubro de 2018, a casa de leilões de Nova York Christie's vendeu uma peça de arte produzida por IA intitulada Retrato de Edmond Belamy por incríveis 432.500 dólares. Sem surpresa, isso enviou ondas de choque por meio de círculos artísticos e não artísticos. O algoritmo por trás da pintura consiste em duas partes - um Gerador e um Discriminador. O sistema recebeu um conjunto de dados de 15.000 retratos pintados entre os séculos 14 e 20, que o Gerador usou para criar um retrato. O Discriminador então tenta discernir se o retrato gerado foi composto por humanos ou artificialmente feito, o que, em última análise, ajuda a determinar se o produto final é um sucesso.

Compondo música

Em 2019, o laboratório de pesquisa de IA OpenAI criou o MuseNet, uma rede neural profunda capaz de gerar composições de quatro minutos, usando dez instrumentos diferentes, em uma variedade de gêneros diferentes. MuseNet usa GPT-2, uma metodologia treinada para prever a progressão de uma composição. Em outras palavras, você pode alimentar o GPT-2 com uma parte de uma música e ele irá gerar o que ele pensa que logicamente viria a seguir. Aqui está um exemplo usando Take Me Home, Country Roads de John Denver. Ouça. É simultaneamente sereno e assustador.

A palavra escrita

Os dois exemplos acima são ótimos, filosoficamente falando, mas e se você não for um artista ou músico? Como a criatividade da IA ​​pode invadir sua vida diária como não criativa?

Apresentando GPT-3, um modelo de aprendizado profundo que é capaz de produzir uma variedade de conteúdo escrito que é quase indistinguível dos humanos. Um passo à frente do já mencionado GPT-2, a última iteração da série GPT-n da OpenAI conquistou a Internet.

Como os recursos de geração automática do MuseNet da OpenAI mencionados acima, o GPT-3 pode produzir uma variedade de tipos de conteúdo exclusivos com base em um conjunto de parâmetros. Então, por exemplo, você pode pedir ao GPT-3 para escrever um conto ou roteiro baseado em nada mais do que um gênero ou sugestão de escrita. Embora o GPT-3 seja excelente para gerar texto criativo e possa ser usado em algumas tarefas leves de marketing de conteúdo, ele não se sai tão bem com a produção de conteúdo factualmente preciso. Um dos exemplos mais notáveis ​​de seu uso no mundo real é um artigo publicado no The Guardian em setembro de 2020, escrito inteiramente por um robô.

Em agosto de 2020, Liam Porr, estudante da University of California, Berkeley, usou o GPT-3 para gerar um blog falso que se tornou o site mais comentado do Hacker News. Criado inicialmente como um experimento, Porr ficou surpreso ao ver como o blog era capaz de enganar milhares de leitores. Enquanto o blog ainda era tendência no Hacker News, apenas três ou quatro pessoas levantaram suas suspeitas de que poderia ter sido o trabalho de uma IA - era muito convincente.

Em outubro de 2020, um bot com GPT-3 começou a interagir com usuários em r / AskReddit sob o nome de usuário / u / thegentlemetre. Ao longo de uma semana, o bot interagiu com vários usuários do Reddit sem que ninguém soubesse de sua verdadeira identidade.

Superficialmente, esses exemplos parecem bastante inofensivos, mas quando aplicados à engenharia social ou à propaganda, tudo toma um rumo mais sinistro. Há preocupações crescentes de que, no futuro, a propaganda e a desinformação sejam geradas por IA. Dados os recursos da tecnologia mencionados acima, não é difícil imaginar análises de negócios falsas , acusações de racismo em plataformas de mídia social e até mesmo falsificações que influenciam as políticas públicas.

O Avance Network é uma comunidade fácil de usar que fornece segurança de primeira e não requer muito conhecimento técnico. Com uma conta, você pode proteger sua comunicação e seus dispositivos. O Avance Network não mantém registros de seus dados; portanto, você pode ter certeza de que tudo o que sai do seu dispositivo chega ao outro lado sem inspeção.