A controvérsia das deepfakes

A controvérsia das deepfakes

Heitor Augusto Colli Trebien

Quando a prática segue valores éticos e quando pode afetar a integridade de alguém?

A deepfake é uma técnica embasada em deep learning de inteligência artificial. Deep learning significa, em tradução livre, “aprendizagem profunda”, enquanto deepfake poderia ser “profundamente falso”. A máquina, no deep learning, aprende através de algoritmos. Quando ocorre o deepfake a máquina recria a imagem e a voz de uma personalidade já existente, por isso o caráter falso, pois ela pode imitar o rosto de alguém e recriar a sua voz em uma situação totalmente diferente da original. 

Fonte: Site do Storyset – Illustration by Freepik Storyset

Westerlund conceitua a prática como vídeos hiper-realistas manipulados digitalmente para retratar pessoas dizendo e fazendo coisas que nunca aconteceram. As deepfakes dependem de redes neurais que analisam grandes conjuntos de amostras de dados com o objetivo de aprender a imitar as expressões faciais de uma pessoa, seus maneirismos, sua voz e entonações. Como o autor menciona, as deepfakes usam mapeamento facial oriundo de tecnologia IA para sobrepor o rosto de uma pessoa sobre o de outra.

De modo geral, Westerlund descreve que a deepfake é o produto da GAN – Generative Adversarial Networks – ou Rede Adversária Generativa (RAG, em tradução livre). As GANs atuam a partir de duas redes neurais artificiais que competem entre si para criarem uma mídia de aparência realista. Essas duas redes neurais são reconhecidas como “o gerador” e “o discriminador”, treinadas no mesmo conjunto de dados de imagens, vídeos e sons. “O gerador” tenta criar novas amostras que são boas o suficiente para enganar a segunda rede – “o discriminador” – que trabalha para determinar se a nova mídia parece real. 

 No cinema, essa técnica de edição audiovisual já havia sido utilizada, mas cada vez mais ela atinge as pessoas no dia a dia. Cabral comenta que em 2017 um usuário do Reddit, chamado Deepfakes, usou a técnica para postar vídeos pornográficos falsos com rostos de famosas. Dentre as vítimas, foram usadas as imagens das atrizes Gal Gadot (a Mulher Maravilha) e Emma Watson (Hermione Granger na saga Harry Potter). 

Em 2017, como noticiado pela MIT Technology Review, a repórter Samantha Cole do site vice, na seção Motherboard (Placa-mãe) destinado à tecnologia, comenta que o usuário que criou filmes pornôs falsos de Gal Gadot se intitulava “deepfakes”. Isso fez com que a prática fosse vista de forma extremamente negativa, o que faz sentido considerando que a técnica se popularizou a partir da criação de pornografias falsas, que violentavam a imagem de muitas mulheres. 

Com o tempo, a técnica foi usada em outros contextos. Ramalho e Wakka mencionam que em 2019 usaram a técnica para colocar o rosto do ator Nicolas Cage no presidente Donald Trump, como se pronunciasse o discurso presidencial. Nesse caso, foi uma brincadeira sem implicações nocivas, entretanto, em outros casos a deepfake pode afetar as relações políticas e influenciar as chamadas fake news, ou notícias/informações falsas, o que leva à discussão ética dessa prática. 

No Brasil, como Ramalho também cita, memes foram criados, como o vídeo de Bruno Sartori que ironiza a relação de Bolsonaro com Lula. O vídeo pode ser visto através deste link: Lula canta Mariah Carey. Nesse caso, a deepfake foi usada para entretenimento e sabemos claramente que não é o Lula cantando. Mas existem casos em que a montagem é muito bem produzida e não referenciada, o que pode causar danos morais à vida de alguém. A técnica está se tornando tão comum que filtros do instagram e do snapchat já podem usar a voz e imagem do usuário e colocá-la em outro contexto.

Storyset – Illustration by Freepik

O site deepfakes oferece tutoriais em inglês sobre como fazer uma deepfake, a partir da mistura de um vídeo A com um vídeo B. Existe o plano básico e o plano premium, para pessoas que podem pagar e querem aprofundar as técnicas de reproduzir um vídeo falso de modo preciso, extremamente similar ao real (vídeo A). De modo geral, a técnica consiste em fornecer para a máquina vários vídeos, fotos e áudios e através de algoritmos, a Inteligência Artificial aprende como aquela pessoa fala e reage, quais os movimentos do rosto e alguns de seus trejeitos. Em seguida, analisa o rosto B e procura pontos de encontro nas expressões faciais e faz uma sobreposição da imagem A sobre B, fazendo com que o A fale sobre o B.  

Portanto, devemos ter cuidado redobrado ao utilizar essas ferramentas, tanto para nos protegermos quanto para identificarmos quando alguém é vítima disso. O debate envolve proteção jurídica cibernética e quando a imagem e a voz são usadas de forma indevida e sem consentimento, deve-se procurar a ajuda de advogados ou da Defensoria Pública. 

Silva cita a Witness, uma organização internacional e sem fins lucrativos que busca a utilização de vídeos para a defesa dos direitos humanos. Com uma equipe de profissionais capacitados e qualificados, buscam investigar vídeos verdadeiros e falsos para diferenciá-los. Eles combatem as fake news e procuram proteger a integridade e credibilidade das imagens, áudios e vídeos compartilhados. Oferecem tutoriais para proteção de dados e como utilizar vídeos para a exposição da violência, por exemplo.  

Silva ainda comenta formas de lidar com as deepfakes, dentre elas, ele menciona que a própria popularidade da técnica pode contribuir na identificação desse tipo de produto. Cada vez mais essa tecnologia se fará presente em nossas vidas, não há como fugir dela, mas podemos nos informar sobre como elas funcionam. Ao nos habituarmos e entendermos essa prática, ficará mais fácil questionar se o vídeo é real ou não. Além disso, a mesma tecnologia usada para criar as deepfakes pode ser usada para expô-la. É possível usar a Inteligência Artificial tanto para identificar recursos audiovisuais manipulados como para reverter esse processo e com a popularidade as pessoas irão aprender a fazer isso. 

A sugestão do autor é: questione, desenvolva pensamento crítico e analise o material da internet. Não receba tudo como verdade, não procure apenas por informações que apenas confirmem a sua determinada crença, mas desenvolva a habilidade de colocar determinado assunto em discussão e investigue o contexto de onde aquilo vem. Aproveite a internet para construir conhecimento, com diálogo aberto e flexível. Já comentamos sobre as deepfakes em contextos pornográficos, políticos e de redes sociais. Assim, levanta-se a questão: existem situações em que as deepfakes trazem benefícios?

 Quando as deepfakes podem ser bem utilizadas?

Mohamed Hassan por Pixabay

As deepfakes podem ser usadas no cinema, como citado anteriormente. Podem ser lucrativas para celebridades e influencers, como comenta Vincent. A empresa estado unidense Veritone, com a plataforma MARVEL.ai, permite que figuras da mídia, atores e qualquer outra pessoa possa clonar a sua voz para licenciá-la da forma que desejar. Por exemplo, atores e interlocutores não podem estar em todos os lugares ao mesmo tempo, usando suas vozes nos estúdios. Entretanto, podem copiá-la e usá-la da forma que quiserem. Com o tempo, a plataforma ainda poderá trazer a voz de pessoas que já morreram a partir de arquivos treinados por Inteligência Artificial.

No cinema, Vincent menciona que a deepfake pode ajudar a traduzir filmes e programas de TV sem perder a performance original do artista. Surgiu um novo termo, o deepfake dubs – dublagem falsa – que indica a situação em que a boca é alterada para parecer que está falando o idioma traduzido. A empresa Flawless procura desenvolver essa tecnologia, para que as dublagens de filmes para outros idiomas sejam mais suaves para o novo espectador. Como apenas a boca é modificada para assemelhar-se à pronúncia da língua traduzida, a atuação poderá ser preservada da melhor maneira possível, com o efeito de que o artista pronuncia as palavras como no idioma da dublagem. E como é uma modificação mais simples e específica, não exige tantos gastos financeiros e é mais rápido para alcançar resultados.  

As deepfakes ainda podem ser usadas na ciência e na educação. Em entrevista com a Coordenadora Educacional Aglaia Ruffino Jalles, estudante de linguística da universidade canadense Concordia, localizada em Montreal, descobrimos a Katalís, uma associação estudantil que busca a inclusão de grupos marginalizados devido a sua origem, cor de pele e gênero. Dentre suas atividades, estão desenvolvendo projetos para criar Inteligências Artificiais, com apoio tecnológico da Velip,  com o rosto de mulheres da ciência, mais especificamente da área STEM – Science, Technology, Engineering and Math – isto é, pessoas que atuaram na ciência, na tecnologia, na engenharia e na matemática. Sabe-se que muitas tiveram participação nessas áreas, como a ganhadora dos prêmios Nobel de Física e Química Marie Curie, mas foram por muitos séculos excluídas. Assim, o projeto trará de volta essas pessoas, para aprendermos ciência através de sua voz.

Referências:

CABRAL, Isabela. O que é deepfake? Inteligência artificial é usada para fazer vídeo falso. Disponível em: <https://www.techtudo.com.br/noticias/2018/07/o-que-e-deepfake-inteligencia-artificial-e-usada-pra-fazer-videos-falsos.ghtml>. Acesso em: 18 de mai. 2021.

FACULDADE UNYLEYA. Deepfake: entenda por que ele é uma ameaça à segurança digital. Disponível em: <https://blog.unyleya.edu.br/bitbyte/deepfake/>. Acesso em: 18 de mai. 2021.

GOGONI, Ronaldo. O que é Deep Fake e porque você deveria se preocupar. Disponível em: <https://tecnoblog.net/264153/o-que-e-deep-fake-e-porque-voce-deveria-se-preocupar-com-isso/>. Acesso em: 18 de mai. 2021. 

LIMA, Ramalho. Deepfake: o que é e como funciona. Disponível em: <https://www.tecmundo.com.br/internet/206706-deepfake-funciona.htm>. Acesso em: 18 de mai. 2021. 

MIT Technology Review. O ano em que os deepfakes se tornaram populares: Em 2020, a mídia gerada por Inteligência Artificial (IA) começou a emergir dos cantos mais sombrios da Internet. 19 fev. 2021. Disponível em: <https://mittechreview.com.br/o-ano-em-que-os-deepfakes-se-tornaram-populares/>. Acesso em: 1 jun. 2021.

SILVA, Rafael. Deepfakes no Brasil – Parte 1: o estado das fake news brasileiras em 2019. Disponível em: <https://canaltech.com.br/redes-sociais/deepfakes-no-brasil-parte-1-o-estado-das-fake-news-brasileiras-em-2019-152981/?fbclid=IwAR0dhKpf_xr_nD0KEj7TnnE9pCa3uhBnGyAr8omPA-HXLWZq4bvLhwv4r6E>. Acesso em: 18 de mai. 2021.

SILVA, Rafael. Deepfakes no Brasil – Parte 2: a ameaça fantasma de nossa democracia. Disponível em: <https://canaltech.com.br/internet/deepfakes-no-brasil-parte-2-a-ameaca-fantasma-de-nossas-democracias-153453/>. Acesso em: 18 de mai. 2021.

SILVA, Rafael. Deepfakes no Brasil – Parte 3: como se proteger dos vídeos falsos. Disponível em: <https://canaltech.com.br/inteligencia-artificial/deepfakes-no-brasil-parte-3-como-se-proteger-dos-deepfakes-153963/>. Acesso em: 19 de mai. 2021.

VINCENT, James. Deepfake dubs could help translate film and TV without losing an actor’s original performance. Disponível em:

<https://www.theverge.com/2021/5/18/22430340/deepfake-dubs-dubbing-film-tv-flawless-startup>. Acesso em: 19 de mai. 2021.

VINCENT, James. Veritone launches new platform to let celebrities and influencers clone their voice with AI: Deepfake voices could be a lucrative business for influencers. Disponível em: <https://www.theverge.com/2021/5/14/22432180/voice-clone-deepfake-celebrities-influencers-veritone-ai-platform>. Acesso em: 18 de mai. 2021.

WAKKA, Wagner. O que é deepfake e como ela funciona?. Disponível em: <https://canaltech.com.br/inteligencia-artificial/o-que-e-deepfake-e-como-ela-funciona-162167/>. Acesso em: 18 de mai. 2021.

WESTERLUND, Mika. The Emergence of Deepfake Technology: A Review. Technology Innovation Management Review, v. 9, issue 11, nov. 2019. Disponível em: <https://timreview.ca/article/1282>. Acesso em: 18 mai. 2021.