Já pensou em comprar um ingresso para o cinema para ver aquele ator que você gosta, e descobrir que ele foi substituído por uma tecnologia que copia a sua imagem? Não sei se o público gostaria, mas esta pode ser uma realidade próxima. Inclusive, essa é a proposta da tecnologia chamada Deepfake.
Para quem tinha dúvidas que a inteligência artificial (IA) iria revolucionar o mundo, podemos te provar neste artigo. A IA está em praticamente todos os ambientes virtuais e a tendência é que isso aumente cada vez mais. Agora, será possível gravar um vídeo seu sem necessariamente estar nele. Ficou curioso? Acompanhe este conteúdo.
Veja quais conteúdos encontrará neste texto:
- O que é a tecnologia Deepfake e como funciona?
- Vídeo explicativo;
- Pontos negativos e positivo do método;
- Como desmascarar o Deepfake.
O que é Deepfake?
O Deepfake é um termo inglês que significa “falsificações profundas”, em português. É uma tecnologia que utiliza inteligência artificial para produzir vídeos falsos, porém muito realistas. Trata-se de uma cópia de uma determinada pessoa que, no vídeo, faz coisas que a versão verdadeira nunca fez.
A tecnologia já rendeu algumas saias justas para figuras públicas, em razão dos conteúdos obscenos com celebridades e discursos fictícios de grandes influenciadores como presidentes. A técnica está sob os holofotes pois existem discussões sobre a ética e consequências do seu uso.
O Deepfake é um termo novo que surgiu no final de 2017, quando um usuário do Reddit, uma rede social voltada para comunidade de fóruns, postou vídeos pornográficos falsos com pessoas famosas. Com os programas de deep learning, ele conseguia utilizar rostos que queria em vídeos que já existiam.
Detalhes sobre a criação da técnica
O deep learning deu origem ao Deppfake, já que o usuário do Reddit utilizava este recurso em razão dele aumentar a capacidade do computador de detectar, reconhecer e descrever o conteúdo. Assim, as primeiras celebridades que tiveram sua figura usada por esta tecnologia foram as atrizes Emma Watson e Gal Gadot.
A grande sacada do Deepfake não é criar cenas e rostos no audiovisual, já que o cinema já utiliza isso há um bom tempo, mas sim pela rapidez e facilidade com que isto pode ser feito. A tecnologia utilizada nos filmes é muito mais caro, o que torna a “falsificação profunda” ainda mais atrativa já que o custo é significativamente menor e simples.
Qualquer pessoa que usa a internet consegue ter acesso aos conhecimentos e algoritmos de deep learning. Basta ter diversidade de imagens para criar o vídeo de mentira e um processador gráfico de qualidade.
Como funciona
Para criar Deppfake é necessário usar softwares que tenham código aberto, ou seja, programas que devem ser abertos para qualquer um acessar. O usuário que utilizou a tecnologia pela primeira vez falou em entrevista ao site Motherboard que utilizou o software TensorFlow. Veja de forma dinâmica como funciona:
Desse modo, a pessoa fornece vídeos e fotos das pessoas que deseja copiar no vídeo e de forma automática são processadas pela rede. Posteriormente, o computador faz a leitura do rosto, como ele reage às sombras e à luz e como ele se mexe. Nesta fase, o sistema dá início a uma fase que pode ser entendida como um treinamento.
Essa espécie de treinamento é realizada com a face do vídeo original até que o sistema encontre algo em comum entre os dois rostos. Feito isso, o software faz a adaptação de uma face sobre a outra. Logo, o computador recebe a imagem de uma pessoa e processa como se fosse outra. Essa mesma tecnologia pode ser usada nos filtros do Instagram
Ex-presidente Obama e o Deepfake
Achou que os casos de Deepfake com figuras públicas tinha acabado? Se enganou. Um dos vídeos falsos mais populares criados com esta tecnologia foi um clipe do ex-presidente norte-americano Barack Obama. O conteúdo deu o que falar, pois Obama xingava o também ex-presidente Donald Trump.
Ainda, existe outro vídeo de Trump com paródia e falas engraçadas no Saturday Night Live, um programa de humor televisionado nos Estados Unidos. Com o Deepfake é possível fazer praticamente o que quiser com a imagem de alguém influente, o que pode ser perigoso. Essa questão entra no debate sobre a desinformação da sociedade.
Afinal, qualquer pessoa que utilizar a tecnologia poderá influenciar de alguma forma a opinião pública, o que deixa ainda mais claro o perigo do uso da imagem de pessoas como Trump e Obama. No decorrer do texto veremos mais sobre os pontos negativos e quais problemas podem acarretar a longo prazo.
Quais são as vantagens da tecnologia
Embora muita gente critique a tecnologia Deepfake, existem pontos positivos no uso dessa técnica. Principalmente, quando falamos da rápida capacidade que o computador tem de realizar a reconstrução e o reconhecimento facial. Apesar de ser um termo novo, é possível encontrar funcionalidades parecidas na internet.
Exemplos disso são as mensagens personalizadas que utilizam expressões faciais e a voz do usuário, como os animoji da Apple. Como mencionado anteriormente, o Instagram e o Snapchat trabalham com os filtros que reconhecem o rosto do internauta e o transformam com base no filtro escolhido.
Além disso, a indústria audiovisual, incluindo o cinema, pode lucrar com o uso do Deepfake tendo em vista que é uma técnica capaz de produzir facilmente efeitos especiais. Para os produtores de conteúdo com baixo orçamento, esse método pode ser ideal pelo fato de ser mais barato.
Como será no futuro
O diretor da MultiComp Lab declarou, em entrevista ao portal Mashable, que o Deepfake pode ser um recurso importante que vai além do entretenimento. Segundo ele, o desenvolvimento com qualidade dos softwares pode ser aplicado em entrevistas de emprego para evitar pré julgamentos quanto à raça ou ao gênero.
Bem como em terapia por videochamada e usado pelos pacientes que não se sentem à vontade em expor o rosto. Ou seja, a tecnologia pode fazer muito em todos os setores sociais se utilizada com consciência e ética. Ainda, há quem acredite até mesmo na criação de pessoas virtuais.
Mas isso não é necessariamente algo bom, já que perfis falsos podem surgir e resultar numa onda de fraudes e golpes pela internet. Se olhar pela perspectiva negativa, criminosos podem usar o Deepfake a seu favor para falsificar biometria de uma pessoa de verdade e tomar conta de toda sua conta no banco.
Risco do uso de Deepfake
Por outro lado, existem os pontos negativos do uso do Deepfake. Geralmente, os conteúdos falsos podem ser reconhecidos, no entanto, são tão realistas que os tornam capazes de iludir muita gente se usado de má fé. O mecanismo não foi criado para enganar, mas suas funcionalidades permitem essa possibilidade.
A manipulação de vozes e imagem de forma livre e acessível torna fácil a distorção da realidade para os interesses de quem a faz. Por tanto, essa conduta pode ameaçar até mesmo a credibilidade de todos os conteúdos e oferecer risco à sociedade. Então, o uso do Deepfake também pode ser um alerta.
Nos casos das atrizes Emma Watson e Gal Gadot, a técnica da inteligência artificial resultou em danos à imagem. O mesmo prejuízo pode ser causado na vida de uma pessoa anônima sendo alvo de processo por danos morais. Vamos além, os direitos de imagem também estão envolvidos tendo em vista que são utilizadas fotos da pessoa sem o seu consentimento.
Quais são os maiores perigos
Algumas pessoas temem a banalização do Deepfake e se torne perigosa para a sociedade como a disseminação da Fake News. A preocupação está nos usuários mal intencionados que podem utilizar a tecnologia para espalhar conteúdos falsos, bem como fazer as pessoas desacreditarem na veracidade das informações confiáveis.
Outra questão de extremo risco é a criação de material pornográfico, que inclusive é considerado crime. O perigo já é real, tendo em vista que um especialista da consultoria de segurança Sensity identificou um robô do Telegram que era capaz de receber fotos de mulheres e devolvê-las mostrando como elas ficariam sem roupa.
O terceiro ponto é o risco à engenharia social, como por exemplo no caso de aplicar a tecnologia para induzir alguém a tomar decisões que podem prejudicá-la. Uma situação hipotética: alguém cria vídeo falso de um profissional e exibe-o em uma reunião para pegar dados sigilosos de uma corporação.
Dicas para reconhecer um Deepfake
Para se prevenir desde já de conteúdos falsos, aprender a reconhecer vídeos com Deepfake é fundamental. Afinal, como foi dito anteriormente, a tecnologia ainda não é perfeita. A primeira coisa é prestar atenção nos movimentos dos lábios e se eles acompanham de forma precisa o que está sendo falado. Fique de olho se o tom e entonação da voz são normais.
Outro detalhe é observar os olhos, se eles não estiverem piscando pode ser um sinal de Deepfake pois o algoritmo deste mecanismo ainda não reproduz naturalmente os movimentos. As “falsificações profundas” ainda não são capazes de duplicar movimentos e encaixar perfeitamente todas as partes da face e do corpo. Então, fica a dica!