Na trama, pedófilo consegue se passar por uma garota perfeitamente, enganando uma adolescente. Na vida real, recurso com qualidade tão alta exige muito dinheiro, dizem especialistas. ‘Deepfake ao vivo’: saiba o que é a tecnologia que muda imagem e voz mostrada na novela ‘Travessia’
Reprodução/TV Globo
Cenas de um pedófilo que se passa por uma adolescente em videochamada têm viralizado nas redes sociais: a situação é retratada na novela “Travessia” (TV Globo).
A personagem Karina (vivida pela atriz Danielle Olímpia) chegou até mesmo a tirar a roupa em frente às câmeras, acreditando que quem estava do outro lado era a sua amiga virtual.
Na trama, o criminoso tem seu rosto e voz modificados por um programa de computador, podendo enganar com facilidade quem o vê do outro lado.
SEGURANÇA DAS CRIANÇAS NA INTERNET: perguntas e respostas sobre como protegê-las
Musk e centenas de especialistas pedem pausa no avanço da inteligência artificial
Especialistas contaram ao g1 que a tecnologia já existe na vida real. É tão nova que nem nome oficial possui, podendo ser chamado, por enquanto, de “deepfake ao vivo” ou “deepfake live”.
Apesar de ela já poder ser usada em golpes, existem dois entraves:
a tecnologia ainda não tem a perfeição simulada na novela;
por ter qualidade acima da média, exige investimentos na casa dos R$ 150 mil em equipamentos. Por isso, segundo os entrevistados, ela não é tão visada por quem pretende enganar outras pessoas, sobretudo crianças mais novas, que costumam ser alvos preferenciais de pedófilos e dificilmente percebem as falhas que podem aparecer em uma chamada.
Confira a seguir o que se sabe sobre o “deepfake ao vivo” e como reconhecer um facilmente.
O que é ‘deepfake ao vivo’
“Deepfake” é uma tecnologia que permite mostrar o rosto de uma pessoa em fotos ou vídeos alterados com ajuda de inteligência artificial (IA).
O material falso é criado a partir de conteúdos verdadeiros da pessoa que são modificados por meio de aplicativos ou programas de edição que já existem no mercado.
O “deepfake” simulado na trama de Glória Perez tem a mesma ideia, porém é feito em tempo real, sem qualquer edição. Essa solução é nova — surgiu em 2022 — e é uma evolução do “deepfake” que conhecido hoje, explica Fernando Oliveira, conhecido como Fernando 3D, especialista no tema e em inteligência artificial da FaceFactory.
Initial plugin text
LEIA TAMBÉM:
Fazer um “deepfake ao vivo” com a qualidade que é mostrada na novela exige um computador potente com capacidade para processar as alterações em tempo real.
Segundo Fernando 3D, seria necessário desembolsar muito dinheiro em equipamentos para chegar a esse nível. Mas também é possível fazê-lo com menos gastos, usando apps mais baratos, só que de qualidade bem inferior.
“Para conseguir a qualidade que é exibida na novela, não dá para usar só software (programa ou aplicativo). É preciso programar, com algoritmos que trabalham com dados e códigos”, explica Fernando 3D.
Esses algoritmos vão processando dados, que são a imagem e a voz de uma pessoa. Quanto mais dados, maior a eficiência do “deepfake” ao vivo, explicam os especialistas.
NUDES VAZADAS: saiba como juntar provas e denunciar
PORN REVENGE: saiba o que é e conheça histórias de vítimas
Bancos de dados (de rosto e voz) são alimentados por pessoas reais, por isso os famosos podem ser mais visados, já que existe mais conteúdo online com eles.
“Quanto mais dados existirem publicamente, mais fácil será capturar e tratar eles para essa finalidade [de ‘deepfake ao vivo’]”, afirma Alberto Luiz Albertin, professor e coordenador na área de TI e Transformação Digital da FGV EAESP.
deepfake ao vivo
É usado por criminosos?
O “deepfake ao vivo” já está sendo usado em golpes, mas não com o mesmo nível de perfeição demonstrado na novela “Travessia”, explica Anderson Rocha, especialista em computação aplicada ao combate à pedofilia e diretor do Instituto de Computação da Universidade de Campinas (Unicamp).
Ele explica que crianças abaixo de 13 anos são os principais alvos de pedófilos e que atrair crianças para ficarem nuas na frente da tela e produzir conteúdo de pornografia infantil tem nome: “grooming”.
Nesse tipo de golpe, segundo Rocha, o nível de tecnologia não precisa ser perfeito porque a criança dificilmente vai conseguir identificar as falhas, já que é uma conversa em tempo real. A falta de qualidade da imagem, por exemplo, pode ser confundida com baixa velocidade de internet.
Além disso, para criar empatia, os golpistas escolhem o rosto e a voz de personagens do mundo infantil. Pode ser de um influenciador ou até mesmo de um desenho animado.
“A criança vai acreditar que está falando com uma Galinha Pintadinha, por exemplo […] Então, é uma questão não só de tecnologia utilizada, mas também do linguajar”, alerta Rocha.
O mesmo se aplica a adolescentes, afirma o professor. Contudo, neste caso vai mudar a linguagem usada.
Para que ele pode servir no futuro?
Especialistas entrevistados pelo g1 também veem possibilidades benéficas para essa tecnologia:
ser usada em reuniões internacionais virtuais, quando há diferentes idiomas, aponta Fernando 3D. Apesar do intérprete fazer a tradução das falas, a voz seria da pessoa que fez o discurso, inclusive com a adequação dos movimentos dos lábios;
no setor de saúde, quando o paciente precisar de um rosto familiar, projeta Albertin, da FGV;
e, em um futuro em que o metaverso é mais utilizado, esse tipo de inteligência artificial permitiria ter um avatar mais realista.
Dicas da Sociedade Brasileira de Pediatria
Kayan Al bertin /Editoria de arte / G1
LEIA TAMBÉM:
A evolução do deepfake, futuro da criação de conteúdo
Os relatos de vítimas de ‘stalking’, que agora pode dar 3 anos de prisão
Saiba como remover seu rosto, casa ou carro no Google Maps
