Redes sociais da Meta veicularam 1.400 posts que promovem supostas ferramentas para criar nudes falsos com inteligência artificial. Anúncios no Instagram e no Facebook prometem apps que ‘tiram’ a roupa de pessoas em fotos
Reprodução
O Instagram e o Facebook estão mostrando anúncios de aplicativos que prometem tirar a roupa de mulheres em fotos. Os responsáveis pelas supostas ferramentas de manipulação de imagens pagam para aparecerem em espaços publicitários das plataformas da Meta.
Apesar de proibirem nudez (saiba mais abaixo), as duas redes sociais veicularam desde dezembro de 2023, cerca de 1.400 anúncios em todo o mundo – sendo 150 no Brasil – de apps que supostamente criam nudes sem o consentimento de quem aparece na foto. Do total, cerca de 15% foram derrubados pelas plataformas.
Os registros estão na Biblioteca de Anúncios da Meta, em que a dona das duas plataformas exibe um histórico de campanhas publicitárias que circularam em seus serviços. Não há informações públicas sobre quanto tempo os anúncios ficaram no ar até serem removidos e quanto eles custaram.
O g1 testou um dos aplicativos promovidos no anúncio, mas, na verdade, ele oferece uma espécie de ChatGPT que funciona como uma namorada virtual. O usuário pode criar um perfil e interagir com a personagem por meio de mensagens.
A Meta disse que usa inteligência artificial e equipes humanas para remover conteúdo que viole suas regras (veja a nota ao final). A empresa também disse que removeu anúncios apontados pelo g1, ainda que outros tenham sido criados desde então.
Saiba mais sobre anúncios de geradores de nudes no Instagram e no Facebook:
🖼️ as campanhas costumam mostrar duas imagens aparentemente geradas por IA, em que a primeira mostra a simulação de uma mulher vestida e a segunda, como ela ficaria sem roupa (a imagem é coberta com textos do anúncio para dificultar a moderação);
📱 parte dos anúncios direcionam usuários para aplicativos hospedados nas Play Store e na App Store – nas lojas, alguns desses apps prometem recursos para criar imagens com IA, mas não citam a possibilidade de remover roupas de fotos;
📢 cerca de 1.400 anúncios circularam no Instagram e no Facebook desde dezembro de 2023 com a frase “any clothing delete” (“deletar qualquer roupa”, em inglês), e 211 (15%) foram removidos pelas plataformas;
🌎 no Brasil, cerca de 150 anúncios seguiram esse padrão.
A Biblioteca de Anúncios da Meta não oferece recursos para calcular o alcance total, o público-alvo e o valor pago para veicular os 1.400 anúncios, que usam diferentes fotos de mulheres geradas por serviços de inteligência artificial.
Mas o alcance não se limita às campanhas que incluem a expressão “deletar qualquer roupa”. Anúncios semelhantes com termos como “undress” ou “nudify” (“despir” em inglês) também foram veiculados nas duas redes, segundo o site de notícias sobre tecnologia 404 Media.
O site diz que alguns apps promovidos no Instagram e no Facebook não funcionam da forma como são anunciados, mas que um deles chega a convidar usuários a pagarem uma assinatura de US$ 30 (cerca de R$ 150) para ter acesso aos supostos recursos.
Ainda que não levem a aplicativos realmente capazes de criar nudes falsos, os anúncios atraem quem busca formas de fazer imagens íntimas de terceiros sem consentimento. A prática tem sido facilitada com novas ferramentas que usam inteligência artificial de forma mal-intencionada.
Em novembro de 2023, mais de 20 alunas de colégios do Rio de Janeiro foram vítimas de montagens de fotos nuas criadas com IA. Os suspeitos são alunos que teriam usado um aplicativo para fazer as adulterações e disparado as imagens em aplicativos de mensagens. Um caso semelhante aconteceu quatro meses depois no Rio Grande do Sul.
Biblioteca de Anúncios da Meta mostra cerca de 1.400 anúncios no Instagram e no Facebook para suposta ferramenta que tira roupa de pessoas em foto
Reprodução
Meta tem regras contra nudez
As diretrizes do Instagram e do Facebook orientam a não publicarem nudez em suas contas e pedem que o usuário “publique fotos e vídeos apropriados para um público variado”.
“Sabemos que há momentos em que as pessoas podem querer compartilhar imagens de nudez de natureza artística ou criativa, mas, por vários momentos, não permitimos nudez”, dizem as plataformas.
Pelas regras da rede social, há exceções que permitem nudez em fotos no contexto de pinturas e esculturas, amamentação, parto, em situações ligadas à saúde ou como um ato de protesto, por exemplo.
A Meta disse ao g1 que está sempre aprimorando seus esforços para manter suas redes sociais seguras. Veja a íntegra da nota da empresa:
“Removemos os anúncios apontados pela reportagem por violar nossas políticas. Revisamos conteúdo por meio da combinação de tecnologia de Inteligência Artificial e equipes humanas, que nos ajudam a detectar, analisar e remover conteúdos que violem os Padrões da Comunidade do Facebook, as Diretrizes da Comunidade do Instagram e os nossos Padrões de Publicidade. Estamos sempre aprimorando nossos esforços para manter nossas plataformas seguras e também incentivamos as pessoas a denunciarem conteúdos e contas que acreditem violar nossas políticas através das ferramentas disponíveis dentro dos próprios aplicativos.” – um porta-voz da Meta.
