Uma mensagem no Telegram deixou Heejin, uma estudante universitária na Coreia do Sul, em pânico. A mensagem anônima, recebida no final de agosto, dizia que suas fotos e informações pessoais tinham vazado, junto com imagens sexualmente explícitas e falsas, utilizando a tecnologia de deepfake. Heejin, que não é seu nome verdadeiro, ficou petrificada e sem reação, sentindo-se extremamente vulnerável diante da pornografia deepfake.
Dois dias antes desse incidente, a jornalista sul-coreana Ko Narin publicou um artigo que trouxe à tona um escândalo relacionado à pornografia deepfake. Ko descobriu várias redes nas redes sociais, onde usuários compartilhavam fotos de mulheres conhecidas e as transformavam em imagens pornográficas falsas através de um software de inteligência artificial. A reportagem causou indignação nacional, destacando a gravidade da situação e a necessidade de ações enérgicas.
O cenário da pornografia deepfake
A pornografia deepfake combina o rosto de uma pessoa real com um corpo falso em situações sexualmente explícitas. Essa tecnologia tem se tornado cada vez mais comum, aproveitando-se de ferramentas avançadas de inteligência artificial para criar imagens altamente convincentes. Isso é possível graças a algoritmos que analisam e aprendem padrões faciais a partir de fotos reais, permitindo a criação de deepfakes em questão de segundos.
Heejin não foi a única vítima; dezenas de mulheres e adolescentes pela Coreia do Sul relataram casos semelhantes. De acordo com Ko Narin, à BBC, os grupos no Telegram compartilham fotos de garotas conhecidas e as transformam em deepfakes através de um processo sistemático e organizado. Muitos desses grupos focam em escolas específicas de ensino médio e até em instituições de ensino fundamental.
Para ser aceito em tais salas de bate-papo, os membros geralmente precisam postar várias fotos da mesma pessoa, junto com informações detalhadas como nome, idade e região. Esse processo implacável de humilhação levou muitas vítimas a remover suas fotos das redes sociais ou desativar suas contas, com medo de serem exploradas.
Consequências legais e sociais
A repercussão da reportagem de Ko no jornal Hankyoreh foi tão grande que a polícia sul-coreana anunciou, em 2 de setembro de 2024, a abertura de uma investigação sobre o Telegram, seguindo o exemplo das autoridades francesas. Embora o aplicativo de mensagens alegue combater conteúdo prejudicial, muitos ativistas dos direitos das mulheres acusam as autoridades de negligência, apontando que crises semelhantes já haviam ocorrido no passado, especialmente em 2019.
Naquela época, uma rede criminosa usava o Telegram para coagir mulheres e crianças a criar e compartilhar imagens sexualmente explícitas de si mesmas. O chefe da rede foi condenado, mas a plataforma em si não sofreu nenhuma penalidade significativa. Esse histórico de impunidade contribuiu para a recorrência do problema, aumentando a urgência de ações regulatórias.
As organizações de defesa dos direitos das mulheres lutam para que o governo coreano adote medidas mais eficazes. Uma das líderes do Centro de Defesa das Vítimas de Abuso Sexual Online da Coreia do Sul (ACOSAV), Park Seonghye, relatou à BBC que a tecnologia de deepfake facilitou a exploração e que a quantidade de imagens prejudiciais aumentou drasticamente.
O governo promete aumentar as penas para aqueles que criam e compartilham deepfakes. Além disso, planeja punir também aqueles que consomem pornografia ilegal, numa tentativa de desincentivar a demanda por esse tipo de conteúdo. No entanto, muitos criticam a efetividade dessas medidas, especialmente porque a maioria dos perpetradores são adolescentes, que frequentemente recebem penas mais brandas.