O avanço sem precedentes da Inteligência Artificial (IA) vem acompanhado de crescentes preocupações éticas e legais. Recentemente, a Internet Watch Foundation (IWF) lançou um relatório que expõe um aumento perturbador na produção de vídeos deepfake de abuso sexual infantil utilizando IA. Esta nova forma de crime cibernético está se expandindo rapidamente, evidenciando uma tendência alarmante na exploração digital.
De acordo com o relatório da IWF, os criminosos estão aprimorando suas técnicas para criar vídeos altamente realistas, onde podem simplesmente inserir o rosto de crianças em vídeos eróticos adultos ou, pior, em conteúdos explícitos de abuso. Esta capacidade de manipulação sofisticada destaca um grande desafio para as agências de aplicação da lei e organizações que lutam pelo direito das crianças.
O que são vídeos deepfake?
Vídeos deepfake são criações digitais onde a face de uma pessoa é inserida em outra, através de IA. Inicialmente usados em contextos menos prejudiciais, como sátiras ou recuperação de imagens históricas, seu uso tomou um rumo obscuro e perturbador. A IWF identificou que tais técnicas agora estão sendo exploradas para simular abusos sexuais de menores, com uma qualidade e realismo jamais vistos.
Casos de abuso infantil
Em 2023, as primeiras tentativas capturadas pela IWF ainda eram relativamente primitivas, mas já apontavam para um futuro risco. No entanto, com apenas um ano de diferença, a evolução foi aguda e perigosa. Dan Sexton, diretor de tecnologia da IWF, salientou que os vídeos não apenas aumentaram em qualidade, como também se tornaram assustadoramente realistas.
Na prática, os vídeos deepfake de abuso infantil são uma blasfêmia contra a inocência. Eles não somente perpetuam o trauma das vítimas reais de abuso, como também facilitam os desejos ilícitos de consumidores deste tipo de conteúdo, que encontram nestas tecnologias uma via para obtenção de material abusivo sem cometimento direto do abuso físico.
A CEO da IWF, Susie Hargreaves OBE, enfatizou a velocidade preocupante com que essa tecnologia está evoluindo e como está se tornando uma ferramenta nas mãos dos predadores. Sem mecanismos de controle adequados, as ferramentas de IA generativas são um campo fértil para realização dos crimes mais graves e desumanos.