Uma pesquisa da Human Rights Watch revelou que ferramentas de inteligência artificial (IA) estão utilizando fotos pessoais de crianças e adolescentes brasileiros sem autorização. As imagens, retiradas de sites e redes sociais, foram encontradas em um banco de dados conhecido como LAION-5B, usado para treinar essas ferramentas.
Foram identificadas 170 fotografias de crianças de ao menos 10 estados brasileiros, capturando momentos como nascimentos, aniversários e eventos escolares.
Embora o número de imagens identificadas represente uma fração pequena do total de mais de 5 bilhões de imagens do banco de dados, a descoberta levanta preocupações significativas.
“Algumas dessas fotos foram postadas por crianças e adolescentes, seus pais ou familiares em blogs pessoais e sites de compartilhamento de fotos e vídeos. Algumas foram postadas anos ou até mesmo uma década”, disse a organização em nota.
IA e Deepfakes
Hye Jung Han, pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, esclarece que a inteligência artificial possibilita a criação de imagens e cenas realistas em segundos, de maneira gratuita e simples. Isso resulta em muitas fotos sendo utilizadas como base para a criação de deepfakes prejudiciais e não consensuais que se espalham pela internet.
Deepfake é uma técnica que usa inteligência artificial para alterar vídeos e fotos, como substituir rostos de pessoas ou modificar falas em um vídeo.
A Human Rights Watch informa que as fotos de crianças brasileiras não estão acessíveis por pesquisa online e foram publicadas há anos, algumas antes mesmo do estabelecimento do banco de imagens. O fato de serem acessíveis através de ferramentas de IA indica uma falha das grandes corporações e redes sociais em salvaguardar a privacidade dos usuários.
De acordo com a organização, a instituição alemã responsável pelo LAION-5B “confirmou que o conjunto de dados continha as fotos pessoais das crianças encontradas pela Human Rights Watch e se comprometeu a removê-las. Ela contestou que os modelos de IA treinados no LAION-5B pudessem reproduzir dados pessoais literalmente. A LAION também disse que as crianças e seus pais são responsáveis por remover suas fotos pessoais da Internet, argumentando ser a proteção mais eficaz contra o uso indevido”.
Próxima à realidade brasileira, a coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, é a favor da criação de uma legislação no mundo virtual para proteger todos os usuários.
“É importante e bem-vinda a inclusão de novos direitos a partir dos desafios colocados em relação ao ambiente digital, incluindo da inteligência artificial. A gente precisa garantir o dever de cuidado com crianças e adolescentes, quando são os públicos mais afetados”, explicou a pesquisadora em entrevista à TV Brasil.