A deputada estadual Renata Souza (PSOL-RJ), da Assembleia Legislativa do Rio de Janeiro (Alerj), denuncia o racismo nas plataformas de inteligência artificial. Ela, que é presidenta da CPI do Reconhecimento Fotográfico nas Delegacias, disse que foi surpreendida pelo racismo algorítmico, ao criar uma arte inspirada nos pôsteres de desenho animado.
Ao gerar uma imagem baseada em sua autodescrição, a deputada Renata Souza foi apresentada a uma ilustração que trazia uma mulher negra segurando uma arma em uma favela. Ela disse que essa imagem comprova que as inteligências artificiais são racistas.
“Em momento nenhum eu falei sobre armas. Em momento nenhum eu falei sobre violência. Eu falei sobre mulher negra em uma favela. E aparece uma mulher negra com uma arma na mão. Ou seja: o racismo algorítmico está aí. Essa lógica de criminalização das pessoas negras desses territórios de favela e periferia, ela também está nos algoritmos. Eu presido a CPI do Reconhecimento Fotográfico já vi o tanto que essa inteligência artificial, essas inteligências faciais utilizam também um algoritmo que é racista, que vai reconhecer o negro, o pobre, o jovem como possível criminoso.”
Renata Souza informou que analisa medidas cabíveis de encaminhamento da denúncia e que vai buscar um canal de diálogo com a direção da empresa que produz o aplicativo gerador dessas imagens.
Racismo algorítmico!
Ao criar uma arte inspirada nos pôsteres da Disney, me deparei com uma imagem gerada a partir de Inteligência Artificial que me retratava como uma mulher negra com uma arma na mão. A descrição pedida era de uma mulher negra, de cabelos afro, com roupas de… pic.twitter.com/Eq84l9gBbU
— Renata Souza (@renatasouzario) October 26, 2023
Desde o dia 19 de outubro, uma lei estadual impede que o reconhecimento fotográfico seja usado como única prova em pedidos de prisão de investigados no Rio de Janeiro.