A União Europeia, através de seu Parlamento, aprovou nesta quarta-feira (13) uma lei de proteção contra o rápido desenvolvimento da inteligência artificial (IA). Esta é, até o momento, a mais abrangente barreira protecionista contra a tecnologia.
A “Lei de Inteligência Artificial” da Europa pode se tornar modelo e ditar o tom para a regulamentação do uso de IA nos países ocidentais. As empresas, por um lado, afirmam que a lei é abrangente demais. Do outro, os órgãos de controle dizem que não é o suficiente.
Thierry Breton, comissário do Mercado Interno da UE, afirmou em comunicado que a Europa está sendo pioneira. “A Europa agora está estabelecendo um padrão global para uma IA confiável“.
Em coletiva de imprensa, Brando Benifei, eurodeputado italiano e co-relator do projeto, comemorou a aprovação da lei. “Hoje é um dia histórico em nosso longo caminho para a regulamentação da IA“, celebrou.
Dragos Tudorache, outro deputado co-relator, relatou que a lei encontra o equilíbrio entre “o interesse em inovar e o interesse em proteger“. Como a inteligência artificial é uma tecnologia em constante evolução, ele ressaltou que o projeto é só o início. “Devemos estar muito atentos à evolução dessa tecnologia no futuro, de forma a responder aos novos desafios que podem surgir“.
A lei aprovada prevê proibição do uso da IA para detecção de emoções em locais de trabalho e escolar, além de limitação do modo que ela poderá ser usada em situações sensíveis, como análise de currículos para vagas de emprego.
Entenda os principais pontos:
- As proibições: captar imagens da internet ou circuito fechado de TV para criar base de dados de reconhecimento facial, usar sistemas de categorização biométrica baseado em características sensíveis. Reconhecimento de emoções em locais de trabalho e escolas, classificação social, IA que manipula comportamento humano ou explora vulnerabilidade de pessoas e o policiamento preditivo – policiamento baseado unicamente da construção de perfis ou avaliação de suas características.
- Priorização da transparência: todos os sistemas de IA deverão respeitar as normas sobre direitos autorais já estabelecidas e deverão divulgar informação sobre os conteúdos utilizados para treinamento da tecnologia. Os modelos de uso geral que possam colocar em risco a organização social (os mais poderosos) cumprirão requerimentos a mais, como realizar avaliações de modelos, avaliar e atenuar os riscos sistêmicos e comunicar quaisquer incidentes.
- Redução de riscos: sistemas de IA serão considerados de alto risco os que envolvem infraestruturas críticas, educação e formação profissional, emprego, serviços públicos e privados essenciais (como cuidados de saúde e bancos), sistemas de aplicação de lei, migração e organização das fronteiras, justiça e processo democráticos (influenciando eleições, por exemplo). Estes sistemas deverão avaliar e procurar reduzir seus riscos, manter registros de utilização, ser transparentes e garantir que haja supervisão feita por humanos.
- Priorização: Serão criados ambientes para testagem de regulamentação e testes em condições reais, os quais serão acessíveis a pequenas empresas, com objetivo de desenvolver e treinar IA inovadora antes que chegue ao mercado.
Esta lei é a primeira a apresentar restrições aos sistemas de Inteligência Artificial generativo, aqueles capazes de produzir conteúdo de texto, vídeo e imagem. Esta tecnologia vem chamando atenção mundial desde o ano passado com a popularização do ChatGPT.
Em reta final das discussões da lei, os governos da França e da Alemanha foram contra estas restrições, pois as regras prejudicariam grandes startups de seus países, como a Mistral AI e a Aleph Alpha. O Corporate Europe Observatory (CEO), grupo da sociedade civil, argumentam que big techs e empresas europeias tiveram influência sob a elaboração do texto.
“Essa influência unilateral fez com que a ‘IA de uso geral’ ficasse amplamente isenta das regras e só precisasse cumprir algumas obrigações de transparência“, afirmaram em comunicado.