Imagens íntimas – Ferramentas de inteligência artificial que produzem imagens sexualizadas sem autorização podem ser proibidas na União Europeia. O debate se intensificou após usuários explorarem o Grok, serviço de Elon Musk, para gerar milhares de imagens de mulheres e crianças como se estivessem nuas.
Nesta quarta-feira (18), a comissão de liberdades civis do Parlamento Europeu deu aval ao texto preliminar da chamada “Lei Omnibus de Inteligência Artificial” do bloco. Entre os pontos incluídos está uma emenda que veta sistemas de IA capazes de gerar imagens realistas “com o objetivo de retratar atividades sexualmente explícitas ou partes íntimas de uma pessoa natural identificável” sem consentimento.
LEIA: Brasil veta rolagem infinita e play automático para crianças nas redes
A proibição não se aplicará a empresas que já adotem mecanismos eficazes para evitar esse tipo de uso, como ferramentas que bloqueiam deepfakes. Com isso, a aprovação aproxima o Parlamento dos governos europeus, aumentando a probabilidade de que a proposta seja transformada em lei ainda neste ano.
Embora já seja ilegal na Europa produzir ou compartilhar imagens íntimas sem autorização, a proposta amplia o alcance da regulação ao mirar também as ferramentas de IA – e não apenas os usuários. A decisão reflete a rápida evolução tecnológica, que permite a criação de representações cada vez mais realistas de pessoas reais.
Caso Grok impulsiona debate
O episódio envolvendo o Grok contribuiu para acelerar as discussões. O chatbot, disponível na rede social X, foi utilizado em janeiro para gerar e divulgar em massa imagens sexualizadas a partir de fotos de pessoas vestidas. Após repercussão negativa, a empresa responsável, xAI, restringiu a funcionalidade.
Paralelamente, autoridades da União Europeia e do Reino Unido investigam a rede X e a xAI pelo caso envolvendo o Grok, ocorrido em janeiro. O objetivo é apurar possíveis violações de normas de moderação de conteúdo e segurança digital.
Leis complementares e fiscalização
A proposta se soma a outras legislações europeias voltadas ao combate ao abuso sexual infantil e à divulgação não autorizada de imagens íntimas. Uma norma de 2024 sobre violência contra mulheres já criminalizou o uso de IA para produzir esse tipo de conteúdo sem consentimento. Além disso, a Lei de Serviços Digitais prevê punições para plataformas que permitam a circulação de material ilegal, incluindo conteúdos de abuso infantil.
Caso a nova regra seja aprovada, empresas de tecnologia precisarão demonstrar que seus sistemas contam com barreiras eficazes contra a geração desse tipo de imagem. Ainda assim, permanece a incerteza sobre como será feita a verificação do consentimento das pessoas retratadas.
Atualização mais ampla das regras de IA
A União Europeia também prepara uma revisão mais abrangente de sua legislação sobre inteligência artificial, com o objetivo de simplificar normas e ampliar prazos de adaptação para empresas.
O pacote prevê o adiamento de exigências relacionadas a aplicações de alto risco, inicialmente previstas para agosto de 2026. Com a mudança, os prazos devem ser estendidos para dezembro de 2027 e agosto de 2028. A medida busca dar tempo para que entidades especializadas desenvolvam orientações detalhadas e ofereçam maior clareza regulatória ao setor.
(Com informações de O Globo)
(Foto: Reprodução/Freepik/machnata)
