Brasil cobra que X impeça Grok de criar imagens sexualizadas falsas

Grok – O governo federal e o Ministério Público Federal (MPF) recomendaram que a rede social X, de Elon Musk, adote “medidas imediatas” para impedir o uso do Grok, ferramenta de inteligência artificial da plataforma, na geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais no Brasil.

A recomendação foi divulgada nesta terça-feira (20) e é assinada pelo MPF, pela Agência Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon), vinculada ao Ministério da Justiça e Segurança Pública. O documento foi expedido após denúncias e relatos de usuários que afirmam ter sido vítimas de edições indevidas realizadas com o uso da ferramenta.

LEIA: Anvisa manda retirar do mercado canetas emagrecedoras irregulares

Nas últimas semanas, diversos usuários relataram que imagens foram manipuladas pela IA da plataforma para a criação de conteúdos eróticos sem autorização. Diante disso, as autoridades brasileiras recomendaram que o X impeça o uso do Grok para esse tipo de finalidade.

Entre as medidas sugeridas está a implementação imediata de mecanismos para bloquear a geração de novas imagens, vídeos ou arquivos de áudio “que representem crianças e adolescentes em contextos sexualizados ou erotizados, ou que representem pessoas naturais maiores de idade identificadas ou identificáveis, em contextos sexualizados ou erotizados, sem sua autorização”, afirmou o MPF.

O documento também alerta que, em caso de descumprimento das recomendações ou de adoção de providências consideradas insuficientes para reduzir os riscos identificados, “outras medidas poderão ser consideradas e adotadas pelas três instituições, em sede administrativa e em sede judicial”, segundo o MPF.

Idec considera resposta insuficiente

O Instituto de Defesa de Consumidores (Idec), responsável pela denúncia envolvendo o Grok, avaliou que a iniciativa das autoridades não é suficiente para lidar com o problema. Em nota, a entidade afirmou que “o trio de órgãos optou por uma abordagem meramente burocrática, limitando-se a fazer recomendações à empresa enquanto a ferramenta continua operando normalmente”.

Para o Idec, “a decisão ignora a gravidade dos milhares de casos de uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas por meio da ferramenta, mantendo consumidoras brasileiras em situação de risco”, disse a entidade.

(Com informações de g1)
(Foto: Reprodução/Freepik/thanyakij-12)