Reino Unido investiga uso do Grok para criar imagens íntimas falsas

Grok – O regulador britânico de proteção de dados, o Information Commissioner’s Office (ICO), anunciou nesta terça-feira (3) a abertura de uma nova investigação contra a rede social X, após a circulação de imagens de caráter sexual geradas pelo Grok, assistente de inteligência artificial da plataforma. O episódio provocou indignação internacional e levantou questionamentos sobre o uso indevido de dados pessoais.

A apuração não se limita à rede social comandada por Elon Musk, mas também inclui a xAI, empresa de inteligência artificial que adquiriu o X no ano passado. Segundo o ICO, a criação e a disseminação desse tipo de conteúdo levantam preocupações sérias em relação à legislação britânica de proteção de dados.

LEIA: ChatGPT reproduz preconceitos regionais ao avaliar estados do Brasil

“A criação e a difusão apontadas desse tipo de conteúdo suscitam sérias preocupações em relação à lei britânica de proteção de dados e representam um risco potencial de prejuízo significativo para o público”, afirmou o órgão regulador em comunicado oficial.

A investigação ocorre após repercussão negativa internacional envolvendo a ferramenta, que permite aos usuários solicitar a geração de nudez de pessoas reais a partir de fotos ou vídeos. Diante disso, alguns países anunciaram, em janeiro, o bloqueio total do Grok.

Ainda em meados de janeiro, o X informou que havia limitado o funcionamento de sua ferramenta de IA em países onde a criação desse tipo de imagem é considerada ilegal, embora não tenha detalhado em quais locais a restrição está efetivamente em vigor.

O contexto da investigação também envolve mudanças recentes na legislação britânica. O Reino Unido aprovou uma nova lei que criminaliza a produção ou o pedido de criação de imagens íntimas sem o consentimento da pessoa retratada, endurecendo o combate a esse tipo de prática.

Caso sejam confirmadas irregularidades, o processo conduzido pelo ICO pode resultar em uma multa de até 4% do faturamento anual mundial da empresa.

Além disso, o X já é alvo de outra apuração no país. O Ofcom, órgão responsável pela regulação da mídia no Reino Unido, abriu uma investigação em 12 de janeiro para avaliar se a plataforma descumpriu obrigações relacionadas à moderação de conteúdos ilegais e à proteção de menores. Essa autoridade pode aplicar multas de até 10% do faturamento global e, em último caso, recorrer à Justiça para solicitar o bloqueio do aplicativo no país.

O anúncio da nova investigação do ICO coincide com a convocação de Elon Musk para prestar depoimento na França, em abril, no âmbito de uma investigação mais ampla sobre supostos desvios da plataforma. As instalações do X em território francês também estão sendo alvo de buscas.

De acordo com o comunicado do regulador britânico, a apuração irá avaliar “se os dados pessoais foram tratados de maneira lícita, leal e transparente, e se salvaguardas apropriadas foram integradas ao design e à implantação do Grok”.

(Com informações de Folha de S.Paulo)
(Foto: Reprodução/Freepik/thanyakij-12)