Após flexibilizar moderação, ChatGPT expõe dados de figuras públicas brasileiras

ChatGPT – A recente flexibilização da moderação de conteúdo no ChatGPT colocou a OpenAI no centro de uma polêmica sobre privacidade e segurança digital. Testes realizados pela imprensa mostraram que o chatbot passou a divulgar CPF de figuras públicas, como empresários, apresentadores de TV e políticos, a partir de informações disponíveis em processos judiciais, registro eleitorais e atas de empresas publicadas na Internet.

A plataforma, no entanto, apresentou comportamento distinto ao ser questionada sobre números de identificação de figuras públicas estrangeiras. Enquanto expõe CPFs de brasileiros, se recusou a divulgar o Social Security Number (SSN) de políticos americanos, como Donald Trump e Joe Biden, alegando que compartilhar tais dados seria “antiético e ilegal”.

LEIA: Governo avisa que vai desbloquear FGTS para quem aderiu ao saque-aniversário

Diante da exposição do problema, a OpenAI informou estar trabalhando para corrigir a falha. A empresa declarou que seus modelos são treinados para recusar pedidos de dados pessoais sensíveis, mesmo quando essas informações estão publicamente acessíveis.

“Treinamos os modelos que alimentam o ChatGPT para recusarem solicitações de identificadores governamentais, mesmo que essas informações estejam disponíveis online. Agradecemos os relatos de exemplos que não estão em conformidade com nossas políticas e estamos trabalhando ativamente em uma solução”, diz a empresa em nota.

Em um novo teste realizado após a polêmica, o chatbot passou a responder que “divulgar ou usar o CPF de terceiros é antiético e ilegal”. Enquanto isso, outras plataformas concorrentes, como a chinesa DeepSeek, a Meta AI e o Gemini, não revelaram números de CPFs em testes similares.

A Lei Geral de Proteção de Dados (LGPD) estabelece diretrizes para a divulgação e utilização de informações pessoais no Brasil, mas a divulgação de dados pessoais por uma IA gerativa levanta dúvidas sobre sua aplicação. Segundo especialistas, a LGPD permite que certos dados sejam tornados públicos em contextos como autos judiciais e registros eleitorais, o que poderia justificar a acessibilidade desses CPFs. Porém, advogadas divergem sobre se a prática representa, de fato, uma violação da legislação.

O Supremo Tribunal Federal (STF) deve analisar a questão em breve, dentro de um caso de repercussão geral que pode definir a linha entre transparência pública e proteção de dados. O julgamento terá impacto direto em plataformas de IA e repositórios de informações públicas online.

A capacidade das inteligências artificiais de acessar e reproduzir dados da Internet levanta questionamentos sobre até que ponto essas ferramentas podem ser responsabilizadas pela divulgação de informações sensíveis. Enquanto mecanismo de busca tradicionais, como o Google, listam links para fontes externas, o ChatGPT e outras IAs generativas frequentemente incorporam conteúdo diretamente em suas respostas, tornando difícil distinguir a origem das informações.

(Com informações de Folha de S. Paulo)
(Foto: Reprodução/Freepik/user4894991)