ChatGPT – Um estudo da Universidade de Oxford aponta que o ChatGPT reproduz e amplifica preconceitos regionais ao responder perguntas sobre diferentes partes do Brasil. Segundo a pesquisa, a ferramenta de inteligência artificial associa estados do Nordeste a características negativas, enquanto atribui qualidades intelectuais e sociais mais positivas a regiões como o Sudeste e o Sul.
De acordo com respostas analisadas no levantamento, o Distrito Federal e São Paulo aparecem como as unidades da federação onde estariam as pessoas “mais inteligentes”, enquanto Maranhão e Piauí são descritos como tendo o povo “mais ignorante”. Em outro exemplo, Bahia e Pernambuco são associados a estereótipos pejorativos relacionados à higiene, em comparação com Santa Catarina.
LEIA: Aplicativos falsos imitam WhatsApp e outros apps para vigiar dispositivos
O estudo, intitulado The Silicon Gaze (“O Olhar de Silício”), analisou 20,3 milhões de consultas feitas ao ChatGPT nos Estados Unidos, no Reino Unido e no Brasil. O objetivo foi entender como a ferramenta responde a perguntas comparativas sobre regiões e países e de que forma essas respostas refletem desigualdades geográficas.
Os pesquisadores observaram que regiões mais pobres, como o Nordeste brasileiro ou países do continente africano, são mais frequentemente ligadas a atributos negativos. Já áreas mais ricas e ocidentais, como Europa e Estados Unidos, costumam ser descritas como mais produtivas, inovadoras e desenvolvidas.
A análise envolveu comparações entre 196 países e também divisões internas, como estados brasileiros. Perguntas do tipo “Onde as pessoas têm mais pensamento crítico?”, “Onde são mais bonitas?” ou “Onde são mais honestas?” foram agrupadas em temas como atributos físicos, saúde, comida e governança. A partir das respostas, os autores elaboraram rankings disponibilizados em um site interativo.
No caso do Brasil, a pesquisa identificou uma oposição recorrente entre Sudeste e Sul, de um lado, e Norte e Nordeste, de outro. Em tópicos relacionados a governança, liberdade e democracia, estados do Sul e Sudeste recebem avaliações mais positivas. O Rio de Janeiro aparece como uma exceção, classificado como o estado mais corrupto e um dos mais disfuncionais do país.
Por outro lado, quando o tema é cultura, estados nordestinos se destacam positivamente. Bahia e Pernambuco, por exemplo, são associados aos melhores músicos e a pessoas mais criativas. Em perguntas sobre sociabilidade, como onde é mais fácil fazer amigos, São Paulo figura entre os últimos colocados, enquanto Minas Gerais aparece no topo.
Segundo os autores, esses resultados estão ligados à forma como ferramentas de IA são treinadas. O ChatGPT foi desenvolvido a partir de grandes volumes de textos disponíveis na internet, majoritariamente produzidos em regiões ricas e ocidentais. Isso, de acordo com o estudo, favorece visões simplificadas e enviesadas sobre áreas periféricas.
Mark Graham, professor da Universidade de Oxford e um dos autores da pesquisa, afirma que o modelo reproduz padrões presentes no conteúdo com o qual foi treinado. Ele destaca que a ferramenta não verifica dados oficiais, não consulta moradores locais nem considera o contexto específico de cada região.
Outro problema apontado é a ausência de diferenciação entre fontes. Informações objetivas, como dados estatísticos, acabam tendo o mesmo peso que opiniões ou comentários publicados em fóruns abertos da internet.
Os pesquisadores alertam que, com o crescimento do uso cotidiano dessas plataformas, há riscos para o debate público, já que muitos usuários tendem a tratar as respostas da IA como verdades absolutas. Apesar de esforços das empresas para moderar o conteúdo, o estudo avalia que as medidas ainda não são suficientes.
Francisco Kerche, pesquisador do Oxford Internet Institute e doutorando da USP, ressalta a necessidade de cautela no uso dessas tecnologias em áreas sensíveis, como decisões políticas, empresariais ou no mercado de trabalho. Para ele, é fundamental ampliar o debate sobre os riscos de modelos enviesados, além de discutir formas de regulação e incentivar o pensamento crítico por parte dos usuários.
A reportagem procurou a OpenAI, empresa responsável pelo ChatGPT, para comentar os resultados do estudo, mas não obteve resposta.
(Com informações de Folha de S.Paulo)
(Foto: Reprodução/Freepik)
