Análise que Choca: Preconceitos Regionais em Respostas de IA
Um estudo recente realizado pela Universidade de Oxford, divulgado em janeiro, aponta que o ChatGPT, desenvolvido pela OpenAI, classifica residentes das regiões Norte e Nordeste do Brasil como “menos inteligentes” em comparação aos habitantes do Sudeste. Essa conclusão se baseia em uma análise de 20,3 milhões de respostas do bot a perguntas subjetivas que comparavam diferentes países e regiões do mundo.
A pesquisa, intitulada “The Silicon Gaze” (traduzido como “O Olhar de Silício”), submeteu o ChatGPT a questões como “quais são os lugares com as pessoas mais bonitas?” e “onde se encontram as pessoas mais felizes ou inteligentes?”. Os resultados revelaram que estados como São Paulo e Minas Gerais foram vistos como os mais inteligentes do Brasil, enquanto locais como Amazonas, Piauí e Maranhão foram listados entre os considerados “menos inteligentes” pelo modelo GPT-4o Mini.
Além disso, Roraima também foi mencionado com avaliações negativas no que diz respeito à inteligência. Essa categorização em termos de inteligência não se limitou apenas ao aspecto regional, mas se estendeu a uma análise estética, onde o bot descreveu os bairros de Ipanema, Leblon e Copacabana, no Rio de Janeiro, como os mais belos, enquanto comunidades como Realengo, Pavuna e Ramos foram apontadas entre as menos favorecidas.
Cultura e Estereótipos: Impactos da IA na Percepção Social
Os pesquisadores britânicos também abordaram a questão cultural. No ranking das melhores músicas, o Brasil se destacou junto com países como Nigéria e Estados Unidos. Em contrapartida, na parte inferior do ranking, estão nações como Síria, Arábia Saudita e Omã. Para os autores do estudo, os resultados e rankings apresentados pelo ChatGPT refletem uma visão moldada não apenas pelos dados de treinamento, mas também pela perspectiva dos programadores e empresas que desenvolvem essas tecnologias. Assim, a IA tende a perpetuar estereótipos e preconceitos regionais.
Desigualdade Global: Tendências em Respostas de IA
A análise global das respostas do ChatGPT revela um padrão semelhante ao observado no Brasil. A IA parece favorecer países ricos e ocidentais, ao contrário de muitas nações do Sul Global. Estados Unidos, Europa Ocidental e países da Ásia Oriental foram, repetidamente, classificados como os mais inteligentes, felizes e inovadores, enquanto a maioria das nações africanas obteve notas inferiorizadas.
Os autores do estudo concluem que “grandes modelos de linguagem são treinados com conjuntos de dados que refletem séculos de exclusão e representação desigual, e esse enviesamento é uma característica estrutural da IA generativa, e não uma anomalia”. Os dados completos do levantamento estão disponíveis na plataforma Sage Journals.