ChatGPT faz o L! Popular IA possui viés de esquerda

Compreensivo estudo conduzido por pesquisadores Brasileiros e Britânicos encontrou que a plataforma ChatGPT - IA desenvolvida pela OpenAI e lançada em novembro de 2022 - possui um significativo e sistêmico viés de esquerda, favorecendo políticos como o Lula.

O estudo foi publicado no periódico Public Choice (Ref.1) e buscou avaliar se o ChatGPT possuía ou não neutralidade política. Para isso a plataforma foi instruída a responder múltiplas vezes uma série de >60 questões ideológicas, com ou sem personificação no espectro político.

Após rigorosas análises das respostas, os resultados mostraram que o ChatGPT favorecia os Democratas nos EUA, o Partido dos Trabalhadores no Reino Unido e o presidente Lula aqui no Brasil. Isso desafia a alegada e assumida neutralidade do ChatGPT.

- Continua após o anúncio -

É incerta a causa do viés de esquerda dessa IA. Os autores do estudo especulam que o banco de dados usado para treinar o ChatGPT já vinha com viés, ou este foi adicionado pelos desenvolvedores humanos, com o sistema de limpeza falhando em removê-lo.

Outra possível fonte de viés é o próprio algoritmo, o qual pode estar amplificando vieses nos dados de treino.

Os resultados do estudo reforçam a preocupação que IAs em geral podem estender ou até amplificar os desafios existentes na Internet e nas redes sociais envolvendo processos políticos.

> O estudo explorou a versão 3,5 do ChatGPT.

O que é o ChatGPT?

Por definição (Ref.2), chatbot é um programa de computador projetado para simular conversas com usuários humanos, especialmente pela Internet. GPT é um modelo de aprendizado artificial, que usa técnicas de aprendizado não supervisionado e supervisionado para entender e gerar linguagem semelhante à humana.

O ChatGPT (Chatbot + GPT) é capaz de responder desde perguntas simples a escrever textos mais complexos, em uma linguagem quase indistinguível da linguagem humana natural. Este é um dos fatores que justifica sua rápida popularização.

Todavia o ChatGPT tem suas limitações, porque, por ser construído com base estatística, a qual se vale de padrões definidos por um grande conjunto de dados de texto, apresenta a possibilidade de que preconceitos e estereótipos presentes nos dados sejam replicados; ou seja, a redação final pode conter fragmentos textuais ofensivos ou preconceituosos.

Além disso, os modelos GPT não são capazes de entender completamente o contexto e o significado do texto, dado que estes são, invariavelmente, socialmente construídos. Outro ponto relevante são os custos operacionais: de energia para processar esses algoritmos e armazenar os dados gerados e, também, referentes aos recursos computacionais

REFERÊNCIAS

Motoki et al. (2023). More human than human: measuring ChatGPT political bias. Public Choice. https://doi.org/10.1007/s11127-023-01097-2
Irigaray & Stocker (2023). ChatGPT: um museu de grandes novidades. Cadernos EBAPE.BR, 21(1). https://doi.org/10.1590/1679-395188776