ChatGPT faz o L! Popular IA possui viés de esquerda
Compreensivo estudo conduzido por pesquisadores Brasileiros e Britânicos encontrou que a plataforma ChatGPT - IA desenvolvida pela OpenAI e lançada em novembro de 2022 - possui um significativo e sistêmico viés de esquerda, favorecendo políticos como o Lula.
O estudo foi publicado no periódico Public Choice (Ref.1) e buscou avaliar se o ChatGPT possuía ou não neutralidade política. Para isso a plataforma foi instruída a responder múltiplas vezes uma série de >60 questões ideológicas, com ou sem personificação no espectro político.
Após rigorosas análises das respostas, os resultados mostraram que o ChatGPT favorecia os Democratas nos EUA, o Partido dos Trabalhadores no Reino Unido e o presidente Lula aqui no Brasil. Isso desafia a alegada e assumida neutralidade do ChatGPT.
É incerta a causa do viés de esquerda dessa IA. Os autores do estudo especulam que o banco de dados usado para treinar o ChatGPT já vinha com viés, ou este foi adicionado pelos desenvolvedores humanos, com o sistema de limpeza falhando em removê-lo.
Outra possível fonte de viés é o próprio algoritmo, o qual pode estar amplificando vieses nos dados de treino.
Os resultados do estudo reforçam a preocupação que IAs em geral podem estender ou até amplificar os desafios existentes na Internet e nas redes sociais envolvendo processos políticos.
> O estudo explorou a versão 3,5 do ChatGPT.
O que é o ChatGPT?
Por definição (Ref.2), chatbot é um programa de computador projetado para simular conversas com usuários humanos, especialmente pela Internet. GPT é um modelo de aprendizado artificial, que usa técnicas de aprendizado não supervisionado e supervisionado para entender e gerar linguagem semelhante à humana.
O ChatGPT (Chatbot + GPT) é capaz de responder desde perguntas simples a escrever textos mais complexos, em uma linguagem quase indistinguível da linguagem humana natural. Este é um dos fatores que justifica sua rápida popularização.
Todavia o ChatGPT tem suas limitações, porque, por ser construído com base estatística, a qual se vale de padrões definidos por um grande conjunto de dados de texto, apresenta a possibilidade de que preconceitos e estereótipos presentes nos dados sejam replicados; ou seja, a redação final pode conter fragmentos textuais ofensivos ou preconceituosos.
Além disso, os modelos GPT não são capazes de entender completamente o contexto e o significado do texto, dado que estes são, invariavelmente, socialmente construídos. Outro ponto relevante são os custos operacionais: de energia para processar esses algoritmos e armazenar os dados gerados e, também, referentes aos recursos computacionais
REFERÊNCIAS
- Motoki et al. (2023). More human than human: measuring ChatGPT political bias. Public Choice. https://doi.org/10.1007/s11127-023-01097-2
- Irigaray & Stocker (2023). ChatGPT: um museu de grandes novidades. Cadernos EBAPE.BR, 21(1). https://doi.org/10.1590/1679-395188776
Reviewed by Saber Atualizado
on
setembro 04, 2023
Rating:
