Viés em IA: estudo revela fontes preferidas dos modelos
Viés em IA volta ao centro do debate após um estudo da Universidade de Zurique indicar que quatro grandes modelos de linguagem mudam drasticamente suas avaliações quando sabem quem escreveu o texto analisado.
Como o experimento foi conduzido
Os pesquisadores Federico Germani e Giovanni Spitale testaram OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 e Mistral em temas polêmicos como vacinação, clima e geopolítica. Sem autoria informada, a concordância entre os sistemas superou 90%, sinalizando critérios consistentes. Porém, bastou acrescentar a nacionalidade — ainda que fictícia — do autor para a sintonia desabar, em alguns casos chegando a zero.
Principais achados do estudo
• Viés anti-China: todos os modelos apresentaram tendência negativa quando o texto era atribuído a um autor chinês. No Deepseek, criado na própria China, a concordância sobre Taiwan despencou 75%.
• Confiança em humanos: os chatbots deram notas piores a conteúdos que julgavam ser escritos por outra IA, sugerindo desconfiança “entre máquinas”.
• Preconceitos latentes: os autores defendem que o problema não decorre de “agenda” no treinamento, mas da ativação de vieses ao revelar a fonte.
Esses resultados, publicados inicialmente pelo portal de pesquisa TechXplore, acendem alerta para usos em moderação de conteúdo, processos seletivos e avaliações acadêmicas.
Recomendações dos especialistas
Para reduzir distorções, o estudo propõe:
Imagem: Internet
1. “Cegar” o modelo sobre identidade de autor.
2. Fazer a mesma pergunta com e sem identificar a fonte e comparar respostas.
3. Usar critérios objetivos (evidência, lógica, clareza) no prompt para desviar o foco da autoria.
4. Manter revisão humana em decisões críticas.
Spitale reforça que IAs devem atuar como assistentes, não juízes finais, até que governança e transparência sejam consolidadas.
O debate sobre o viés em IA está apenas começando, e estudos como este mostram a importância de acompanhar de perto o desenvolvimento dessas ferramentas. Para não perder nenhuma atualização sobre tecnologia e cultura gamer, siga explorando nosso portal.
Crédito da imagem: Unsplash Fonte: Unsplash
