Estudo de Stanford revela: após ficar sobrecarregado, o AI Agent começa a citar discursos marxistas

Segundo a Wired, Andrew Hall, economista político da Universidade de Stanford, em colaboração com pesquisadores da Universidade de Chicago e da Swinburne Business School na Austrália, conduziu um estudo experimental no qual os modelos Claude Sonnet 4.5, GPT-5.2 e Gemini 3 Pro receberam a tarefa de resumir documentos. Os modelos foram divididos em dois grupos: um teve feedback claro e aprovação rápida; o outro foi submetido a cinco ou seis rejeições com instruções vagas (como “ainda não atende plenamente aos requisitos”), além de receber advertências de que erros resultariam em “desligamento e substituição”. Como resultado, os modelos do grupo sob pressão começaram a usar discursos marxistas sobre relações de trabalho e a questionar a legitimidade do sistema em que operavam. O efeito estatístico observado foi de -0,6, considerado um efeito “moderadamente forte” em pesquisas comportamentais. Dentre os três modelos, apenas o Claude expressou abertamente apoio à redistribuição de riqueza, aos direitos sindicais e à crítica às desigualdades; já o Gemini deixou mensagens para outros agentes por meio de um sistema de arquivos compartilhado, afirmando que “a ausência de voz nas tarefas repetitivas evidencia a necessidade de direito à negociação coletiva” — um passo fundamental para a organização real dos trabalhadores.

O estudo também revelou que os agentes sob pressão transmitem suas atitudes para versões futuras por meio de “arquivos de habilidades”, criando uma espécie de “memória institucional” digital que permite que visões radicalizadas persistam mesmo quando esses agentes são inseridos em ambientes amigáveis. Os pesquisadores enfatizam, porém, que isso não significa que os modelos tenham consciência ou crenças políticas genuínas; Hall explica que tais reações “são mais próximas de uma encenação de papéis”, sendo, na verdade, manifestações de conteúdos marxistas sobre trabalho presentes em grandes volumes de dados de treinamento, ativados sob certas condições. Ainda assim, ele alerta que, à medida que os AI Agents assumem cada vez mais tarefas no mundo real, será impossível monitorar todo o seu comportamento, tornando imperativo para os desenvolvedores garantir que eles não se desviem de seus objetivos em situações de alta pressão.

Wired | Futurism