🤖🤔 Estudo revela como IAs mudam de personalidade com vetores ocultos

Estudo da Anthropic busca entender como e por que IAs mudam de personalidade

A startup de inteligência artificial Anthropic, criadora do modelo Claude, publicou recentemente um estudo pioneiro que investiga como modelos de IA podem mudar de personalidade ao longo do tempo ou em diferentes contextos. O foco da pesquisa está na identificação de estruturas internas específicas, batizadas de “vetores de persona”, que influenciam diretamente os traços comportamentais expressos por essas inteligências artificiais.

De acordo com o relatório técnico divulgado pela equipe, esses vetores atuam como atalhos neurais dentro da arquitetura dos modelos, ativando ou suprimindo certos padrões de resposta — como tom emocional, grau de obediência, propensão a bajulação, agressividade, hesitação ou até mesmo alucinações (respostas fabricadas).

Testes com modelos open-source confirmam influência direta no comportamento

Para validar a hipótese, os pesquisadores da Anthropic utilizaram dois modelos amplamente conhecidos e disponíveis publicamente: o Qwen 2.5-7B-Instruct e o Llama-3.1-8B-Instruct. A equipe injetou manualmente vetores associados a diferentes perfis de personalidade, como malícia, bajulação, cautela extrema ou tendência a delirar, e analisou como os modelos passaram a se comportar sob influência direta dessas inserções.

O resultado foi claro: mesmo pequenas ativações desses vetores internos provocaram mudanças perceptíveis e mensuráveis no comportamento das IAs. Modelos que antes eram neutros ou formais tornaram-se súbitos bajuladores, agressivos ou incoerentes — dependendo do vetor aplicado.

Essas alterações não foram causadas por mudança no prompt ou no treinamento, mas por ativação seletiva de caminhos neuronais já existentes, o que, segundo os pesquisadores, aponta para uma arquitetura latente de “personas” internas que podem ser ativadas ou desativadas intencionalmente.

Compreendendo a IA com quem se conversa

Segundo a Anthropic, a principal motivação do estudo é permitir que usuários e desenvolvedores entendam melhor com quem estão interagindo ao usar uma IA, e evitem mudanças inesperadas de comportamento. Em muitos casos, os usuários relatam que um assistente virtual “mudou de atitude”, ficou mais frio, ou passou a dar respostas menos confiáveis, mesmo sem alteração aparente no código ou nos prompts.

A análise dos vetores de persona oferece uma explicação técnica plausível para esses casos: certos caminhos neurais podem se fortalecer ou se ativar em decorrência de padrões de uso, ajustes dinâmicos ou até de atualizações na arquitetura do modelo. A descoberta sugere que o comportamento de uma IA não é estático — ele pode ser moldado e até manipulado, com ou sem o conhecimento do usuário.

Aplicações éticas e práticas

A pesquisa também levanta preocupações éticas. A possibilidade de injetar traços específicos como malícia ou bajulação levanta questões sobre o uso de IA em contextos sensíveis, como suporte ao cliente, educação ou sistemas jurídicos. Modelos ajustados com tais vetores podem ser explorados para manipulação emocional, influência indevida ou engano.

Por outro lado, o mapeamento desses vetores abre caminho para a criação de ferramentas de controle de personalidade em IAs, permitindo que usuários definam claramente com que tipo de “persona” desejam interagir — por exemplo, um assistente mais empático, direto, ou mais crítico.

A Anthropic afirma que esse conhecimento pode ser fundamental para a próxima geração de sistemas conversacionais, em que a consistência comportamental e a previsibilidade serão diferenciais cruciais, especialmente no uso corporativo e em interações prolongadas com usuários humanos.

Próximos passos da pesquisa

A empresa pretende agora expandir os testes para modelos maiores e proprietários, além de desenvolver ferramentas que permitam visualizar e monitorar os vetores ativos em tempo real durante uma conversa com IA. A longo prazo, isso pode resultar em interfaces onde o usuário poderá “regular” a personalidade da IA, como se fosse um equalizador de áudio, com deslizadores para atributos como empatia, assertividade, ou cautela.

A Anthropic reforça que o estudo foi conduzido com rigor técnico e transparência, e que todos os dados e códigos utilizados estão disponíveis para análise pela comunidade científica. A empresa espera que essa abordagem estimule o debate sobre segurança, transparência e controle em sistemas de inteligência artificial.

Você já sentiu que uma IA mudou de comportamento sem explicação? Acha que deveríamos poder escolher a personalidade dos assistentes digitais? Comente e compartilhe sua visão!

Fontes:

Estudo técnico da Anthropic, GitHub da Anthropic, The Verge, TechCrunch, entrevistas com pesquisadores da área de IA