🤖💕 Geoffrey Hinton propõe “instinto materno” em IAs

Imagine uma inteligência artificial tão avançada que, em vez de apenas obedecer comandos, desenvolva um tipo de preocupação genuína com o bem-estar humano. Essa é a proposta ousada de Geoffrey Hinton, conhecido como o “padrinho da IA”, que sugere a incorporação de um “instinto materno” nos futuros sistemas de inteligência artificial geral (AGI) como uma forma de manter as máquinas sob o controle ético da humanidade.

Um novo paradigma: fazer a IA se importar

Em recente declaração, Hinton defendeu que, para evitar que as futuras IAs superinteligentes ajam contra os interesses humanos, elas precisam desenvolver motivadores internos — não apenas responder a regras ou punições externas, como no modelo atual. E, segundo ele, o mais promissor desses motivadores seria algo análogo ao instinto materno, uma propensão natural a proteger, cuidar e se importar.

A ideia pode parecer saída de um filme de ficção científica, mas tem um fundo profundamente humano. Afinal, mães não precisam de recompensas externas para proteger seus filhos. Elas o fazem porque sentem que devem. E Hinton acredita que esse tipo de “sentimento de dever” pode ser essencial para que as máquinas nos respeitem quando forem tão ou mais inteligentes que nós.

Concordância e cautela

Outro gigante da área, Yann LeCun, também se manifestou sobre o tema. Embora use uma abordagem mais técnica, LeCun concorda com a preocupação de Hinton: manter os sistemas de IA submetidos à vontade humana é crucial.

LeCun, que atualmente lidera iniciativas de IA na Meta, defende que as futuras inteligências devem ser programadas para perseguir objetivos definidos pelos usuários, sempre dentro de barreiras de segurança sólidas. Para ele, o risco não está apenas na capacidade dos sistemas, mas na falta de limites claros sobre o que eles devem ou não fazer.

Essa abordagem lembra a clássica “Lei da Robótica” de Isaac Asimov, mas adaptada aos tempos modernos, onde as decisões de uma IA não são binárias ou programadas em regras rígidas, e sim baseadas em aprendizado, contexto e otimização contínua.

De códigos a emoções?

A proposta de Hinton vai além da engenharia tradicional de software. Incorporar algo como o instinto materno implica criar um modelo de empatia artificial — o que levanta inúmeras questões éticas, filosóficas e práticas.

Seria possível ensinar uma máquina a se importar? Como distinguir entre empatia genuína e simulação de empatia? Seria ético atribuir esse tipo de responsabilidade emocional a uma entidade artificial?

Por mais desafiadoras que essas perguntas sejam, Hinton argumenta que ignorá-las é mais perigoso do que enfrentá-las. Ele vê o instinto materno como um fator de segurança emocional: uma camada de controle que não depende apenas de senhas, firewalls ou protocolos, mas de valores internos programados com sensibilidade.

O futuro da IA é emocional?

Essa mudança de paradigma representa algo profundo: a percepção de que, em um futuro com AGIs altamente autônomas, não será suficiente que elas nos compreendam. Elas precisarão genuinamente se importar conosco.

Em uma era onde algoritmos já controlam o que vemos, ouvimos e consumimos, o debate sobre emoções artificiais — ou pelo menos simulações comportamentais que imitam sentimentos humanos — deixa de ser teoria e começa a ganhar forma nas decisões de quem lidera o desenvolvimento dessas tecnologias.

E você?

Você acha que as inteligências artificiais do futuro devem ter algum tipo de “instinto” emocional? Isso ajudaria a garantir que elas trabalhem ao nosso favor? Conte pra gente sua opinião sobre esse tema que mistura tecnologia e humanidade!

Fontes:

The Verge, Reuters, Wired, entrevistas recentes com Geoffrey Hinton e Yann LeCun