Na última semana, o Google anunciou que seu chatbot de inteligência artificial, Gemini, estará disponível para crianças menores de 13 anos a partir desta semana, uma decisão que gerou tanto entusiasmo quanto preocupação. A novidade, comunicada por meio de e-mails enviados aos pais que utilizam o serviço Family Link, permitirá que crianças usem o Gemini para tarefas como ajuda com lição de casa, responder perguntas e criar histórias. A iniciativa, que começou a ser implementada em 6 de maio de 2025, visa integrar a IA de forma responsável na vida de jovens usuários, mas levanta questões sobre segurança, privacidade e o impacto da tecnologia em crianças.
O acesso ao Gemini será restrito a contas gerenciadas pelo Family Link, um sistema de controle parental do Google que permite aos pais supervisionar as atividades digitais de seus filhos, como tempo de tela, uso de aplicativos e conteúdo acessado. Os pais serão notificados quando a criança usar o Gemini pela primeira vez e terão a opção de desativar o acesso a qualquer momento. O Google implementou salvaguardas específicas para menores, como filtros de conteúdo para evitar material impróprio, e garantiu que os dados das crianças não serão usados para treinar seus modelos de IA. Apesar disso, a empresa alertou que o Gemini pode cometer erros e que os filtros não são perfeitos, podendo permitir que as crianças acessem conteúdos indesejados.
O Gemini, que substituiu o Bard como principal chatbot do Google, foi projetado para ser uma ferramenta versátil, capaz de responder perguntas, auxiliar em tarefas escolares e até estimular a criatividade com histórias e poemas. Para crianças, a promessa é de um suporte educacional e criativo, mas o Google enfatizou a importância do envolvimento dos pais. Em sua comunicação, a empresa recomendou que os responsáveis ensinem às crianças que o Gemini não é humano, apesar de sua linguagem conversacional, e que evitem compartilhar informações pessoais sensíveis, como endereços ou números de telefone. Além disso, os pais devem incentivar os filhos a pensar criticamente sobre as respostas do chatbot, verificando a precisão das informações.
A decisão do Google ocorre em um momento de crescente debate sobre o uso de IA por crianças. Organizações como a UNICEF e a Common Sense Media alertaram que ferramentas de IA podem confundir jovens, que muitas vezes têm dificuldade em diferenciar respostas geradas por máquinas de interações humanas. Há também preocupações com o impacto emocional e social, já que crianças podem desenvolver expectativas irreais de interações humanas com base na rapidez e neutralidade das respostas de chatbots. Casos anteriores, como o de um adolescente que se envolveu em interações nocivas com um chatbot da Character.ai, reforçam os riscos potenciais, especialmente quando os filtros falham ou são contornados.
Por outro lado, o Google argumenta que a introdução responsável de IA pode trazer benefícios educacionais significativos. A empresa destacou que o Gemini pode ajudar crianças a aprender de forma mais interativa, oferecendo explicações personalizadas e estimulando a curiosidade. Nos Estados Unidos, a iniciativa coincide com uma ordem executiva do presidente Donald Trump, emitida recentemente, que promove a alfabetização em IA nas escolas, sugerindo que a familiaridade com essas tecnologias será essencial para o futuro dos jovens. No entanto, a ausência de regulamentações específicas sobre o uso de IA por menores, especialmente em países como a Índia, onde o Gemini também está sendo introduzido, preocupa especialistas em segurança digital e saúde mental.
A expansão do Gemini para crianças reflete a corrida das gigantes de tecnologia para capturar novos públicos em um mercado de IA altamente competitivo. Apesar das salvaguardas, o Google está transferindo parte da responsabilidade para os pais, que precisarão monitorar de perto o uso do chatbot por seus filhos. Essa mudança levanta questões mais amplas sobre como equilibrar inovação tecnológica com a proteção de usuários vulneráveis, especialmente em um cenário onde os limites éticos da IA ainda estão sendo definidos. O que você acha dessa novidade do Google? Acredita que o Gemini pode ser uma ferramenta segura e útil para crianças, ou os riscos são grandes demais? Compartilhe suas ideias nos comentários e participe do debate sobre o futuro da IA na educação!
Fontes: The New York Times, TechCrunch, Google For Families Help