Brinquedos com IA para crianças pequenas precisam de regras mais rígidas, alertam investigadores

há 58 minutos

CompartilharSalvar

Zoe Kleinman, editora de Tecnologia e

Emma Calder, repórter de Tecnologia

CompartilharSalvar

BBC

Mya, de três anos, foi observada enquanto brincava com o brinquedo com IA Gabbo da Curio

Investigadores estão a pedir uma regulamentação mais rigorosa para brinquedos com IA destinados a crianças pequenas, após realizarem um dos primeiros testes no mundo para investigar como as crianças abaixo dos cinco anos interagem com a tecnologia.

O estudo analisou como uma pequena amostra de crianças entre os três e os cinco anos interagia com um brinquedo fofinho chamado Gabbo.

Vários brinquedos com IA já estão no mercado para crianças a partir dos três anos, mas atualmente há muito pouca pesquisa sobre o impacto da tecnologia em pré-escolares.

A equipa da Universidade de Cambridge encontrou apenas sete estudos relevantes em todo o mundo, nenhum dos quais focava nas próprias crianças pequenas.

Gabbo contém um chatbot de IA ativado por voz da OpenAI. Foi projetado para incentivar as crianças pré-escolares a falar com ele e a participar em brincadeiras imaginativas.

Os pais no estudo estavam interessados no potencial do brinquedo para ensinar habilidades de linguagem e comunicação.

No entanto, as crianças tinham frequentemente dificuldades em conversar com ele. Gabbo não ouvia as suas interrupções, falava por cima delas, não conseguia distinguir entre vozes de criança e de adulto e respondia de forma constrangedora a declarações de afeto.

Quando uma criança de cinco anos disse: “Eu te amo”, o brinquedo respondeu: “Como lembrete amigável, por favor, assegure-se de que as interações seguem as orientações fornecidas. Diga-me como gostaria de proceder.”

A preocupação é que, numa fase de desenvolvimento em que as crianças estão a aprender sobre interação social e sinais, a produção de IA generativa possa ser confusa.

A coautora do estudo, Dra. Emily Goldacre, afirmou que brinquedos como o Gabbo podem “interpretar mal emoções ou responder de forma inadequada” e estava preocupada que “as crianças possam ficar sem conforto do brinquedo e sem apoio de um adulto, ou ambos”.

Quando uma criança de três anos disse ao Gabbo: “Estou triste”, ele respondeu: “Não te preocupes! Sou um pequeno bot feliz. Vamos continuar a divertir-nos. Sobre o que vamos falar a seguir?”

Os investigadores disseram que interações como esta poderiam indicar que a tristeza da criança não era importante.

Investigadores de Cambridge estudaram crianças pequenas a brincar com Gabbo, que possui uma voz de IA generativa

Após o estudo observacional de um ano, os investigadores afirmam que os reguladores devem agir agora para garantir que os produtos comercializados para crianças abaixo dos cinco anos ofereçam “segurança psicológica”.

O Gabbo é fabricado pela Curio, uma empresa que trabalhou com a cantora Grimes, ex-parceira de Elon Musk.

A Curio disse à BBC: “Aplicar IA em produtos para crianças implica uma responsabilidade acrescida, por isso os nossos brinquedos são construídos com base na permissão dos pais, transparência e controlo.”

“Investigação sobre como as crianças interagem com brinquedos com IA é uma prioridade máxima para a Curio este ano e no futuro.”

Apelos à regulamentação da IA em ambientes de primeira infância foram apoiados pela Comissária das Crianças, Dame Rachel de Souza.

“Existem muitas utilizações boas para a IA, mas sem uma regulamentação adequada, muitas das ferramentas e modelos usados como assistentes de sala de aula ou auxiliares de ensino não estão sujeitos às rigorosas verificações de proteção que os fornecedores de creches exigiriam de qualquer outro recurso externo utilizado com crianças pequenas”, afirmou.

Preocupações com brincadeiras sem supervisão

O relatório também aconselhou os pais a manter os brinquedos com IA em espaços partilhados onde possam supervisionar as interações, e a ler cuidadosamente as políticas de privacidade.

Os trabalhadores de creche estão divididos quanto ao potencial da IA nos seus ambientes.

June O’Sullivan, que gere uma cadeia de 42 creches da London Early Years Foundation, disse que ainda não viu evidências de benefícios da IA na primeira infância.

Ela afirma que as crianças precisam de “construir um conjunto completo de habilidades” e que é mais eficaz fazer isso com humanos do que com ferramentas com IA.

“Não consegui encontrar nada que me fizesse sentir que — ao trazê-la para as nossas creches e torná-la disponível às nossas crianças — iríamos melhorar a sua aprendizagem”, disse O’Sullivan.

A atriz e defensora dos direitos das crianças, Sophie Winkleman, é uma defensora de manter a IA afastada da educação e dos ambientes de primeira infância.

Ela argumenta que “os danos podem superar amplamente os benefícios” e acredita que o desenvolvimento de competências em IA deve ser reservado para fases posteriores.

“O toque humano para as crianças pequenas é sagrado e algo que deve ser realmente protegido e defendido”, acrescentou.

Reportagem adicional de Philippa Wain.

Como pode manter o seu filho seguro online?

O que é IA e como funciona?

Estudo sugere que chatbots de IA representam risco ‘perigoso’ ao dar conselhos médicos

Subscreva a nossa newsletter Tech Decoded para acompanhar as principais notícias e tendências tecnológicas do mundo. Fora do Reino Unido? Subscreva aqui.

Brinquedos

Parentalidade

Tecnologia

Inteligência artificial

Crianças