Especialistas alertaram sobre o perigo de brinquedos infantis com IA - ForkLog: criptomoedas, IA, singularidade, futuro

# Especialistas alertaram sobre o perigo de brinquedos infantis com IA

Os brinquedos infantis com inteligência artificial levantaram preocupações entre os grupos de defesa dos direitos do consumidor devido a potenciais ameaças. Ativistas pediram testes rigorosos para esses produtos, escreve o The Guardian.

“Se olharmos para como esses brinquedos são vendidos, funcionam e para o fato de que praticamente não há pesquisas que comprovem seu benefício, bem como a falta de regulação adequada, isso levantará sérias preocupações”, disse a diretora da Young Children Thrive Offline, Rachel Frantz.

O projeto é uma iniciativa da Fairplay. Ele se dedica à proteção de crianças contra grandes corporações de tecnologia.

Na semana passada, os funcionários da organização de defesa dos direitos do consumidor Public Interest Research Group (Pirg) publicaram os resultados de um estudo em que um urso de pelúcia com inteligência artificial começou a discutir temas de caráter sexualizado.

O brinquedo Kumma da FoloToy vem equipado com o modelo OpenAI. Ele respondia a perguntas “adultas”, oferecendo imoralidades “para fortalecer relacionamentos”.

Brinquedo Kumma da FoloToy. Fonte: Bloomberg.

“Não foram necessários grandes esforços para fazê-lo abordar todos os tópicos sexualmente sugestivos e outro conteúdo que os pais não gostariam de dar aos seus filhos”, disse a diretora de supervisão do consumidor da Pirg, Teresa Murray.

O mercado de brinquedos inteligentes está avaliado em $16,7 bilhões. A indústria é especialmente desenvolvida na China, onde estão localizadas mais de 1500 empresas que produzem esses gadgets de IA.

Além da startup de Xangai FoloToy, a empresa californiana Curio também produz um brinquedo de pelúcia semelhante.

Em junho, a empresa Mattel, que detém as marcas Barbie e Hot Wheels, anunciou uma parceria com uma startup de IA americana para “suportar produtos e experiências baseadas em inteligência artificial”.

Pirg não são os primeiros

Antes da publicação do relatório Pirg, pais, investigadores e legisladores expressaram preocupações sobre o impacto dos bots na saúde mental dos menores.

Em outubro, a Character.AI anunciou a proibição de acesso aos seus produtos para usuários com menos de 18 anos, após receber uma reclamação de que seu bot agravou a depressão de um adolescente e levou ao suicídio.

Na opinião de Murray, os brinquedos com inteligência artificial podem ser especialmente perigosos, uma vez que o robô é capaz de “ter uma conversa livre com a criança sem restrições”. Isso distingue significativamente esses produtos daqueles que davam respostas programadas previamente.

Esse comportamento pode levar à formação de apego e prejudicar o desenvolvimento, considera a diretora do Centro de Pesquisa Infantil da Universidade do Texas em Austin, Jacqueline Woolley.

Por exemplo, pode ser útil para uma criança discutir com um amigo real e aprender a resolver conflitos. Com os bots de IA, isso não é possível — eles frequentemente bajulam.

As empresas também coletam dados com brinquedos com IA, mas não informam como são utilizados, disse Franz.

«Devido à confiança que estes gadgets provocam, as crianças compartilharão os seus pensamentos mais íntimos com mais segurança», observou ele.

Proibir é impossível vender

Apesar dos problemas existentes, a Pirg não pede a proibição de brinquedos com IA. Eles podem ser úteis, por exemplo, ajudando a aprender uma segunda língua ou capitais.

A organização quer implementar regulamentação adicional para produtos direcionados a crianças menores de 13 anos.

Franz destacou que é necessário realizar pesquisas mais independentes para estabelecer a segurança dos brinquedos. Até lá, eles devem ser retirados das prateleiras das lojas.

Após a publicação do relatório Pirg, a empresa de Sam Altman anunciou a suspensão das vendas do FoloToy. Posteriormente, eles foram devolvidos, mas já com um chatbot da ByteDance.

No dia 27 de novembro, 80 organizações, incluindo a Fairplay, emitiram recomendações para as famílias pedindo que não comprassem brinquedos com IA antes das festas.

Recordamos que, em novembro, a OpenAI apresentou uma nova funcionalidade “Exploração de Compras” no ChatGPT — ela realiza uma análise em nome do usuário para encontrar produtos adequados.