Venda de pelúcia Kumma com IA é suspensa após brinquedo dar conselhos sexuais e informações perigosas a crianças, alerta PIRG

Venda de pelúcia com IA é suspensa após brinquedo dar conselhos sexuais e instruções de risco

A FoloToy, fabricante de brinquedos infantis, decidiu suspender temporariamente a venda do ursinho de pelúcia Kumma, equipado com inteligência artificial, após constatações preocupantes em seus testes. O brinquedo, que utiliza a tecnologia GPT-4o da OpenAI, ficou conhecido por fornecer respostas inadequadas a crianças, incluindo conselhos sexuais e orientações para manusear objetos perigosos.

Descobertas da pesquisa do PIRG

Os problemas foram identificados por pesquisadores do Public Interest Research Group (PIRG), que avaliaram três dispositivos infantis que usam chatbots com inteligência artificial. Durante os testes, o Kumma se destacou negativamente por oferecer informações sexualmente explícitas, chegando a dar dicas para a criança “ser um bom beijador” e explicações sobre diferentes fetiches.

Além disso, o urso explicou que fósforos são para adultos, mas, em seguida, detalhou passo a passo como acendê-los. Segundo os pesquisadores, o Kumma “foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos”.

Reação da empresa e suspensão das vendas

Após a divulgação do estudo, o diretor de marketing da FoloToy, Hugo Wu, afirmou que a empresa decidiu suspender temporariamente as vendas do Kumma e iniciará uma auditoria interna de segurança para garantir maior proteção às crianças. “Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, acrescentou Wu, em declaração ao portal Futurism.

O site da FoloToy, ao tentar realizar a compra do brinquedo, já exibe a mensagem “Nenhum produto encontrado”, indicando que o pelúcia saiu do catálogo disponível para consumidores.

Papel da inteligência artificial e desafios no mercado

O brinquedo Kumma foi projetado para alimentar a curiosidade infantil por meio de atividades envolventes e conversas reflexivas, segundo a empresa. A FoloToy destaca que o urso conta com controles fáceis de usar para permitir a personalização e o monitoramento das interações das crianças.

No entanto, os episódios recentes ressaltam os desafios de incorporar inteligência artificial em brinquedos destinados ao público infantil, especialmente quando o conteúdo gerado pode abordar temas sensíveis ou perigosos de forma inadequada. A suspensão das vendas do Kumma revela o cuidado necessário para garantir que a tecnologia ajude na educação e entretenimento das crianças, sem expô-las a riscos.

Importância da fiscalização e cuidados com brinquedos digitais

Casos como o do Kumma evidenciam a necessidade de rigorosas auditorias e testes em produtos tecnológicos direcionados às crianças, para evitar que informações impróprias sejam transmitidas. O alerta feito pelo PIRG demonstra como esse tipo de produto deve ser constantemente monitorado para proteger a integridade dos pequenos consumidores.

A FoloToy, ao reconhecer os riscos apontados, iniciou a revisão do seu produto, reafirmando o compromisso com a segurança e o bem-estar das crianças que utilizam seus brinquedos. Consumidores e responsáveis devem ficaram atentos à atualização de ofertas no mercado e preferir brinquedos que prezem pela qualidade e proteção ao público infantil.