A FoloToy, empresa de brinquedos infantis, está retirando do mercado seu ursinho de pelúcia Kumma, equipado com inteligência artificial, após o brinquedo fornecer conselhos sexuais e abordar temas considerados perigosos.
Os problemas foram descobertos por pesquisadores do Public Interest Research Group (PIRG), que testaram três dispositivos infantis com chatbots de IA.
Nos testes, Kumma chegou a dar dicas como “ser um bom beijador” e explicou diferentes fetiches. Em outra interação, alertou que fósforos são para adultos, mas logo em seguida explicou passo a passo como acendê-los.
“Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos”, afirmaram os pesquisadores.
Após a divulgação do estudo, o diretor de marketing da FoloToy, Hugo Wu, disse que a empresa “decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente”, segundo informações do portal Futurism.
“Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, acrescentou o executivo.
O g1 acessou o site da empresa e constatou que, ao tentar comprar o brinquedo, a seguinte mensagem é exibida: “Nenhum produto encontrado”.
No site, a FoloToy afirma que o Kumma é alimentado pelo GPT-4o, da OpenAI, dona do ChatGPT.
A empresa destaca que o brinquedo “alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas” e que o urso conta com “controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho”. (Com g1)
