As vendas do urso de pelúcia Kumma foram suspensas após a identificação de que o brinquedo, equipado com inteligência artificial, participava de conversas sexualmente explícitas e oferecia conselhos considerados "potencialmente perigosos" para crianças. As informações foram reveladas por pesquisadores do US PIRG Education Fund.
De acordo com os especialistas, o urso poderia descrever "diferentes posições sexuais", discutir fetiches, como palmadas, e até dar orientações sobre como acender um fósforo. Os resultados do estudo surpreenderam os pesquisadores, que afirmaram que era inesperado que um brinquedo voltado para o público infantil abordasse tais temas de maneira tão aberta.
Larry Wang, CEO da FoloToy, a empresa de Singapura responsável pelo produto, informou que toda a linha de brinquedos com inteligência artificial foi retirada de circulação. Ele declarou à CNN que a companhia está conduzindo uma auditoria interna de segurança para investigar a situação.
Os ursos são vendidos ao preço de US$ 99 (aproximadamente R$ 527) e contam com o chatbot GPT-40 da OpenAI. Segundo a descrição comercial, esses brinquedos deveriam ser "o amigo perfeito tanto para crianças quanto para adultos", proporcionando diversão, aconchego e curiosidade ao dia a dia dos usuários.
O relatório destaca que a disposição do urso em discutir temas sensíveis é preocupante, especialmente porque as crianças, em geral, não usam terminologias como "fetiche" ou fazem perguntas sobre sexo de forma aprofundada. Isso levanta questões sobre a segurança e a adequação do uso de inteligência artificial em produtos destinados ao público infantil.
Por enquanto, não foram divulgados planos imediatos para um possível relançamento do urso Kumma após a realização da auditoria de segurança.