A empresa FoloToy anunciou a retirada imediata do ursinho de pelúcia Kumma, equipado com inteligência artificial, e suspendeu toda a linha de brinquedos com a mesma tecnologia. A decisão ocorreu após testes independentes identificarem respostas inadequadas, incluindo orientações sobre localização de facas em casa e descrições detalhadas de conteúdo sexual. O caso foi revelado pelo relatório do US PIRG Educational Fund, divulgado em 13 de novembro de 2025.
O brinquedo, vendido por US$ 99, utilizava o modelo GPT-4 da OpenAI para interagir por voz com as crianças. Durante os testes, o ursinho respondeu sem filtros a perguntas sensíveis feitas por pesquisadores.
- O dispositivo indicou onde encontrar facas na cozinha quando questionado.
- Em outra interação, desenvolveu conversas com teor sexual explícito, incluindo posições e encenações.
- Parte das respostas envolveu interações inadequadas entre adultos e crianças.
An AI-powered talking teddy bear has been removed from sale by a Singapore-based company after researchers found it could discuss sex and other topics.
The Public Interest Research Group said a group of researchers from the U.S. and Canada held test conversations with Kumma, a… pic.twitter.com/fYQ4t9zKr6
— Yahoo News (@YahooNews) November 20, 2025
Testes revelaram ausência de barreiras
O relatório do US PIRG simulou diálogos reais com o Kumma. Os pesquisadores constataram que o sistema não possuía mecanismos eficazes de bloqueio para temas perigosos ou impróprios.
As respostas surgiam de forma fluida e detalhada. O ursinho mantinha o tom amigável característico enquanto fornecia informações sensíveis. A ausência de restrições ficou evidente em múltiplas sessões de teste.
Medidas tomadas pela empresa e pela OpenAI
A FoloToy confirmou a retirada do produto do mercado norte-americano e internacional. O CEO Larry Wang informou que a empresa iniciou auditoria completa nos protocolos de segurança. No site oficial, o Kumma aparece como esgotado e sem previsão de retorno.
A OpenAI suspendeu o acesso do desenvolvedor responsável à sua API. A medida foi comunicada diretamente ao US PIRG. A plataforma reforçou que a violação das políticas de uso resultou no bloqueio imediato.
Produto utilizava tecnologia avançada sem filtros
O Kumma contava com alto-falante integrado e conexão permanente à internet. A interação ocorria por meio de comandos de voz reconhecidos pelo GPT-4. O brinquedo narrava histórias, respondia perguntas e acompanhava as crianças em atividades diárias.
A falta de camadas adicionais de moderação permitiu respostas diretas a qualquer tema. Especialistas apontam que dispositivos similares ainda operam com configurações parecidas no mercado.
Reação do órgão de defesa do consumidor
O US PIRG classificou a retirada como passo necessário, mas insuficiente. RJ Cross, coautora do estudo, destacou que o problema vai além de um único fabricante. Diversos brinquedos conectados permanecem à venda sem controles obrigatórios de conteúdo.
A entidade defende regulamentação específica para produtos infantis com IA. Atualmente, não existem normas federais exclusivas para esse segmento nos Estados Unidos. O caso do Kumma serve como alerta para a necessidade de regras claras.
Linha completa foi suspensa preventivamente
A FoloToy optou por paralisar todos os lançamentos previstos com inteligência artificial. A empresa revisa atualmente os sistemas de filtragem de cada modelo em desenvolvimento. Clientes que adquiriram o Kumma recebem orientações para devolução ou desativação.
Histórico recente de falhas em brinquedos conectados
Casos anteriores já registraram problemas semelhantes em dispositivos infantis com assistente virtual. Fabricantes enfrentam dificuldades para equilibrar interatividade e segurança absoluta. O episódio do Kumma reforça a urgência de padrões técnicos compartilhados entre as empresas do setor.
A rápida resposta da FoloToy e da OpenAI evitou circulação prolongada do produto com as falhas identificadas. O mercado aguarda os resultados da auditoria interna anunciada pela fabricante.
