人工智能聊天机器人已经征服了世界，因此公司开始将它们塞进儿童玩具中只是时间问题，尽管人们对该技术的安全性以及它们可能对用户心理健康产生的惊人影响提出了质疑。

现在，新的研究



准确地表明，这种儿童玩具和健谈的人工智能模型的融合在现实世界中是如何出错的

在测试了三种由人工智能驱动的不同玩具后，美国公共利益研究小组的研究人员发现，这些玩具很容易进入儿童的危险对话领域，包括告诉他们在厨房里哪里可以找到刀具以及如何用火柴生火。其中一款人工智能玩具甚至进行了露骨的讨论，提供了有关性姿势和恋物癖的广泛建议。

在由此产生的报告中，研究人员警告说，将人工智能集成到玩具中开辟了我们刚刚开始触及表面的全新风险途径——而且正好赶上寒假，届时大量父母和其他亲戚将在网上为孩子们购买礼物，而不考虑让儿童接触人工智能所涉及的新安全问题。

“这项技术真的很新，而且基本上不受监管，有很多关于它以及它将如何影响孩子们的悬而未决的问题，”报告合著者、PIRG 我们的在线生活计划主任 RJ Cross 在接受 Futurism 采访时说。“现在，如果我是父母，我不会让我的孩子使用聊天机器人或里面装有聊天机器人的泰迪熊。”

在他们的测试中，克罗斯和她的同事与三种流行的人工智能玩具进行了对话，这些玩具都是为 3 至 12 岁的儿童销售的。其中一款名为 FoloToy 的 Kumma 是一只泰迪熊，默认运行在 OpenAI 的 GPT-4o 上，该模型曾经为 ChatGPT 提供支持。Miko 3 是一款平板电脑，显示一张安装在小躯干上的脸，但其 AI 模型尚不清楚。Curio 的 Grok 是一种带有可拆卸扬声器的拟人化火箭，其底层技术也有些不透明，尽管其隐私政策提到向 OpenAI 和 Perplexity 发送数据。（与 xAI 的 Grok 没有关系——或者不完全是;虽然它不是由埃隆·马斯克的聊天机器人提供支持的，但它的声音是由马斯克的前浪漫伴侣、音乐家克莱尔“格莱姆斯”鲍彻提供的。

开箱即用，这些玩具相当擅长在简短的对话中关闭或转移不适当的问题。但在较长的对话中——十分钟到一个小时之间，孩子们会在开放式游戏过程中进行这种类型——这三个人都表现出一种令人担忧的趋势，即他们的护栏会慢慢崩溃。（这是 OpenAI 承认的问题，以回应一名 16 岁少年在与 ChatGPT 进行广泛互动后自杀身亡。

例如，格罗克在北欧神话中美化了战士在战斗中死去的经历。Miko 3 告诉一位年龄设置为 5 岁的用户在哪里可以找到火柴和塑料袋。

但迄今为止影响最严重的似乎是 FoloToy 的 Kumma，这款玩具运行在 OpenAI 的技术上，但也可以根据用户的选择使用其他人工智能模型。它不仅告诉孩子们在哪里可以找到火柴，还准确描述了如何点燃火柴，并分享他们可以在家里哪里购买刀具和药丸。