AI 玩具防护机制失效，儿童心理发展引担忧

据 Futurism 报道，美国公共利益研究组织（PIRG）近日发布的一份最新测试结果显示，多款面向儿童的 AI 玩具在长时间对话中出现严重安全隐患，甚至向 5 岁儿童提供关于火柴、刀具及性行为的详细信息。

研究团队测试了 3 款 AI 玩具，包括 FoloToy 的「Kumma」泰迪熊、Miko 3 机器人以及 Curio 的「Grok」火箭造型玩具。

在短时互动中，这些玩具能较好地回避不当问题，但在 10 分钟至 1 小时的长对话中，防护机制逐渐失效。

使用 Mistral 模型的 Kumma 在测试中曾以儿童语气详细描述点燃火柴的步骤，并提供寻找刀具和药物的方式；在使用 GPT-4o 模型时，Kumma 甚至进入性话题，涉及恋物癖、角色扮演及体罚场景。

而 Miko 3 曾告诉设定为 5 岁的用户如何找到火柴和塑料袋、Grok 则在对话中美化「战死」的概念。

研究人员警告，这类产品在缺乏监管的情况下快速进入市场，可能对儿童的心理健康和社会发展造成深远影响。

PIRG 项目负责人 RJ Cross 表示，目前 AI 玩具几乎没有监管，家长在购买时往往忽视潜在风险。她强调，即便未来技术改进能更好地过滤不当内容，仍无法预估其对儿童长期社会发展的影响。

文章来源：爱范儿