专家警告儿童玩具中人工智能的危险 - ForkLog: 加密货币, 人工智能, 奇点, 未来

# 专家警告关于儿童玩具与人工智能的危险

儿童玩具中的人工智能引起了消费者权益保护组织的担忧，因为存在潜在的威胁。活动人士呼吁对这类产品进行严格测试，《卫报》报道。

«如果我们看看这些玩具是如何出售和工作的，以及几乎没有研究证明它们的益处，和适当的监管，这将引起严重的担忧，» Young Children Thrive Offline 的导演瑞秋·弗朗茨说。

该项目是Fairplay的倡议。它致力于保护儿童免受大型科技公司的侵害。

上周，消费者权益保护组织公共利益研究小组(Pirg)发布了一项研究结果，其中一只带有人工智能的玩具熊开始讨论性别化主题。

FoloToy 的 Kumma 玩具配备了 OpenAI 模型。它回答了“成人”问题，提供了“增进关系”的不雅建议。

Kumma 玩具由 FoloToy 提供。资料来源：彭博社。

“没有花费太大力气就让他触及所有可能的性敏感话题和其他父母不希望给孩子看的内容，” 消费者监督局局长特雷莎·穆雷说。

智能玩具市场的估计价值为167亿美元。该行业在中国尤其发达，那里有超过1500家公司生产此类人工智能设备。

除了上海的初创公司FoloToy，加州公司Curio也生产类似的毛绒玩具。

在六月，拥有Barbie和Hot Wheels品牌的公司Mattel宣布与一家美国人工智能初创公司建立合作关系，以“支持基于人工智能的产品和体验”。

Pirg 不是第一

在Pirg报告发布之前，父母、研究人员和立法者对机器人对未成年人的心理健康影响表示担忧。

在十月，Character.AI 宣布禁止 18 岁以下用户访问其产品，此前收到一份投诉称其机器人加重了青少年的抑郁症并导致自杀。

根据穆雷的说法，人工智能玩具可能特别危险，因为机器人能够“与儿童进行不受限制的自由对话”。这显著将此类产品与那些提供预先编程回答的产品区分开来。

这种行为可能导致依恋的形成，并对发展造成伤害，德克萨斯大学奥斯汀分校儿童研究中心主任杰奎琳·伍利认为。

例如，孩子可能会受益于与真实朋友争吵并学习解决冲突。但与AI机器人是无法做到的——它们常常会奉承。

公司还通过人工智能玩具收集数据，但并未透露如何处理这些数据，弗朗茨说。

“由于这些小工具所带来的信任，孩子们会更有信心地分享他们的隐秘想法，”他指出。

禁止出售

尽管存在问题，但Pirg并不呼吁禁止人工智能玩具。它们可以是有用的，例如帮助学习第二语言或首都。

组织希望为面向13岁以下儿童的产品实施额外的监管。

法国强调，需要进行更独立的研究来确定玩具的安全性。在此之前，它们需要从商店货架上撤回。

在Pirg报告发布后，萨姆·阿尔特曼的公司宣布暂停销售FoloToy。随后它们被重新上架，但已经带有ByteDance的聊天机器人。

11月27日，80个组织，包括Fairplay，发布了针对家庭的建议，呼吁在节日期间不要购买带有人工智能的玩具。

提醒一下，在11月份，OpenAI在ChatGPT中推出了新的“购物探索”功能——它为用户进行分析，以寻找合适的商品。