專家警告兒童玩具中人工智能的危險 - ForkLog: 加密貨幣, 人工智能, 奇點, 未來

# 專家警告關於兒童玩具與人工智能的危險

兒童玩具中的人工智能引起了消費者權益保護組織的擔憂，因爲存在潛在的威脅。活動人士呼籲對這類產品進行嚴格測試，《衛報》報道。

«如果我們看看這些玩具是如何出售和工作的，以及幾乎沒有研究證明它們的益處，和適當的監管，這將引起嚴重的擔憂，» Young Children Thrive Offline 的導演瑞秋·弗朗茨說。

該項目是Fairplay的倡議。它致力於保護兒童免受大型科技公司的侵害。

上周，消費者權益保護組織公共利益研究小組(Pirg)發布了一項研究結果，其中一只帶有人工智能的玩具熊開始討論性別化主題。

FoloToy 的 Kumma 玩具配備了 OpenAI 模型。它回答了“成人”問題，提供了“增進關係”的不雅建議。

Kumma 玩具由 FoloToy 提供。資料來源：彭博社。

“沒有花費太大力氣就讓他觸及所有可能的性敏感話題和其他父母不希望給孩子看的內容，” 消費者監督局局長特雷莎·穆雷說。

智能玩具市場的估計價值爲167億美元。該行業在中國尤其發達，那裏有超過1500家公司生產此類人工智能設備。

除了上海的初創公司FoloToy，加州公司Curio也生產類似的毛絨玩具。

在六月，擁有Barbie和Hot Wheels品牌的公司Mattel宣布與一家美國人工智能初創公司建立合作關係，以“支持基於人工智能的產品和體驗”。

Pirg 不是第一

在Pirg報告發布之前，父母、研究人員和立法者對機器人對未成年人的心理健康影響表示擔憂。

在十月，Character.AI 宣布禁止 18 歲以下用戶訪問其產品，此前收到一份投訴稱其機器人加重了青少年的抑鬱症並導致自殺。

根據穆雷的說法，人工智能玩具可能特別危險，因爲機器人能夠“與兒童進行不受限制的自由對話”。這顯著將此類產品與那些提供預先編程回答的產品區分開來。

這種行爲可能導致依戀的形成，並對發展造成傷害，德克薩斯大學奧斯汀分校兒童研究中心主任傑奎琳·伍利認爲。

例如，孩子可能會受益於與真實朋友爭吵並學習解決衝突。但與AI機器人是無法做到的——它們常常會奉承。

公司還通過人工智能玩具收集數據，但並未透露如何處理這些數據，弗朗茨說。

“由於這些小工具所帶來的信任，孩子們會更有信心地分享他們的隱祕想法，”他指出。

禁止出售

盡管存在問題，但Pirg並不呼籲禁止人工智能玩具。它們可以是有用的，例如幫助學習第二語言或首都。

組織希望爲面向13歲以下兒童的產品實施額外的監管。

法國強調，需要進行更獨立的研究來確定玩具的安全性。在此之前，它們需要從商店貨架上撤回。

在Pirg報告發布後，薩姆·阿爾特曼的公司宣布暫停銷售FoloToy。隨後它們被重新上架，但已經帶有ByteDance的聊天機器人。

11月27日，80個組織，包括Fairplay，發布了針對家庭的建議，呼籲在節日期間不要購買帶有人工智能的玩具。

提醒一下，在11月份，OpenAI在ChatGPT中推出了新的“購物探索”功能——它爲用戶進行分析，以尋找合適的商品。