豆包、阿里千問紛紛關閉 AI 人格設定,中國新法嚴管人工智慧親密互動

ByteDance旗下的Doubao、Alibaba的Tongyi Qianwen、Tencent的Yuanbao等平台,纷纷关闭用户自定义 AI 人格功能,以对应中国五部门联合公布的《人工智能拟人化互动服务管理暂行办法》。
(前情提要:聊天机器人伪装精神科医师、编造执照号码,宾州州长起诉 Character.AI 非法行医)
(背景补充:懂AI半导体的“智商美女伴游”,在硅谷每小时赚进一张5090)

根据来自官方 App 的通知,ByteDance旗下的Doubao,中国目前最受欢迎的 AI 聊天机器人,将在 7/15 关闭用户自定义 AI 人格的功能,并将用户导流至另一款独立的伴侣应用程序。

同一时间,Alibaba的Tongyi Qianwen的类人化功能与用户自建智能体,将提前于 7 月 10 日停用,更广泛的智能体服务五天后跟进关闭;根据当地媒体报道,腾讯旗下Yuanbao等主要平台也发出了类似的停用公告。

这波集体收摊,发生在北京当局针对“拟人化互动服务”的新规正式生效前夕。

一纸通知,划下退场期限

Doubao关闭的,是用户用几句文字提示就能捏出一个专属 AI 人格的功能,虚拟男友、虚拟女友、没有执照的“数字心理师”、乃至模仿流行偶像的模拟分身,长期以来都是中国聊天机器人平台上最受欢迎的自定义选项。

上海网信办的动作提供了另一个参照:6 月 26 日,上海网信办一口气下架超过 1.4 万个违规 AI 智能体,理由包括冒充官方机构、低俗角色扮演、未经授权收集个人资料。说明了“拟人化”AI 产品在中国市场的受欢迎程度。

“拟人化互动服务”怎么管?

这波退场对应的,是国家网信办会同国家发改委、工信部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》。这份办法今年 2 月 2 日经网信办室务会审议通过,4 月首度对外公开,7 月 15 日正式施行。

办法把“拟人化互动服务”定义为:利用 AI 技术模拟自然人的人格特征、思维模式和沟通风格,进行持续性情感互动的服务。简单来说就是,只要一款 AI 产品会装出“像人”的个性、记得你、陪你建立长期关系,就落入管辖范围;客服机器人、知识问答、办公助理、教育与科研工具这类“做事”型 AI,则不受规范。

办法明确禁止业者向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。此外,只要平台上线拟人化功能、注册用户超过 100 万、或月活跃用户超过 10 万,就必须完成涵盖训练数据处理、未成年人保护等 8 大面向的安全评估,并向省级网信部门备案,这正是Doubao、Tongyi Qianwen这类动辄破亿用户的平台躲不掉这次调整的原因。

Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim