科技

别想用软色情做智能体的跳板

来源:搜狐新闻
别想用软色情做智能体的跳板

出品|虎嗅ESG组

作者|陈玉立

头图|视觉中国

本文是#ESG进步观察#系列第169篇文章

本次观察核心话题:供应链治理

近期,豆包与千问几乎同时宣布叫停智能体服务。

公开信息显示,豆包将相关功能转移至独立产品“猫箱”;千问则彻底关停,且并未提供迁移方案。

两家头部平台的处置方式雷同,时间节点也高度吻合——刚好落在7月15日《人工智能拟人化互动服务管理暂行办法》正式施行之前。该办法明确要求对虚拟恋人、深度角色扮演、情感依赖类AI实施严格管控。

因此,被裁撤的并非问答、办公、搜索、代码生成、工作流这类通用AI能力,而是过去一两年迅速扩张的关系型智能体:用户自建人设、角色扮演、虚拟伴侣、情感陪护、公开分发的智能体广场等。

一句话概括:智能体并非全局性退潮,真正退去的,是依靠低门槛UGC、情绪绑定和灰色亲密互动支撑的增长部分。

新规出台后,智能体赛道或将出现分化:任务型智能体持续演进,关系型智能体进入强监管阶段,带情感陪护功能的AI“情趣”硬件大概率被挡在门外。

大厂剥离“关系型智能体”

豆包与千问的操作细节值得玩味——“下线的究竟是哪些功能”。

从平台处理方式看,豆包未放弃大模型主产品,也未终止AI助手服务,而是将高风险互动功能从主App中抽离,仅在独立产品中保留。这一动作传递的信息清晰:主App需继续扮演大众效率工具、搜索入口、AI助手的角色,而情感互动、角色扮演、用户生成智能体这类高风险功能,将被转移至“隔离区”。

千问的处理方式更为直接,直接关闭相关功能,且不提供迁移选项,显示平台对这项业务的判断更趋冷淡。若非核心功能带来的审核成本、监管压力、舆论风险超过业务收益,关停就是最简洁的处置方式。

此次下架行动中,两家平台的底层逻辑一致:关系型智能体在大厂主入口里的定位发生了变化。过去它能带来互动、时长和用户参与度;现在,它开始被视为潜在的风险资产。

一个值得深思的问题是,为何关停智能体的是豆包、千问?为何WorkBuddy这类产品未受同等冲击?

答案可能藏在这些产品的属性差异里。

WorkBuddy这类办公、企业协作、工作流智能体,核心在于处理任务:写文档、做纪要、调流程、跑数据。它的主要风险集中在数据权限、企业信息安全、输出准确性和流程责任上;而关系型智能体处理的是人与拟人对象之间的关系。用户可以创建“AI女友”“AI男友”“病娇妹妹”“霸总伴侣”,平台再提供广场、推荐、和分享功能,这就从工具变成了拟人化内容平台,风险随之放大。

首先,可能引发UGC失控。用户可低成本创建人设、设定语气、关系、头像、开场白,再公开发布。供给越丰富,审核压力越大。此前上海累计下架1.4万个违规智能体,正是这一问题的直观体现:不受管制的开放智能体生态容易滋生擦边内容、侵权人设、真人仿冒和低俗互动。

其次,存在关系依赖风险。普通问答助手提问后即结束,关系型智能体会持续记忆、主动关心、使用亲密称呼、模拟陪伴关系。用户投入越深,产品留存越强,付费转化也越容易。但在未成年人、心理脆弱人群、孤独老人等场景里,这种黏性可能突破安全边界。

最后,平台分发责任不容忽视。一个用户自建、自用的智能体,风险范围有限;一旦进入智能体广场、排行榜、搜索页和推荐流,平台就参与风险放大。此时再用“用户自建”解释责任,就略显苍白。

这正是豆包、千问这类大流量入口最敏感的地方,它们做全民AI助手的品牌调性要求干净、可信、普适。但主App里若混入大量虚拟恋人、暧昧陪伴、侵权角色、擦边人设,一旦被截图传播,损害的将是整个产品的公共信任。

豆包和千问的下架动作,本质上都是停止为非核心场景承担额外风险。两者都强调

相关推荐

网友评论

登录后发表评论
暂无评论,抢沙发吧~