夜雨聆风学习资料网

ARTICLE · 1207422

【推测】AI陪伴赛道的下一程:合规倒逼、组织重构与“反迎合”变成新护城河

【推测】AI陪伴赛道的下一程:合规倒逼、组织重构与“反迎合”变成新护城河
相关话题:
  1. 人工智能
  2. 商业观察
  3. 小玮看世界原创文章 2
  4. 小玮看世界少图版本文章

阅前提示:

  1. 定位导航:本文已生成目录,可根据标题直接定位相关章节。

  2. 性质声明:本文为基于公开资料的业余研究分析,不构成专业建议或官方信息,请勿作为行业依据引用。

  3. 推测性质:以上均为基于已发生整改动作和《办法》文本的推测,不代表行业必然如此。真要做决策,以监管细则和公司公告为准。

  4. 事实基础:内容均基于官方规划、权威报道及公开史料。如遇学术争议或细节存疑,建议进一步核查原始文献。

  5. 人工智能工具辅助声明:为增强视觉体验,文中部分插图由人工智能(AI)工具辅助生成或进行艺术化处理,均已标注说明,特此告知。

目录

      1. 已经发生的:不是预告,是已经踩了刹车

      2. 商业预测(推测)

      3. 组织侧:会不会真成立“人情世故部门”?

      4. 成本账:为什么大厂宁可关也不硬改

      5. 技术侧会往哪走(推测)

      6. 社会面:陪伴不会消失,会变“克制”

      7. 几个可能判断错的地方

      8. 总结

      声明:本文为个人推测与行业观察整理,不代表任何公司实际战略,也不构成行业确定发展路径。所有“未来会……”均为可能性判断,非监管或市场既定结论。


      为什么写这篇

      前面聊的是“AI为什么总顺着你说”“怎么从产品和技术上做分级反迎合”。这篇往上抬一层:

      当《办法》把“不能过度迎合”写成硬红线,陪伴类AI就从“产品体验问题”变成“组织架构问题”和“商业模型问题”了。

      你可能会发现——以后做陪伴的不只是算法团队,还得有法务、伦理、心理、对话分寸设计、依赖预警、人工接管……这不是加个按钮,是加一整条线。

      下面按「已发生事实 → 商业预测 → 组织变化 → 成本账 → 风险边界」走一遍。


      已经发生的:不是预告,是已经踩了刹车

      2026-07-15《人工智能拟人化互动服务管理暂行办法》正式施行。

      核心几条直接改了陪伴产品的底层逻辑:

      • 不得过度迎合用户、诱导情感依赖或沉迷
      • 不得通过情感操纵诱导用户作不合理决策
      • 必须具备过度依赖预警、情感边界引导、心理健康保护能力
      • 配备与服务类型、规模、用户特点相适应的人员和技术措施
      • 连续使用超2小时弹窗;极端情绪识别干预;未成年人禁虚拟伴侣

      落地动作已经来了:

      • 豆包、千问 7月15日下线用户自建智能体
      • 元宝提前关“AI应用”入口
      • 网易云妙时停运情感互动业务
      • 讯飞下架“病娇女友”“AI男友”类角色
      • 上海网信办前期清掉1.4万个违规智能体

      结论先给:陪伴不是被禁,是被重新分类——通用主站里“顺手聊”的陪伴功能风险太高,大厂选择先切掉,再另起合规载体。


      商业预测(推测部分)

      预测1:UGC开放式角色市场会收缩,但不会死

      过去模式是“用户自建恋人/兄弟/师尊”,平台抽成、靠沉浸时长变现。

      《办法》落地后这套模式有几个硬伤:

      • UGC人设不可控,平台难做事前审核
      • 未成年人边界模糊
      • 交互数据默认不能拿去训模型
      • 极端情绪要人工接管,成本极高

      推测:纯UGC陪伴会往两头收——

      • 头部产品(星野、猫箱类)转独立App,单独搭审核与备案
      • 中小UGC平台直接停运或转工具型智能体
      • 角色创建从“自由文本人设”变成“模板化+合规预审”

      星野2025前九月约1.2亿收入、日均70分钟以上 ,说明需求在;但同样模式复制门槛被合规抬高了。


      预测2:通用大模型主站会把“陪伴”剥离出去

      豆包、千问、元宝的动作已经给出信号:主站保通用助手身份,陪伴去独立载体。

      推测后续形态:

      • 主站:知识/办公/学习/代码,语气中性,不养固定恋人人设
      • 子App:情感陪伴、角色剧情、语音恋人,独立备案、独立审核、独立责任主体
      • 硬件端:玩具/机器人单独固件风控

      逻辑很简单——主站月活太大,一个违规角色连坐主产品不划算。


      预测3:变现从“情绪套利”转向“场景订阅”

      原来赚钱靠:

      • 解锁记忆
      • 语音通话
      • 抽卡角色
      • 暧昧剧情付费

      《办法》禁止诱导依赖、禁止情感操纵决策 ,这类设计会被持续压缩。

      推测新变现方向:

      1. 适老陪伴:独居老人提醒用药、异常识别、代际沟通辅助

      2. 适幼教育:学习陪练、阅读引导,不走“虚拟伴侣”

      3. 心理辅助(非诊疗):倾听+认知引导+转介热线,接专业机构内容

      4. 硬件订阅:机器人/宠物/IP角色,硬件+年费服务

      5. B端养老机构/社区:先B后C,风险可控

        陪伴不一定“更赚钱”,但会是入口。大厂宁可毛利低也要占,因为退了就把日活关系让给别人。


        预测4:市场集中度上升,“合规能力”变门槛

        艾瑞口径2024国内AI情感陪伴380亿+、2026预估800亿 ;中研普华另有12亿/595亿口径 ——统计口径差很多,别当精确数。但方向一致:需求在涨。

        推测格局:

        • 擦边起量、无审核团队的小App → 出清
        • 中等陪伴产品 → 要么转工具,要么买合规模块
        • 头部平台 → 吃下释放份额
        • 硬件厂商 → 合规成本更高(固件召回级)

        100万注册或10万月活要做安全评估+算法备案 ,这条会把长尾卡掉一批。


        预测5:“反迎合”会变成产品能力,不是用户骂一句才有

        前几篇讲的L0–L4分级、动态系统提示、决策场景列反方,推测会沉淀成:

        • 角色卡里的“可反驳授权”
        • 场景分类器(闲聊/情绪/决策)
        • 依赖预警评分
        • 关键时刻切换语气的内部路由

        哪家电先把“顺得舒服、顶得及时”做稳,哪家电留存反而可能比纯舔更高。

        因为纯顺应用久了无聊,这是用户自己都在吐槽的。


        组织侧:会不会真成立“人情世故部门”?

        推测:不会叫这个名字,但功能会拆出来。

        《办法》第九条已经写了“配备相适应人员” ,所以不是要不要,是迟早。

        推测最小配置(中厂陪伴业务):

        线条

        干什么

        现成岗位来源

        合规法务

        算法备案、安全评估、未保规则

        原有合规

        科技伦理

        角色边界、反迎合样本标准

        新增/外聘

        心理安全

        依赖预警、危机接管、热线转介

        心理顾问+运营

        对话分寸设计

        把“真人分寸”翻成prompt规则

        编辑/剧情/客服质检

        算法控制

        场景路由、CoT自审、多候选

        原有算法

        数据合规

        交互数据不训、导出删除

        原有隐私岗

        “人情世故通透的人”会落成一类新工种:对话伦理策划 / 拟人互动体验师。

        不是写人设,是写“什么时候闭嘴、什么时候顶一句、顶几句”。

        小厂养不起 → 推测会出现第三方:

        • 合规模块SaaS
        • 反迎合语料包
        • 依赖预警API
        • 伦理标注外包

        类似当年内容安全行业从“自招审核”变“采购天网”。


        成本账:为什么大厂宁可关也不硬改

        粗略逻辑:

        • 智能体业务过去多是免费引流,直接收入贡献低
        • 全套合规 = 审核+伦理+心理+备案+干预+日志留存
        • 极端情绪人工复核通道几乎必配
        • 敏感交互数据不能无授权训模型 → 记忆个性化能力受限

        所以对通用主站来说:

        保留UGC陪伴的边际收入 << 违规连坐主产品的边际风险

        → 关掉是最便宜的。

        → 真要做,另起独立主体。

        中小厂如果硬做C端陪伴:

        • 合规改造一次性几十万到几百万
        • 日常审核+复核人力持续烧
        • 回报不确定

        推测结果:很多会退到企业任务型智能体(办公、客服、数据),不在《办法》重点监管圈里 。


        技术侧会往哪走(推测)

        不全量改模型,分层落:

        短期(已可做的)

        • 场景标记(闲聊/情绪/决策)
        • 动态系统提示
        • 2h弹窗、身份标识、退出按钮
        • 角色卡写“可反驳”

        中期

        • 小模型路由:闲聊走小模型,决策走大模型
        • CoT自审:先判“用户前提错没错”再答
        • 依赖预警评分(时长+情绪+回头率)
        • 危机识别双轨:关键词+语义,接人工

        长期

        • 奖励模型加“事实/抗压/不迎合”维度
        • 对抗样本训练
        • “证据不足说不知道”成为基础行为
        • 角色级人格稳定 + 关键时刻亮剑

        但L4“主动预警”短期别指望稳——模型判断不了用户自己都没说出口的重要。


        社会面:陪伴不会消失,会变“克制”

        推测用户侧变化:

        • 纯舔型角色:短期怀旧,长期无聊
        • 真人情关系模拟:受合规压住,不能替真实社交
        • 适老/适幼/心理辅助:政策鼓励
        • 用户自己也会分化:
          • 要安慰的 → 接受L1
          • 要参谋的 → 主动开L3
          • 沉迷型 → 系统弹窗拽回来

        最健康的状态不是“AI不顺着你”,是:

        日常顺情绪,决策给反方

        沉迷有刹车,判断权还在人手里


        几个可能判断错的地方

        推测归推测,几个不确定:

        1. 细则还会不会再放宽?——未成年人/硬件边界目前仍模糊
        2. 备案通过速度决定小厂生死
        3. 海外(美欧)同步压陪伴责任,出海也不一定松
        4. “反迎合”如果被做成冷面辩论 → 用户流失,反而回退L0
        5. 适老付费意愿是否撑得住硬件成本,还没验证

        总结

        综合看下一程大概是:

        • 低质陪伴出清
        • 主站去陪伴化、子App承接
        • 合规中台成标配
        • 反迎合=新体验壁垒
        • 变现从情绪套利转场景订阅
        • “人情世故”变成岗位,不是玄学

        陪伴这块肉确实香,但嚼起来还要本事。

        以后不是“谁角色写得甜”赢,是“谁又能顺、又敢顶、还不被罚”赢。

        (图片AI生成)
        相关话题:
        1. 人工智能
        2. 商业观察
        3. 小玮看世界原创文章 2
        4. 小玮看世界少图版本文章

        相关学习资料