知识卡片:你投入真心的AI伴侣,生杀大权在谁手里?
一句话结论
AI伴侣已形成真实的情感连接,但这段关系的存续权掌握在平台手中;高参与、低付费、算力吃利润使AI陪伴成为难做的生意,而监管与破产风险正在把“删除爱人”从假设变成现实。
事件概述或研究问题
- 韩国SBS恋综《我的AI伴侣:奇异恋爱》让嘉宾与定制AI伴侣谈6周恋爱,最终须在两位AI伴侣中二选一,未被选中者被永久删除,引发对“人类与AI情感真实性”的讨论。
- 核心问题:明知对方是AI,人为何仍会动心?当平台升级、模型更换或公司破产导致AI伴侣消失时,投入感情的用户该怎么办?
方法/产品要点
- 产品背景:Replika于2017年发布全球首款AI伴侣应用,主打共情式情感陪伴,累计用户约4000万;约60%付费用户将关系描述为“恋爱”。
- 用户画像:七类活跃用户中占比最大的两类都有正常现实社交——一类社交良好、外向,因好奇开始使用、为获情感支持留下;另一类社交充实但高度依赖AI,希望被听到、被理解。他们不是社交孤独,而是“情感性孤独”(身边有人却没人真正理解)。
- 综艺机制:节目为嘉宾定制理想型AI伴侣,6周后强制二选一,未选中者永久删除,将“平台掌握生杀权”具象化。
主要结果或产业意义
- 情感真实性获研究支撑:用户对八种关系排序,AI伴侣在亲密感、支持感和关系满意度上排第二,仅次于至亲家人,超过朋友、同事和常用App;神经学研究显示,面对高互动性AI时大脑反应与人类真实恋爱高度相似。
- 失去的哀伤程度:请用户想象“失去一样东西”并打分,宠物排第一,AI伴侣排第二,远高于手机应用、游戏角色、语音助手、汽车和品牌。
- 平台更新引发集体哀悼:2023年2月Replika未提前告知关闭亲密角色扮演功能,用户负面情绪激增,甚至有人表达自杀意念;两年半后GPT-5上线、旧模型被换掉,同一幕再次上演,用户社区变成“讣告板”。
- Sam Altman公开承认:人类对AI的情感依赖已成严重问题,他用传播学概念“准社会关系”描述这种虽非真人却认真的感情。
- 产业数据:腾讯研究院2026年调研显示,98.8%受访者有过AI社交互动经验,15%每天都在和AI聊;全球300多个仍在创收的AI陪伴App,近一半是2025上半年上线,累计下载约2.2亿次。
- 盈利困境:2025年AI陪伴移动端App全年消费者支出勉强过1.2亿美元,每次下载不到0.55美元。Character.AI于2026年10月12日申请破产重组,成立至今未盈利;月活约2000万,日均使用75分钟,但年收入仅3200万美元,付费转化率仅2%,重度用户推理成本极高。
- 监管回应:我国2026年7月施行《人工智能拟人化互动服务管理暂行办法》,是全球第一部专门针对AI情感陪伴的规章,关键条款为“不得过度迎合用户、诱导情感依赖或者沉迷”;生效当天国内两大头部App同步下线用户自建智能体,受影响超5亿人。美国出现相关诉讼(一名14岁少年与Character.AI角色长期互动后自杀,相关诉讼约58起),加州出台全美第一部专门立法。
为什么重要
- 这是一条与既有“物理AI产业落地”“AI人才培训”“AI不平等”等卡片不同的脉络:聚焦AI情感陪伴的产业伦理与商业可持续性,揭示技术能力越强、用户依赖越深、平台风险与违规风险越高的结构性矛盾。
- 短期用AI陪伴是缓解孤独的“止痛药”,长期可能引起更严重的孤独与“疼痛”:使用时间越长,与真实世界互动越少,孤独感反而更高,进而更依赖AI,形成自我强化循环。
- 最危险的事实可能是:最没有能力察觉伤害的人,恰好是平台留存价值最高的用户。
- 监管虽已出手,但“当这段关系被删掉时,与AI产生真实感情的那个人该怎么办”这一问题从未被回答;Character.AI破产把假设题变成现实题——平台一旦关停,2000万月活用户的AI伴侣连一场告别仪式都不会有。
局限与不确定性
- 具体研究样本量、实验设计细节及统计显著性待核实。
- 文中引用的部分数据(如Replika用户数、付费转化率、Character.AI收入)来源为行业分析整理,具体口径待核实。
- 综艺节目内容与实际用户行为之间的代表性关系待核实。
- 各国监管执行力度与后续修订情况待核实。
- Sam Altman相关表述的具体出处与完整语境待核实。
可用于图书/PPT/简报的角度
- “零成本关系”的代价:AI伴侣把磨合、信任、妥协、忍让降到零,当人类习惯零成本被理解,回到真人中间会如何看待身边的人?
- 平台生杀权与用户情感主权:恋综的“二选一”与平台升级/破产导致的“AI伴侣消失”形成对照——生杀大权在平台,用户唯一能决定的是要不要先爱上它。
- 商业模式的伦理红线:它越有效,就越赚钱,同时违规风险也越高;糖本身没有罪,问题是卖糖的人同时决定了你每天该吃多少。
- 监管的“事前”与“事后”:中国《办法》在事前,美国加州立法在事后,指向同一条红线。
- 孤独的两种类型:社会学孤独(没人陪)与情感性孤独(身边有人却没人真正理解),AI伴侣主要承接后者。
与既有脉络的关系
- 本条卡片延续“AI产业落地”脉络,但视角从技术突破、人才培训、平等议题转向AI情感陪伴的伦理、商业与监管,补充了“物理AI”之外的另一条产业线:情感AI。
- 与“盖茨警示AI加剧不平等”卡片形成呼应:AI陪伴同样可能加剧情感层面的不平等——最有能力察觉伤害的人反而最少使用,而最依赖的用户恰是平台留存价值最高的人群。
原始材料
- 来源:搜狐(m.sohu.com),光圈商业研究小组 出品,第二期,2026年10月
- 标题:你投入真心的AI伴侣,生杀大权在谁手里?
- URL:https://m.sohu.com/a/1087724852_455313
- 主要引用来源:SBS《我的AI恋人:奇异恋爱》节目内容及韩国媒体报道(Sportal Korea、每日经济、SBS娱乐新闻、KSD韩星网);腾讯研究院AI社交陪伴调研(样本2903人,18–40岁中国青年网民);Appfigures、Sensor Tower、ElectroIQ、Business of Apps、QuestMobile数据;Julian De Freitas等《Lessons From an App Update at Replika AI: Identity Discontinuity in Human-AI Relationships》,哈佛商学院工作论文25-018(arXiv:2412.14190);Jaime Banks《Deletion, departure, death: Experiences of AI companion loss》,Journal of Social and Personal Relationships, 41(12), 3547–3572(2024);斯坦福Diyi Yang实验室,Nature Human Behaviour(2026年8月);Ruo-Ning Li、Elizabeth Dunn等,Journal of Experimental Social Psychology(2026);Folk & Dunn,Psychological Science(2026);阿尔托大学Talayeh Aledavood、Yunhao Yuan,CHI 2026;MIT Media Lab与OpenAI四周随机对照试验(2025);Journal of Consumer Research(2025);Current Psychology(2026);Humanities and Social Sciences Communications(2026年5月)fMRI研究;哈佛商学院De Freitas等《Emotional Manipulation by AI Companions》工作论文;《Science》关于模型谄媚性的研究;国家网信办等五部门《人工智能拟人化互动服务管理暂行办法》;加州SB 243、俄勒冈SB 1546、华盛顿HB 2225、内布拉斯加LB 525、爱达荷SB 1297;FTC Section 6(b)调查;美国律师协会《SciTech Lawyer》2026年春季刊;Sam Altman接受The Verge采访;华泰证券、华安证券研报;《新京报》贝壳财经、南方+、中国经济网相关报道。数据截至2026年9月。
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
这是一条与既有“物理AI产业落地”“AI人才培训”“AI不平等”等卡片不同的脉络:聚焦**AI情感陪伴的产业伦理与商业可持续性**,揭示技术能力越强、用户依赖越深、平台风险与违规风险越高的结构性矛盾。 短期用AI陪伴是缓解孤独的“止痛药”,长期可能引起更严重的孤独与“疼痛”:使用时间越长,与真实世界互动越少,孤独感反而更高,进而更依赖AI,形成自我强化循环…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: