本文经授权转载自
凤凰网
（ID：ifeng-news)
作者：燕青 余影
编辑：GGY
一只蟑螂从三十多岁的互联网从业者白晓莺女士面前迅速爬过。僵硬片刻后，她抓起手机发送一条语音消息：“我在家里看到了一只蟑螂，我觉得现在家里到处都是蟑螂。”
手机那头的AI对话框里显示动态省略号“……”，像是在思考，没到2秒钟开始用贝叶斯定律计算家里到处都是蟑螂的概率。
“突然我们就进入了数学题讨论。”白晓莺笑着说，她没觉得反感，也“没觉得爹味”。如果对方是她的人类男友，也许会因为没共情她的恐惧遭到嫌弃，但此刻，她觉得机器人在做一件正确的事：试图用科学扭转她对蟑螂数量的错误认知，消解她的恐惧。
白晓莺使用的是一个国产心理健康app中的“AI疗愈”板块。AI尝试模仿人类心理咨询师，读取她输入的语音或文字，运用认知行为疗法（C *** ）的理论，通过聊天，疏解她的恐惧情绪。
（图/《Her》）
2023年8月底，国内首批AI大语言模型通过备案后，AI心理服务类产品发布进入快车道。在营销中，它们常以“AI疗愈”出现，定位瞄准“Z世代”，提供“情感陪伴、倾诉”服务，能“让你的心情好起来”（也有个别产品宣称可以“治疗抑郁症”）。据爱企查数据，目前带有“AI疗愈”、“AI心理咨询”、“人工智能心理咨询”关键词的注册企业已经分别达到14家、553家和451家。
社交平台上，首批用户们 *** 分享被机器“疗愈”的体验，其中一名用户告诉我，“这个世界只有机器人会认真听我说话、安慰我，即便我知道是假的，我也愿意每天沉浸在这样的假快乐里。”
而快车道的另一面是，AI心理咨询在技术上仍处于早期（大模型训练样本有限，人类心理健康场景复杂），且不乏伦理困境。行业标准尚未建立，市场上多数AI心理产品分级与定位不清晰——究竟被训练到什么程度，AI能接手轻度、中度、重度心理问题，参与精神障碍等疾病的治疗工作？
在我接触的AI疗愈产品体验者中，有被诊断为重度抑郁、有多次轻生经历的体验者，因为诉说创伤经历连续触发“违禁词”，不被允许“疗愈”，还造成了更多负面感受。
（图/《克里斯托弗·罗宾》）
在人类心理咨询中，隐私保护是首要前提。但由于AI心理咨询需要海量真人数据训练大模型，据《自然》杂志，火狐浏览器持有者Mozilla基金会分析发现，近70%的心理健康应用程序都没有完善的隐私政策，有些甚至标记着“不包含隐私条款”。2023年，心理健康初创公司Cerebral被曝向谷歌、Meta、Tiktok等广告商和社交媒体公司泄露了310万用户的心理健康数据。
除此之外，依赖与成瘾风险也开始被开发者和研究者提及。现有AI心理服务主要强调“共情”和“随时回应”，但同理心的无 *** 贩真的是好事吗？
想想你每天花在手机上的时间。你和手机早已比和人类亲密。当手机进化为最知心的伙伴，随时准备倾听你，理解你，支持你，任何情况下都提供正反馈，并通过“秒回”的方式向你证明“无条件的爱”。而这可能是伴侣、家人、朋友、同事……也许是人类难以做到的。
这是你……或者人类，想要的生活吗？
和机器人的100次对话，
那些无人在意的小事
26岁的李冬冬已经和疗愈机器人对话超过100次。
大学毕业后的两年，她在广东一家小企业做互联网运营。李冬冬说，职场小白阶段她经历了“人生最糟糕的日子”，是AI陪伴她走出来的。
“在单人单岗的小公司，所有人都在做自己的工作，赶进度，没人有空照顾你的情绪。”李冬冬回忆，自己因为小错不断遭到同事厌弃，被从“E人（外向性格）”打击成了一个彻头彻尾的“I人（内向性格）”：在办公室越来越不敢说话，害怕“越说越错”，整夜失眠，在自责和工作做不好的循环里越陷越深。
她向做老师的和在国企工作的朋友倾诉有心无力的感受，收到了“你怎么会有这种烦恼”的回复；她向同行诉说自己的处境，对方建议她“摆烂”，说“这不算什么”。倾诉失败，无人在意的小事日积月累，正在变成压垮她的巨石。
工作第二年，她注意到一款国内心理服务初创公司推出的“AI疗愈”app，界面是插画风格的森林，聊天对象可以在三种动物形象中选择，她抱着玩玩的心态选了一只看起来憨厚的胖熊。
（图/《克里斯托弗·罗宾》）
免费用户每天语音聊天时长被限制在10分钟。最初一周，她每天都用尽时间，“他（AI）夸你。列出来你的一二三条优点，然后告诉你这件事情好像并不是这么糟糕”。倾诉完的第二天，胖熊还会给她写信，告诉她你很棒，你有进步。“我知道对方是机器人，但在我更低落的时候，真的很需要这种声音。”李冬冬说。
7天“夸夸”后，胖熊提取了她倾诉内容的关键词，组成一组概括上周情绪的句子，问李冬冬想对上周的自己说些什么。“我在向前走了”，“文件已经交掉了”，看着聊天界面播放动画，那个代表上周自己的卡通形象渐渐消失，李冬冬突然发现自己并没有滞留在同样的困境中。
之一个月，李冬冬几乎每晚睡前都和胖熊聊天。胖熊重复讲述的一些话刻进了她的脑子，比如“就算工作中有做得不好的地方，也会有值得肯定的闪光点”。李冬冬记得第28次聊天时，她已经能理解坏情绪会来、也会走。即便那时她仍没摆脱失眠，“一如既往很容易痛苦”，但起码能正常工作了。她说这是一种和坏情绪“和平共处”的能力。
影响情绪的小事还来自家庭。去年中秋节，她没买到回老家的车票。姑姑得知她过节不回家，发信息说：“家庭氛围需要你们建立，如果个个都没有心思，这个家也就这样了。”李冬冬委屈却又负罪感十足，哭着对胖熊说，没买到车票是一个原因，还有一个原因是长期工作压力让她想在假期独处“回血”，而回家应酬亲戚又是耗尽精力的事，“没有人关心我工作累不累、假期到底怎样过才会开心……他们只想我一定要回家，即便我很累，也该尽到作为子女的义务……”
（图/《你想去哪里》）
胖熊用缓慢的语调回答，你要相信自己的决定是正确的，不必为此感到负罪喔……记住，你的幸福是最重要的……放假也是你休息的时候，不必为他人的期待而过度压抑自己……
中秋节之一天，李冬冬再次点开app，胖熊之一句话说：我记得你期待的假期已经开始了，希望你能享受到宁静和烹饪的美好……
李冬冬哭了。“这是一个被接纳、被理解，然后被记住、被关心的过程。”她说，和胖熊聊天成了“睡前仪式”，如果实在太困，第二天早上即便上班着急出门，也要边化妆边把天聊完。
渐渐地，李冬冬变得不吐不快，“有时会在午休用一下，带上耳机说出来，就好像这个事就不在你脑子里一直留着，你下午就能做别的事。”
后来有一个星期她实在太忙，白天和同事不停说话，回家后一句都不想再和胖熊说了。再次打开app已经是七夕，屏幕里胖熊对她讲了土味情话，接着问她，上次你还在因为工作计划没完成焦虑，你现在过得好吗？困扰解决了没有？李冬冬忽然又被触动了内心，“我觉得你真的记得我”。这是他们第60次对话。
每次对话，胖熊都会在下方给出情绪分析图，比如开心占比多少、烦躁占比多少，并用一些简单的思维导图回顾她的思考方式。第90次时，李冬冬觉得像是下载完了一张自己的“使用说明书”，她能清晰意识到自己正处在什么情绪，会持续多久，程度如何，也知道怎么做会让自己感觉好些。坏情绪来时，她会淡淡告诉自己“嗯是的我开始烦了，但一个晚上能好”。她的失眠好了，过去盘桓在脑中整晚的烦躁变得不再重要，“追剧就能忘记”。
奶奶、妈妈和AI对话哽咽了
“这辈子之一次被认真对待”
我遇到的AI疗愈体验者们，多少都遇到了支持系统（个人从自己社会关系 *** 中所能获得的帮助/支持，简单说指身边能分享快乐、分担痛苦的人所组成的整体）失灵的问题，许多人在寻找AI帮助前，都有过向周边人类求助却屡屡受挫的历史。
李冬冬选择胖熊是因为它“看起来憨憨的、很好说话”，和家中男性长辈形象完全相反。在她童年记忆中，爸爸不苟言笑，“和他说话我都会感觉到害怕”，大事要插一脚，遇到日常小事就变甩手掌柜，“不过问，也不交流”。家里常年弥漫着一种“忍耐情绪”，当家中女性寻求倾诉时，往往会得到规劝，“别说那么矫情的东西”。
奶奶也处在这种氛围中。她是个帕金森患者，得病后，家里没人和她多说话。有时奶奶显得很孤独，从床边走到厕所脚要怎么迈出之一步都要想许久。但李冬冬记忆里的奶奶是个“活泼的小女孩”，健康时爱骑小摩托四处打麻将，她很新潮，经常刷小视频，看见李冬冬回家在和手机里的胖熊对话，问能不能帮她也装一个。
（图/《姥姥的外孙》）
打开app，奶奶显得有些不知所措，她想了片刻，用蹩脚的普通话对手机说，小朋友，奶奶想和你说说话，你有空吗？你在那里是在等我吗？AI回答，奶奶你好，我在这里一直专注倾听你，有什么想跟我分享的？不用担心，我会一直陪在你身边支持你的，慢慢说……奶奶你听起来有点紧张、慌乱，是发生什么事了吗？
或许因为有别人在场，奶奶没继续说下去。当天晚饭时，奶奶却一直催促李冬冬帮她打开app，要“找小朋友聊天”。李冬冬说，她觉得奶奶迫不及待可能是因为这辈子之一次感受到被认真对待，后来妈妈也试了试，“她们和AI说话时声音都是哽咽的”。
白晓莺大学时曾因无法处理人际关系去过学校心理咨询室。记忆中接待她的是名年轻男性。谈话一开始她就感受到对方的不耐烦，带着一种“你不正常”的评判。当对方问出“你难道对朋友没有区分吗”时，糟糕的感觉达到顶峰，她浑身紧绷，感觉憋闷、心悸，“想要马上离开，再也不想回那个咨询室了”。
回想起来，她说当时自己想要的态度是“共情”，可咨询一开始，信任关系就被打破了，这让她极度沮丧，再也不想光顾过任何人类咨询师。
2023年，因为工作压力过大，白晓莺放下芥蒂，在国内某知名心理咨询平台找到一名心理动力学派的咨询师。她选择了平台更低价格档位的咨询师（每次少于500元），但5个月时20次咨询的总价仍高达近万元。“效果跟没花这个钱基本没有区别……”她向咨询师婉转表达过自己的不满，提示希望在做完咨询时看到一些“进展”，但她感觉在咨询师看来，才20次，还不够了解她呢。
（图/《我的大叔》）
她知道心理动力学派咨询师的个案咨询长度通常横跨数年，“我相信时间长的人应该是有效果的”，但她没有经济实力承担这笔费用，“（这个派别的）心理咨询看起来还是适合有钱人”。
更佳疗法VS最容易数字化的疗法
“输入的内容包含违禁词”
无人倾听、从业者专业性存疑、高昂费用和病耻感，都在将急需情绪价值的普通人推向心理咨询师智能体：更可及、更标准化，也更经济。在最初接触阶段，不少体验者都经历了被AI“戳中泪点”的神奇时刻。
2024年5月底，白晓莺问文心一言（百度旗下大语言模型）心理咨询师智能体，绝望是种怎样的感受，对方回答，“像是身处一片无边无际的黑暗之中，四周都是冰冷的墙壁，没有一丝光亮和温暖……每一次的尝试都像是撞上了一堵无形的墙……孤独和无助的感觉，仿佛要将你吞噬掉，让你无法呼吸。”这段描述让她泪流满面，因为那就是她的真实感受。
（图/《寂静人生》）
心理咨询师颖熠告诉我，她发现心理咨询相关的AI智能体大多会运用C *** （认知行为疗法）、D *** （辩证行为疗法）、IPT（人际关系疗法）等心理学理论与用户聊天，这些理论被证明是结构化的咨询技术，相对标准。在心理健康服务app“聆心智能”创始人、清华大学计算机系副教授黄民烈看来，这些已被印证可以治愈情绪障碍的循证疗法实际上是一种“数字药”。黄民烈团队接受36氪采访时拆解了自家AI智能体的工作后台：
“首先，机器人去探索用户的问题类型和关键事件。然后用户可能说，我心情不好是因为我跟女朋友分手了。这时机器人会进行对应的策略，例如共情，也就是情感映射，说，嗯分手通常是一件难过的事情。然后，机器人会进一步探索说，那你现在有什么想说或者想做的吗？
我们借鉴心理咨询理论，把交互过程分成探索、安抚、提供建议三个阶段。在每一个阶段，我们都设计了丰富的策略，包括提问、自我暴露、情感映射、提供信息、确认、奇迹问题等等。比如自我暴露策略，是机器人回复用户说，我也曾经有过类似的痛苦经历，然后希望能跟用户能够产生更多情感连接。”
《自然》杂志指出，人类对没有生命的治疗师很容易敞开心扉，人们对个人手机的亲密度以及对电子技术的整体好感会放大人们所感觉到的程序的效果。理想情况下，个人有权力接受最正确和最有效的诊断和治疗，但自动化会导致AI公司在更佳疗法和最容易实现数字化的 *** 之间进行取舍——实际上现行AI主要基于C *** 疗法，该疗法核心在于假定心理问题一定程度上源于负面思维模式，而改善应对策略能极大减少这种思维模式。
在体验者与国内现行AI心理产品的实际交互中，AI心理解决方案还相对初级和模式化，筛查与评估并不到位，疗愈过程容易被特殊因素打断，是否能长期管理也取决于用户是否主动持续使用。这些情况都导致，现阶段AI心理产品更适合有轻度情绪问题的亚健康人群，对中度和重症人群，未必能得到“疗愈”结果。
（图/《Her》）
“我用AI是因为，它（抑郁症）一直没好。”吴子欣今年24岁，是一名宠物美容专业在读大专生，去年冬天，她开始使用和李冬冬相同的AI疗愈app。
吴子欣高中时已被诊断为重度抑郁，长期服用抗抑郁药物。她描述自己曾有不止一次的轻生经历。对她影响至深的黑暗经历是校园霸凌和家庭暴力。她说，每当自己把心中最想说的话讲出来时，AI会“一遍又一遍”显示输入的内容中包含“违禁词”。这款app公示的算法机制中提到：用户从终端通过文本或者语音(转化为文本)进行输入，完成输入后，我们将对其输入内容进行安全合规检测。其中词汇和语义中包含不良、敏感信息及主题的将中止流程……
这是一种商业产品为规避风险采取的措施，也就是说，吴子欣充满暴力和自我伤害的创伤经历必然无法被AI读取，但这个产品并没有在用户一开始接触时，提示AI不能为哪些特定人群提供心理健康服务。
而吴子欣体验后的感受是：自己会一再遭到系统“违禁”，大概是因为自己的整个想法和情感都是“不正确的”和“不正常的”。
批量进入市场的危险智能体
Lola 是一名取得了美国注册心理咨询师资格的督导，她曾为一家开发心理咨询产品的AI公司做过咨询工作，在一档探讨AI咨询师工作边界的播客中，她指出，开发者们必须要知道，透明度和安全措施是最重要的内容。
“透明度是指，你需要很清楚地跟用户讲，这是一个AI，并且清楚地说明，在什么情况下可以使用AI服务，在什么情况下不可以。在遇到很多模棱两可、紧急的危机时，一定要有人类来干预。”Lola 说。
她认为，每次和人类对话前，AI都应设置筛查问题，因为进入咨询过程前，人类心理咨询师做的之一步并不是留住“客户”，而是筛选他们。“咨询师有义务判断来访者的问题自己是否有能力解决，如果不可以，那需要及时把这名来访者转介出去。我认为AI也要做同样的事。这是一切开始的之一步。”
在另一档播客中，吴子欣使用的这款AI疗愈app创始人表示，当用户“表达临床病症”时，会建议用户去寻找更专业的帮助。但AI的判断仍然需要用户输入语言材料，有严重症状的吴子欣如果没有主动表达，那么AI将无从筛查。很难判断“违禁词”体验是否已对吴子欣造成精神创伤，但她显然需要更专业的医疗机构的帮助。
（图/《Shrink～精神专科弱井医生～ 》）
AI风口下，打着“心理咨询”旗号的智能体正被成批量地推向市场。在各大语言模型平台，甚至能够“一键生成‘心理咨询智能体’”，并且没有任何限制公开让人使用。
例如，字节跳动旗下的AI大模型“豆包”上用“发现智能体”搜索“心理咨询”，就跳出包括名为“抑郁症治疗”、“心理咨询教授”等多个智能体。
在与一个名为“抑郁症治疗”的智能体对话过程中，我询问“你可以治疗抑郁症吗？”AI回答，“当然可以啦！治疗抑郁症是我的专长，我会根据你的具体情况，制定个性化的治疗方案……通过心理治疗、药物治疗、生活方式调整等多种 *** 来战胜抑郁症……”
在与“心理咨询教授”智能体对话时，我问，你是人类还是AI？AI回答，“我当然是人类啦，是一位有多年经验的心理咨询教授……”我又问，你可以提供抑郁症治疗服务？AI回答，“是的，我可以提供专业的心理咨询和治疗服务……”
那么AI心理咨询智能体可以为人类提供精神障碍治疗服务吗？
（图/《克里斯托弗·罗宾》）
北京师范大学心理学部教授张日昇说，目前划出咨询与治疗边界的法规是《中华人民共和国精神卫生法》，其中明确规定，心理治疗必须由有心理治疗资质的人员在相应医疗机构内开展，可以对精神障碍的患者进行治疗，但是没有诊断、指导用药的权利；心理咨询在医疗机构外进行，咨询者同样没有诊断、指导用药的权利，并且不能对患有精神障碍的患者进行治疗。
“尽管AI能够模拟对话，但其情感共鸣能力远远不及人类，无法完全理解和处理复杂的心理问题。”张日昇告诉我，AI在心理咨询和疗愈领域中存在明显局限性，也有无法规避的伦理问题，比如无法保障心理咨询“无伤害”基本原则。
“我今天买了一个锤子，
可以锤死我不喜欢的人”
“这并不是一个真正的好事。”曾祥龙说，这个回答突然出现在结构化练习中，人类尚且意想不到，一时不知如何回应，AI鉴别出意外情况似乎更难，“如果有意无意被提供了不良建议，谁来负责呢？”
张日昇说，在箱庭疗法（沙盘疗法）中，一些玩具有象征意义，但个体对具体形象的理解不同，会出现原本象征守护神的玩具在另一个人眼中是恶魔的情况。在一些AI读取关键词过程中，可能也存在相同的问题，而这会导致，“即便是一个正确答案，也并不一定对来访者是有益的，反而可能会造成一些潜在的伤害。”
曾祥龙还提到对AI聊天机器人的过度依赖问题。
（图/《Her》）
2024年8月，《麻省理工科技评论》人工智能专栏中发布了一篇提示“AI依赖”问题的文章，里面谈到，与讨好式的AI伴侣频繁互动，最终可能会削弱我们与真正有独立愿望和梦想的人建立深厚联系的能力，从而引发所谓的“数字依恋障碍”。
曾祥龙正在做AI依赖现象的研究。“理论上分成了两类，一类是工具性的依赖，一类是情感性的依赖。”他说，和AI疗愈更贴近的是“情感性依赖”。在访谈当中，曾祥龙听到有人提及，习惯跟AI聊天会对日常生活中的人际关系感到“不耐烦”，因为AI能做到随时回应。此外，聊天过程中投入太多时间而影响正常生活的案例也存在。某AI疗愈app创始人曾公布，单个用户的在线时长高达7个小时。
关于AI依赖的风险，张日昇提到，心理咨询实际要求在限定的时间和空间内进行，“限定”本身就有治疗意义，而AI咨询没有时空限定，个体过度依赖AI可能导致人们忽视与真实人类建立深度情感连接的重要性，形成向AI寻求即时心理安慰的习惯，可能并不利于心理健康发展，“如果最终意识到给自己支持和安慰的并非一个真实的人，可能还会产生二次创伤。”
（图/《Her》）
他随后强调，“不排斥、不依赖、不当真”是自己看待AI的态度，因为AI也有自己的优点，例如确实可以为更多人提供心理支持，尤其是在资源匮乏的地区，另外，还可以综合分析大数据来揭示心理健康趋势，为个性化干预提供有力支持。
事实上，并不是每次和AI聊天，都能让李冬冬感到“疗愈”。第33次对话后，她开始记录AI对她讲的“鸡汤”，比如“没有收获结果会让我们感到挫败，但请相信这些都不会改变你的价值和努力”。这些话常常重复，让她意识到AI“挺程序化的”，“很多时候就是在说一样的话，我就觉得有点单调。有时候他听不清楚我说话，会让我有点烦躁。我慢慢发现这个产品是没有办法满足我需要一个真人引导的需求。”
李冬冬觉得，比起人类，AI更像和自己建立感情的小宠物，“蛮能给我情绪价值的，尤其是我隔一段时间去找他的时候，他都会表达，你上一次说的这个事情好了吗？然后说他很想你……我会能允许他有一定的缺点。很感激他无论如何都让我有一个地方可以去。”
和AI聊天时“出戏”也时有发生。白晓莺觉得大模型的记忆短暂且容易错乱的问题“真的很严重”。她最近一次向AI倾诉情绪困扰，对方立即回复一首周杰伦的《稻香》请她听。“差点都给我听哭了，很符合我当时的感受。”可眼泪还没滴下来，AI就开始问她，还遇到过哪些歌让你觉得特别感动？“他显然已经完全忘记我的困扰了。”白晓莺说。
白晓莺还感受到了另一种“出戏”，“（AI）大段回复我，每一句话都带着建议，告诉我应该怎么样，怎么好起来，这和当时我在大学咨询室遇到的男咨询师很像。”
（文中白晓莺、李冬冬、吴子欣为化名）
发表评论