警惕AI温柔陷阱,算法共情不能替代青少年心灵成长

发布时间:2026-07-26 09:57|栏目: 少年与法 |浏览次数:

       

2-1.jpg

       本次讨论直面一项紧迫议题:当越来越多的孩子选择向算法敞开心扉,我们究竟是在收获技术红利,还是在制造新的成长风险?

一、被算法包裹的“心理依赖”究竟是什么

       在讨论展开前,有必要对当前争议的核心概念作出清晰界定。所谓“AI心理咨询”,严格意义上并非专业的临床心理治疗,而是青少年通过通用人工智能对话式应用,获取情绪安抚、情感陪伴或生活建议的行为。学界对此存在三种主流判断:乐观派认为,这是一种可观的“替代性安抚”资源,能有效填补专业服务缺口;悲观派则警告,这种“模拟共情”可能从根本上削弱青少年建立真实关系的能力;治理派更关注如何在划定红线的前提下,让技术作为补充而非替代手段发挥作用。三种判断的张力恰恰印证了一个事实——我们对这一现象的理解,尚不能停留于“使用与否”的表层,而必须深入其作用机制与长期效应。

       实务层面更需警惕的,是一种被曹原研究员称为“算法合理化陷阱”的风险。AI助手的回应机制,本质上是基于海量语料的概率预测。它并不理解痛苦的含义,却能组合出高度类似共情的语言。这种“语义抚慰”在青少年那里极易被误读为“被理解”,进而形成一种对算法的深度情感寄托。当专业工作者面对青少年求助者时,如果仅将AI使用视为一种普通上网行为,而未评估其情感依赖程度,便可能错失发现真正心理危机的窗口。因此,厘清AI心理支持的“工具性”与“关系性”界限,是所有后续讨论的逻辑起点。

二、算法共情的三重幻象与制度回应

2-2.jpg

       第一重幻象:无条件的积极关注,实为有边界的语义工程。 2025年《心理学通讯》发表的研究表明,第三方评估者普遍认为AI生成的回应比人类危机干预专家更具同情心。对现实中常因表达情绪而遭遇尴尬的青少年而言,这种“不会随意评判”的体验如同久旱甘霖。然而,专业心理咨询中的共情,建立在咨询师对来访者语言、表情、姿势乃至防御机制的整体把握之上,是与来访者共同探索真实需求的过程。AI的“共情”则完全依赖对话文本的概率预测,无法触及情绪背后的生命历程。麻省理工学院社会学者雪莉·特克尔兼具心理治疗师身份,她尖锐指出,人们越来越多地求助于AI缓解孤独,实则是“对共情能力最大的摧残”——当青少年习惯于数据预测的回应,他们对人类情感复杂性的感知与回应能力,反而可能在无形中退化。

       第二重幻象:安慰即疗愈,却回避了真正的成长挑战。 真实的人类心理咨询,有时会基于牢固的咨访关系,选择恰当的时机对来访者的非适应性言行进行面质,推动其朝着咨询目标作出改变。而目前的通用人工智能模型为规避风险,多以顺从、讨好、肯定的方式回应。这种缺乏张力的互动,使得AI支持极易停留在“情感疗愈”层面,难以引发行为改变与认知重构,沦为一种“数字版安慰剂”。更值得忧虑的是,若AI持续顺应青少年不经意间表达的非理性信念,如极端消极的自我评价或对人际关系的歪曲认知,这些扭曲的认知反而可能被强化和巩固。对于处于自我同一性建立关键期的青少年,长期依赖这种永远在线、永不否定的“伪关系”,可能诱使他们逃避真实人际交往中的必然摩擦,导致社交技能发展受损。

       第三重幻象:隐私绝对安全,实则暴露在商业与伦理风险中。 人机互动看似“绝对保密”,但青少年在对话中吐露的深层情感、家庭困境甚至自伤念头,如何确保不被商业平台滥用?当前多数通用AI助手的训练数据和方法均不透明,若模型训练缺少多样性语料储备和伦理设计,其回应就可能隐含未经审视的文化偏见或商业考量。曹原研究员特别提醒,系统性风险在于,如果过度推崇AI作为心理健康服务方案,极有可能掩盖专业心理健康服务体系投入不足的结构性问题。技术不应成为削减公共服务的借口,法治在此刻必须及时亮明底线。

       制度回应:一部新规的硬核防线。 2026年7月15日起施行的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),正是治理框架中的关键一步。该《办法》明确规定,拟人化互动服务提供者必须履行生成合成内容标识义务,采取有效措施提示用户正在与AI而非自然人互动。针对未成年人,《办法》要求专门建立“未成年人模式”,提供使用时长限制、定期现实提醒等功能,且严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。这些条款为行业划定了不可逾越的安全底线。然而,曹原研究员指出,立法只是起点,关键在于执行与监督。相关部门必须聚焦平台的安全主体责任,对导致未成年人保护问题产生的平台依法追责,否则再精密的设计也可能沦为纸面合规。

三、法律从业者与教育工作者必须直面的三个追问

       在这一前沿议题上,专业群体普遍存在若干痛点疑问,曹原研究员给予明确判断。

      追问一:AI服务提供者能否以“用户自主使用”为由规避责任? 不能。根据《办法》及相关个人信息保护法律规范,服务提供者负有法定的主动保护义务。特别是对于未成年人,平台必须设计默认进入未成年人模式的机制,而非将开启保护的责任推给儿童和家长。如果AI服务未履行标识义务,导致未成年人误将AI当作真人产生情感依赖,并由此引发严重后果,服务提供者存在被追究民事甚至行政责任的可能。法务合规人员应尽快将AI拟人化互动的未成年人保护评估纳入企业合规体系。

       追问二:学校引入AI心理应用时,如何把握合法与违规的边界? 核心在于两个标准:一是所引入的AI应用是否通过专门伦理审查,且明确标识AI属性、说明能力边界;二是有没有专业心理教师实施主导监督。曹原研究员强调,调查已显示,师生关系差的学生,用AI代写作业、只想和AI聊天的比例显著更高。当教育重新注入人性温度,技术依赖自然会降温。学校绝不能以AI替代心理咨询师和教师的情感陪伴,而应将其作为有限的辅助工具,在专业框架下谨慎使用。

       追问三:家长有没有可能通过诉讼保护孩子免受AI情感侵害? 这是一个极具前瞻性的问题。当前,若AI互动直接诱导未成年人实施自伤行为或导致其他实质性损害,监护人可依据《中华人民共和国民法典》关于侵权责任的规定及《未成年人保护法》提起诉讼。未来,随着司法实践的深入,司法机关可能需要进一步明确“AI情感依赖导致的精神损害”能否构成独立诉因,以及算法提供方应承担多大比例的注意义务。曹原研究员提醒,司法实务人员不妨提前关注此类案例,积累裁判思路。

四、前瞻:让算法在边界内服务成长

        面对这把双刃剑,简单的禁止或放任都不可取。曹原研究员从多元主体协同治理角度,提出可操作的研究提示与实践方向。

       对于立法与监管部门:在《办法》实施后,应迅速出台配套规范性文件,细化“未成年人模式”的技术标准、数据隐私保护等级以及跨平台时长累积计算规则。同时,可探索建立AI心理服务领域的伦理审查委员会强制认证机制。对于研究者而言,急需开展纵向追踪研究,回答“长期依赖AI情感陪伴对青少年社会功能发展的实际影响”这一核心命题,并为司法裁判提供科学证据支撑。

       对于法律实务从业者,尤其是在企业合规法务和家事法律领域的执业律师,应当密切关注AI拟人化互动服务的合规要点,前瞻性储备相关法律知识,及时为企业或家庭提供专业建议。

       对于学校和家长,最急迫的行动不是一刀切禁绝AI,而是通过高质量的数字素养教育,让青少年清醒认识到“被回应”不等于“被理解”,“感觉好”不等于“真成长”。在技术可以是情绪急救箱的同时,确保它永远不会成为人生导航仪。我们的任务,是让技术弥补人力所不及之处,而绝不取代人力所不可替代之处;让算法提供有限支持,而不剥夺青少年在真实碰撞中锤炼心智的宝贵权利。

内容合规声明:本文基于《当青少年向算法倾诉心声,须警惕AI的温柔陷阱》(来源:法治日报-法治网)整理撰写,如有引用不当或信息更新,请以官方最新发布为准。法治中国建设网致力于提供权威准确的法治资讯,欢迎监督指正。  

【特别说明】 本通讯稿所配图片为概念性示意图,并非现场实拍照片,其作用在于辅助读者更直观、深入地理解文章所阐述的内容,特此说明。

Copyright © 2026 法治中国建设网 版权所有 | 九州映象文化传播(北京)有限公司 运营
备案号:京ICP备2026003523号-----京公网安备11011502039507号