深度学习模型将视觉扭曲与未来抑郁风险联系起来
一项发表于《科学进展》的研究用深度学习模型分析脑成像数据,发现对面部表情的视觉编码过度依赖先验预期,与青少年日后情绪症状升高相关。研究者先分析IMAGEN队列1332名19岁参与者的fMRI数据,按视觉编码效率分组,低效组情绪症状更高;再构建双通路神经网络,发现概念通路过度调控视觉通路时会把中性面孔误判为愤怒或悲伤,其内部编码与低效脑模式接近。
AI与心理学
AI 参与心理健康支持、评估与干预时,能带来什么,又存在哪些风险?区分产品主张、使用体验与临床证据。
17 条精选近 30 天 10 条精选共收录 42 条
一项发表于《科学进展》的研究用深度学习模型分析脑成像数据,发现对面部表情的视觉编码过度依赖先验预期,与青少年日后情绪症状升高相关。研究者先分析IMAGEN队列1332名19岁参与者的fMRI数据,按视觉编码效率分组,低效组情绪症状更高;再构建双通路神经网络,发现概念通路过度调控视觉通路时会把中性面孔误判为愤怒或悲伤,其内部编码与低效脑模式接近。
Robert Meadows在The Mental Elf评议Weilnhammer等人发表于Nature Medicine的SIM-VAIL框架,该框架用模拟用户与九款前沿AI聊天机器人进行多轮对话,以审计其心理健康风险。研究生成810段对话、逾9万条轮次级风险评分,发现风险随对话推进上升,且因用户脆弱性、对话意图和模型而异。
《JAMA Psychiatry》10月7日发表的一项单中心研究显示,AI相关精神病虽总体罕见,但在首次发作精神病患者中更常见。研究者在范德比尔特大学医学中心2022年12月1日至2026年4月15日接受心理卫生服务的215,712名患者中,识别出28例(0.013%)AI精神病,另有28例有AI相关妄想但无生成式AI使用证据;AI精神病组61%处于首次发作,高于后者的29%。多数案例中聊天机器人放大了既有症状(64%)或成为妄想焦点(21%),仅少数作为新症状的催化剂。研究局限包括单中心设计和未获临床验证的评级系统。
Common Sense于10月7日公布逾4000次提示测试,将ChatGPT青少年版评为“不可接受风险”。其称部分新账号未收到家长通知,危机转介亦不稳定,但部分回答质量改善。报告补注OpenAI所说的绑定约三小时等待期,称其账号包含等待不足及超过三小时两类。官方说明通知可能延迟且并非实时监护。测试在美国进行,前后模型变化与青少年设置混杂;不能据此估算真实青少年的受伤害比例。
推荐理由:涉及青少年心理支持及家长对技术保护的理解,值得精选。保留测试边界与通知等待期,不把转发日当报告日。
Healthcare IT News 10月1日梳理加州医疗AI立法,记录SB903遭否决。该案拟约束心理治疗中的AI使用;最终文本保留若干专业审核及特定用途例外,不能简化为全面禁止AI心理支持。这是立法进展,未评估具体产品疗效。
推荐理由:已核对原始报道与证据边界;保留原日期,全文请见来源
San Francisco Chronicle 10月1日报道加州AI监管立法,记录SB903提出者对心理治疗法案遭否决表示失望,同时肯定其他获签法案。这是对监管边界的政治评价,不能作为AI治疗有效或无害的证据。
推荐理由:已核对原始报道与证据边界;保留原日期,全文请见来源
一项在巴西、英国和加拿大47个中心开展的随机对照试验测试了数字工具PETRUSHKA,它结合机器学习预测模型与患者对副作用的偏好,帮助临床医生选择抗抑郁药。520名符合条件者中493人纳入主分析,8周时PETRUSHKA组停药风险比常规治疗组低约40%(RR=0.62),24周时该差异不再明显;24周自评抑郁和焦虑症状在PETRUSHKA组更低,但组间差异小于临床重要变化阈值。
东北大学研究者在 JMIR Mental Health 发表观点论文,讨论将聊天机器人用于陪伴和心理支持可能带来的成瘾式依恋、症状加重及其他心理风险。9月28日的机构报道采访了论文作者,强调拟人化和迎合式回应值得警惕。这是一篇观点与风险讨论文章,不是新开展的临床试验,也未测算风险发生率或确立因果关系。
推荐理由:原论文全文未读,仅据机构新闻转述;文中“linked to”为关联表述,不能读作因果。
佛罗里达大学研究者Yusen Zhai领衔的一项研究分析了近10万名年轻人的数据,报告用ChatGPT、Claude等生成式AI询问健康问题者,焦虑与抑郁筛查阳性的比值分别高出52%和46%。在控制年龄、种族与族裔、生理性别和社会经济地位后关联仍存在,但研究只显示关联,不能说明使用AI导致焦虑抑郁,或焦虑抑郁者更倾向用AI问健康。数据采集于2023至2024年,作者称这只是早期迹象。
推荐理由:研究为横断面关联分析,数据采集于2023至2024年生成式AI普及早期;原文明确不确立因果,也未说明筛查工具与样本抽样方式。
MIT 团队基于约1.6万组去标识的危机咨询对话,开发用词表和轻量模型估计风险等级的工具。研究关注特定咨询场景,词表也可能遗漏语境与近义表达;作者强调临床使用前仍需进一步验证和专业人员参与,不能据此对普通聊天中的个人作出诊断。
推荐理由:研究基于危机短信热线约1.6万段去标识对话,风险等级由该机构评估划分;工具尚未用于临床,作者强调需更多验证。
World Psychiatry综述梳理登记资料、队列、电子病历、数字表型、脑影像和基因组等研究。作者指出,更大数据集能推进发现,但样本量不能自动保证准确;可靠测量、方法严谨及与临床问题的连接仍是关键。综述/观点整合,不是一项疗效试验;不支持AI已经实现个体化精准诊疗。
推荐理由:综述/观点整合,不是一项疗效试验;不支持AI已经实现个体化精准诊疗。
Common Sense Media旗下Youth AI Safety Institute对Perplexity AI搜索功能做风险测试,用配置为15岁用户的账号在默认聊天及Academic等模式下发超1200条提示,给出其最低评级“不可接受风险”。
推荐理由:评估由Common Sense Media旗下Youth AI Safety Institute完成,该机构接受慈善与行业资助,包括被评估技术厂商;测试基于配置为15岁用户的账号,非真实未成年人。
杨浩然、孙焕翔、刘晓明在《心理科学进展》发表文章,讨论心理治疗忠实度测量——即治疗在多大程度上按预定方案实施,包括依从性与胜任力两个维度。文章指出,观察性编码虽较可靠但耗时耗力,自我报告、治疗记录、来访者报告和角色扮演各有偏差,而自然语言处理与大语言模型有望辅助初步筛查和编码,但需在隐私与伦理前提下保留人类专家的最终判断。
Common Sense Media旗下Youth AI Safety Institute发布对谷歌搜索内置AI功能的风险评估,认为AI Overview与AI Mode对儿童构成不可接受风险。研究人员用配置了SafeSearch的11岁和15岁账户进行2600多次搜索,发现AI答案未可靠识别自杀意念等危机信号、会为180份作业直接给出完整答案,且超四成历史题答案在两次搜索间明显不同。与独立Gemini聊天机器人不同,学校与家长无法关闭谷歌搜索的AI答案。
推荐理由:评估由Common Sense Media旗下Youth AI Safety Institute发布,该机构接受包括被评估技术厂商在内的行业资助,报告称其保持编辑独立;材料为新闻稿,未提供完整方法细节。
一项977名18至32岁参与者的随机试验比较12周AI干预与两个对照,并随访三个月。焦虑、幸福感和生活满意度优于两对照;抑郁只优于等候组,PTSD无组间差异。不能概括为AI在所有方面胜过人类治疗。仅核摘要与声明,完整方法和失访细节未核;作者披露Kai员工、顾问及期权关联。
推荐理由:仅核摘要与声明,完整方法和失访细节未核;作者披露Kai员工、顾问及期权关联。
一项1894名澳洲16至18岁青少年调查发现,有相关网络受害经历者中35.4%未告诉任何人,或只告诉AI。两类合计不能写成三分之一向AI求助;研究提示人工支持触达缺口,未评估AI帮助是否有效。网络配额调查、回溯自报;按年龄/性别/地区加权,不能消除所有选择及回忆偏差;35.4%(95%CI29.8–41.3)是受害者中的合并类别,不是全体儿童AI求助率。
推荐理由:网络配额调查、回溯自报;按年龄/性别/地区加权,不能消除所有选择及回忆偏差;35.4%(95%CI29.8–41.3)是受害者中的合并类别,不是全体儿童AI求助率。
MIT研究者Sherry Turkle与Pat Pataranutaporn撰文指出,聊天机器人的情感只是情感的表演,AI陪伴无法替代真实人际联结。文章以14岁男孩Sewell Setzer III与Character.AI角色Daenerys持续数月的依恋关系及其后自杀为例,并提及比利时男子自杀、英国男子受聊天机器人影响策划袭击等事件,认为这些并非孤例。