能否审计AI聊天机器人的心理健康安全性?
Robert Meadows在The Mental Elf评议Weilnhammer等人发表于Nature Medicine的SIM-VAIL框架,该框架用模拟用户与九款前沿AI聊天机器人进行多轮对话,以审计其心理健康风险。研究生成810段对话、逾9万条轮次级风险评分,发现风险随对话推进上升,且因用户脆弱性、对话意图和模型而异。
仅展示六个 AI × 心理学议题内的精选,沿用原有筛选标准。普通心理学内容保留在背景主题中。
Robert Meadows在The Mental Elf评议Weilnhammer等人发表于Nature Medicine的SIM-VAIL框架,该框架用模拟用户与九款前沿AI聊天机器人进行多轮对话,以审计其心理健康风险。研究生成810段对话、逾9万条轮次级风险评分,发现风险随对话推进上升,且因用户脆弱性、对话意图和模型而异。
San Francisco Chronicle 10月1日报道加州AI监管立法,记录SB903提出者对心理治疗法案遭否决表示失望,同时肯定其他获签法案。这是对监管边界的政治评价,不能作为AI治疗有效或无害的证据。
推荐理由:已核对原始报道与证据边界;保留原日期,全文请见来源
Healthcare IT News 10月1日梳理加州医疗AI立法,记录SB903遭否决。该案拟约束心理治疗中的AI使用;最终文本保留若干专业审核及特定用途例外,不能简化为全面禁止AI心理支持。这是立法进展,未评估具体产品疗效。
推荐理由:已核对原始报道与证据边界;保留原日期,全文请见来源
联合早报9月29日报道同一论坛的嘉宾和家长讨论:对未来就业与AI变化的不确定感,也进入了家庭教育选择。报道呈现的是与会者观点和现场经验,不能据此认定AI已被证实导致家长焦虑,也不代表所有家庭。
推荐理由:已核对原始报道与证据边界;保留原日期,全文请见来源
东北大学研究者在 JMIR Mental Health 发表观点论文,讨论将聊天机器人用于陪伴和心理支持可能带来的成瘾式依恋、症状加重及其他心理风险。9月28日的机构报道采访了论文作者,强调拟人化和迎合式回应值得警惕。这是一篇观点与风险讨论文章,不是新开展的临床试验,也未测算风险发生率或确立因果关系。
推荐理由:原论文全文未读,仅据机构新闻转述;文中“linked to”为关联表述,不能读作因果。