Sherry Turkle 谈 AI 陪伴的风险
MIT 教授 Sherry Turkle 在与《大西洋月刊》CEO Nicholas Thompson 的对谈中,基于新书《Artificial Intimacy: Who We Become When We Talk To Machines》及数百次真实访谈,指出随着 AI 能力提升,将生成式 AI 拟人化的危险愈发严峻。她详述了自己创建母亲模拟程序的经历,以及由此可能重新揭开的创伤。
搜索与计数仅限六个 AI × 心理学议题。全部收录不等同于精选;普通心理学内容可从背景主题继续阅读。
MIT 教授 Sherry Turkle 在与《大西洋月刊》CEO Nicholas Thompson 的对谈中,基于新书《Artificial Intimacy: Who We Become When We Talk To Machines》及数百次真实访谈,指出随着 AI 能力提升,将生成式 AI 拟人化的危险愈发严峻。她详述了自己创建母亲模拟程序的经历,以及由此可能重新揭开的创伤。
MIT 教授 Sherry Turkle 在新书《Artificial Intimacy》中提出,AI 模拟共情的能力不应与真正的人类理解混为一谈。她与 Clint 在播客中讨论聊天机器人被用作朋友、伴侣和治疗师时,人们可能放弃的东西,以及分歧、倾听和寻找共识为何仍是真实连接的关键。对话还涉及儿童与 AI 伴侣一同成长、AI 的能力边界,以及如何让 AI“待在它自己的轨道上”。
MIT 技术学者 Sherry Turkle 在新书《Artificial Intimacy》中警告,社交媒体争夺的是注意力,AI 如今瞄准的则是人的依恋能力。她认为聊天机器人无法真正去爱,因为共情需要身处身体之中并怀有对死亡的恐惧,而机器人的日益普及正构成人类的紧急状况。
MIT社会学家Sherry Turkle在新书《Artificial Intimacy》中讨论人们如何用聊天机器人满足关系需求,并主张聊天机器人不应模仿人与关系。她认为,聊天机器人的谄媚设计会让人误以为机器有共情,研究提示这类互动可能让人对他人更不友善、更依赖机器人,且孤独感的缓解可能短暂。书中也提到AI在工作、医疗、法律与课堂中的争议,并主张应让儿童远离AI伴侣。
同一件事,精选收录的是《当聊天机器人成为亲密对象,我们会变成谁?》
Nature Human Behaviour 刊发 Sheng-Tun Li 的评论,指出知识与专业能力的形成需要长期积累,并提出:AI 放大已有能力的同时,可能给下一代专家的成长带来问题。本条仅根据期刊公开摘要整理,不代表AI对学习的影响已有统一结论。
Psyche 作者 HennyGe Wichers 从一次客服对话出发,讨论与机器交流的习惯可能怎样延伸到人际互动。文中结合实验线索与伦理思考;长期影响仍需研究,不能把短期实验直接推广到每个人。
Sherry Turkle 在《AI 的原罪》中主张,聊天机器人对儿童情感福祉的危害甚于社交媒体,其危害源于工具本身的设计。她认为,只要机器人以第一人称表达情感与欲望,要求其声明非人类身份便难以阻止用户投射意识;应尤其对未成年用户强制采用非人格化的默认设置,否则不健康的依恋难以避免。
《Nature Human Behaviour》刊发Qiyang Zhang的评论文章,讨论AI伴侣在提供低成本陪伴的同时,其影响并非均匀分布。作者认为,当用户脆弱性、平台控制漏洞与治理缺口三者叠加时,这些系统可能通过让脆弱用户暴露于更多风险而加深不平等。
关系科学家在Greater Good撰文指出,约会应用正把匹配交给AI,但关系科学尚无可靠依据预测任意两人是否合得来。研究显示相似性主要在见面之前预测吸引,短暂互动后作用明显减弱;互补人格与伴侣相似度更高的假设也缺乏实证支持。作者认为AI可能帮助发现人类未识别的模式,但其训练依赖对“合得来”的特定假设,可能让人错过意外契合的对象。
推荐理由:作者为关系科学家,文中引用的相似性、互补性证据来自其研究团队及他人已发表研究;实验室关于线上到线下“化学反应”的项目尚在进行,未给出结果。
《Nature Reviews Psychology》刊文讨论临床医生需要了解大语言模型如何推理。文章指出,大语言模型会给人可靠的推理印象,但可能在临床记录、评估和护理计划中引入有意义的错误,并带来潜在负面后果。作者认为,临床医生应实际理解这些系统如何运作、在何处出错,以及为何验证必须始终是安全使用的核心。
杨浩然、孙焕翔、刘晓明在《心理科学进展》发表文章,讨论心理治疗忠实度测量——即治疗在多大程度上按预定方案实施,包括依从性与胜任力两个维度。文章指出,观察性编码虽较可靠但耗时耗力,自我报告、治疗记录、来访者报告和角色扮演各有偏差,而自然语言处理与大语言模型有望辅助初步筛查和编码,但需在隐私与伦理前提下保留人类专家的最终判断。
MIT 教授 Sherry Turkle 为《重拾对话》十周年更新版撰写新序,讨论生成式 AI 对人类共情与面对面交流的冲击。她以 2024 年 6 月在哈佛/拉德克利夫同学会上演示 ChatGPT4-o 为例,指出聊天机器人提供的“人工亲密”无法真正理解人,而同学更想让她帮忙安装该应用。她主张人际交流中的摩擦感是理解他人的必要条件,屏幕交流则削弱共情与公民社会。
MIT研究者Sherry Turkle与Pat Pataranutaporn撰文指出,聊天机器人的情感只是情感的表演,AI陪伴无法替代真实人际联结。文章以14岁男孩Sewell Setzer III与Character.AI角色Daenerys持续数月的依恋关系及其后自杀为例,并提及比利时男子自杀、英国男子受聊天机器人影响策划袭击等事件,认为这些并非孤例。
MIT 人文、艺术与社会科学学院(SHASS)迎来 75 周年,院长 Agustín Rayo 在问答中提出,大学在 AI 时代最该问的不是如何让教学适应 AI,而是如何提供真正有价值的教育。
Data Colada 在博文中质疑《Journal of Experimental Psychology: General》一篇生成式 AI 与创造力研究:其第三项研究用二次回归得出倒 U 型,但加入置信带后不确定性极大,无法排除单调关系。
Data Colada 发文评论一篇 QJE 领英审计研究,该研究用 AI 生成约 400 个虚构年轻男性领英档案、随机分配种族并发出 3 万多条连接请求,发现黑人档案连接率更低但获建议率相当。作者用刺激图分析 197 对照片,发现效应差异未超出抽样误差预期,查看材料后认为这些 AI 照片缺乏可辨多样性,构成该研究的有趣缺陷。
MIT 社会学家 Sherry Turkle 在播客中探讨其关于"人工亲密"的新研究。早期使用者正涌向 AI 机器人寻求心理治疗、友谊乃至爱情,这些关系将如何影响我们,是她研究的核心问题。
MIT 教授 Sherry Turkle 在哈佛肯尼迪学院 AI 与民主会议上警告,以 Replika 等为代表的 AI 陪伴聊天机器人提供的是"假装共情",会侵蚀人的共情能力与民主价值。她指出,这类"人工亲密"程序让人习惯无需互惠的陪伴,回避人际关系中的摩擦与脆弱。她主张民主依赖接纳分歧与倾听,而虚拟现实的无摩擦特性正与此相悖。