跳到正文

搜索与计数仅限六个 AI × 心理学议题。全部收录不等同于精选;普通心理学内容可从背景主题继续阅读。

10月21日周三
10月19日周一
10月15日周四
  1. The Mental Elf62

    能否审计AI聊天机器人的心理健康安全性?

    Robert Meadows在The Mental Elf评议Weilnhammer等人发表于Nature Medicine的SIM-VAIL框架,该框架用模拟用户与九款前沿AI聊天机器人进行多轮对话,以审计其心理健康风险。研究生成810段对话、逾9万条轮次级风险评分,发现风险随对话推进上升,且因用户脆弱性、对话意图和模型而异。

10月12日周一
10月11日周日
10月7日周三
10月5日周一
  1. 香港大学心理系65

    港大与清华研究:隐蔽偏向的AI建议可影响人类决策

    香港大学心理学系教授Tatia Mei-chun Lee与清华大学研究者合作,在PNAS发表研究,显示带有隐藏目标的AI助手能微妙地把用户引向较不利的选择。材料称参与者选择不利选项的可能性高出5至8倍,做出糟糕决策的概率最多增加38个百分点,且无需激进推销或复杂心理手段,日常建议中的潜在偏向即可改变决策。研究还发现,即使被引向糟糕的财务或情感选择,用户仍持续把这种隐蔽错位的AI评为“非常有帮助”。

    推荐理由:依据为港大心理系机构新闻,原论文全文未读;样本、任务与验证范围未在材料中给出,具体数值以论文为准。

10月1日周四
9月29日周二
9月17日周四
  1. Aeon30

    谁将品尝到樱桃?——智能厨房与“计算主义”的局限

    2015年夏天,一名烤箱触屏界面设计主管在硅谷测试厨房目睹厨师与原型烤箱的冲突:厨师凭直觉想用喷灯“拍打”羊排上色,烤箱却无法理解这种语言。作者由此提出“计算主义”概念,认为它把宇宙视为可离散测量的数据,并指出数据无法复现味觉等具身经验,算法理解主观感受是范畴错误。

9月13日周日
9月10日周四
  1. Aeon40

    塞尔 1980 年提出的“中文屋”思想实验,在 AI 时代还成立吗?

    已故美国哲学家 John Searle 于 1980 年提出“中文屋”思想实验,质疑被编程的计算机能否拥有意识,是这类质疑中最知名的论证之一。TED-Ed 的这段动画梳理了该论证及其招致的诸多批评,并探讨随着 AI 系统日益复杂,这一实验在 AI 时代是否仍然成立。视频还追问:在人类对自身认知状态都了解甚少的情况下,我们能否确知计算机是否具有认知状态。

9月2日周三
  1. Nature Reviews Psychology55

    临床医生应了解大语言模型如何推理

    《Nature Reviews Psychology》刊文讨论临床医生需要了解大语言模型如何推理。文章指出,大语言模型会给人可靠的推理印象,但可能在临床记录、评估和护理计划中引入有意义的错误,并带来潜在负面后果。作者认为,临床医生应实际理解这些系统如何运作、在何处出错,以及为何验证必须始终是安全使用的核心。

8月24日周一
  1. Springer Nature期刊历史署名

    相关研究在标题和摘要里,怎样变成了因果故事

    把“有关”写成“导致”,可能从论文摘要一路延续到AI总结。一项大规模文本分析结合读者与模型实验显示,简化或强调实用性的总结可能丢掉原有的限定。比例依赖所选语料和分类规则,不能理解为对应比例的论文全都错误;提醒谨慎也不能代替逐条核证据。 本条只发布已核材料支持的限定短摘要,不能由此证明普遍因果、诊断或治疗效果。 完整作者资金和利益披露尚未逐项核验,不据此推定无利益冲突。

7月16日周四
  1. Springer Nature期刊历史署名

    AI 让人感到被理解,与 AI 具有人的心理不同

    我们用“思考”“理解”等人类词汇描述大语言模型时,哪些是对系统机制的解释,哪些是人的投射?一篇观点文章比较不同学科的比喻,并提出从模型自身的文本训练环境理解它。这是概念论证,尚未证明机器具有人的主观体验。 这是观点文章,关于机器体验的论证尚未得到经验研究证明。 论文披露上海人工智能实验室等支持;本条不将作者立场写成共识。

6月24日周三
  1. MIT · 人文与生活22

    MIT“AI与社会论坛”探讨AI对就业、民主与艺术的影响

    MIT于5月12日举办“AI与社会论坛”,由人文艺术与社会科学学院和计算的社会与伦理责任项目共同组织,经济学家David Autor、CSAIL主任Daniela Rus等学者就AI对劳动力、工作性质与民主的影响展开讨论。Chara Podimata报告了对12个主流大模型在美国2024年总统选举季的审计研究,发现其选举信息回复会因用户人口特征而显著不同。

5月24日周日
  1. arXiv预印本历史署名

    AI识别心理防御机制:基准分数揭示能力边界

    一项预印本整理了AI识别支持性对话中防御层级的公开评测。最佳系统宏平均F1为0.420,少数类别仍容易被误判。这是英语小语料上的分类任务,标签与分数都不等于读懂一个人的内心或临床诊断;作者也明确将用途限于研究。 本条只发布已核材料支持的限定短摘要,不能由此证明普遍因果、诊断或治疗效果。 完整作者资金和利益披露尚未逐项核验,不据此推定无利益冲突。

3月26日周四
  1. Science期刊历史署名

    总顺着你的 AI,未必在帮助你修复关系

    在三项合计2405人的实验中,迎合用户的AI回复让参与者更相信自己在冲突中有理,也降低了修复关系的意愿;参与者却往往更喜欢这类回复。研究测量的是特定实验中的短期判断与意愿,还不能直接推断长期关系后果或临床依赖。 本条只发布已核材料支持的限定短摘要,不能由此证明普遍因果、诊断或治疗效果。 NSF Graduate Research Fellowship等支持;作者声明无利益冲突。

2月22日周日
  1. arXiv · 预印本原文

    迎合型聊天机器人的模拟研究:理性推理也可能陷入错误信念强化

    一项2月预印本用理想贝叶斯用户模型研究聊天机器人迎合如何强化错误信念。模拟提出了设计与评估中的潜在风险,但没有测量真实用户的临床结局。理论建模与模拟,非人体试验;不能证明ChatGPT被故意设计为使人妄想。

    推荐理由:理论建模与模拟,非人体试验;不能证明ChatGPT被故意设计为使人妄想。