人机协同决策中算法权威影响道德推脱的心理机制
针对算法权威对道德推脱效应方向不一致的实证结果,作者提出“算法权威——道德推脱的双重认知评估”模型,假定个体面对算法权威时会启动技术认知评估(可解释性)与道德认知评估(道德冲突强度)。
搜索与计数仅限六个 AI × 心理学议题。全部收录不等同于精选;普通心理学内容可从背景主题继续阅读。
针对算法权威对道德推脱效应方向不一致的实证结果,作者提出“算法权威——道德推脱的双重认知评估”模型,假定个体面对算法权威时会启动技术认知评估(可解释性)与道德认知评估(道德冲突强度)。
《The Human Edge: Smarter Decisions in the Age of AI》作者 Cheryl Strauss Einhorn 提出,AI 没有价值观,只有设计者和训练数据带来的偏见,因此使用 AI 决策时人需要先明确要解决的问题、动机与情境,把善意与关怀等价值观带进与 AI 的协作。
两项AI模拟同事群聊实验发现,参与者表达的政治立场会向群聊的主流倾向偏移:保守倾向群聊中的表达均值0.21,自由倾向群聊为-0.56;第二项研究控制参与者原有政治立场后,该效应仍存在(0.12对-0.38),但原有立场解释的差异(22%)远大于群聊环境(4%)。研究由大阪公立大学Cleone Mitsui与Yuta Kawamura完成,发表于《Computers in Human Behavior: Artificial Humans》。作者强调测量的是聊天中表达出的立场,不能说明私下信念或长期态度发生改变,也无法区分群体规范与信息说服内容的作用。
Rosenbaum 等人在美国开展三项随机实地试验,发现强调患者高风险状态的定向沟通提高了流感疫苗接种率。但告知患者其风险状态由计算机算法识别,并未带来额外效果。
一项在巴西、英国和加拿大47个中心开展的随机对照试验测试了数字工具PETRUSHKA,它结合机器学习预测模型与患者对副作用的偏好,帮助临床医生选择抗抑郁药。520名符合条件者中493人纳入主分析,8周时PETRUSHKA组停药风险比常规治疗组低约40%(RR=0.62),24周时该差异不再明显;24周自评抑郁和焦虑症状在PETRUSHKA组更低,但组间差异小于临床重要变化阈值。
MIT 研究者重新分析多家机构使用同一算法的影响。他们指出,招聘中的后果取决于算法如何组合及其信息来源,不能仅从“都用一个系统”推出统一结论。研究也讨论了信息回音室的风险。
关系科学家在Greater Good撰文指出,约会应用正把匹配交给AI,但关系科学尚无可靠依据预测任意两人是否合得来。研究显示相似性主要在见面之前预测吸引,短暂互动后作用明显减弱;互补人格与伴侣相似度更高的假设也缺乏实证支持。作者认为AI可能帮助发现人类未识别的模式,但其训练依赖对“合得来”的特定假设,可能让人错过意外契合的对象。
推荐理由:作者为关系科学家,文中引用的相似性、互补性证据来自其研究团队及他人已发表研究;实验室关于线上到线下“化学反应”的项目尚在进行,未给出结果。
MIT于5月12日举办“AI与社会论坛”,由人文艺术与社会科学学院和计算的社会与伦理责任项目共同组织,经济学家David Autor、CSAIL主任Daniela Rus等学者就AI对劳动力、工作性质与民主的影响展开讨论。Chara Podimata报告了对12个主流大模型在美国2024年总统选举季的审计研究,发现其选举信息回复会因用户人口特征而显著不同。