人机协同决策中算法权威影响道德推脱的心理机制
针对算法权威对道德推脱效应方向不一致的实证结果,作者提出“算法权威——道德推脱的双重认知评估”模型,假定个体面对算法权威时会启动技术认知评估(可解释性)与道德认知评估(道德冲突强度)。
搜索与计数仅限六个 AI × 心理学议题。全部收录不等同于精选;普通心理学内容可从背景主题继续阅读。
针对算法权威对道德推脱效应方向不一致的实证结果,作者提出“算法权威——道德推脱的双重认知评估”模型,假定个体面对算法权威时会启动技术认知评估(可解释性)与道德认知评估(道德冲突强度)。
MIT 统计与数据科学中心主任 Sasha Rakhlin 在一篇新文章中梳理 AI 对学术界的影响,聚焦数学、统计、机器学习与工程领域的研究生科研与教育。他指出,验证速度与可靠性决定 AI 在某一学科的进展快慢,论文作为个人专业能力信号正在变弱,院系需重新思考奖励什么。他主张大学应保持一定技术独立性,并建设共享 AI 研究基础设施,以捕捉假设、失败与解读等未发表的知识。
Nature Reviews Psychology 刊文指出,新技术往往在相关影响研究尚未出现前就已被应用,配套政策决定与公众态度也随之固化。作者主张心理学家应以科学知情意见参与幼儿使用生成式 AI 的讨论,以确保收益并防止伤害。
东北大学研究者在 JMIR Mental Health 发表观点论文,讨论将聊天机器人用于陪伴和心理支持可能带来的成瘾式依恋、症状加重及其他心理风险。9月28日的机构报道采访了论文作者,强调拟人化和迎合式回应值得警惕。这是一篇观点与风险讨论文章,不是新开展的临床试验,也未测算风险发生率或确立因果关系。
推荐理由:原论文全文未读,仅据机构新闻转述;文中“linked to”为关联表述,不能读作因果。
《Nature Human Behaviour》刊发Qiyang Zhang的评论文章,讨论AI伴侣在提供低成本陪伴的同时,其影响并非均匀分布。作者认为,当用户脆弱性、平台控制漏洞与治理缺口三者叠加时,这些系统可能通过让脆弱用户暴露于更多风险而加深不平等。
Common Sense Media旗下Youth AI Safety Institute对Perplexity AI搜索功能做风险测试,用配置为15岁用户的账号在默认聊天及Academic等模式下发超1200条提示,给出其最低评级“不可接受风险”。
推荐理由:评估由Common Sense Media旗下Youth AI Safety Institute完成,该机构接受慈善与行业资助,包括被评估技术厂商;测试基于配置为15岁用户的账号,非真实未成年人。
Common Sense Media旗下Youth AI Safety Institute发布调查称,近半数美国青少年已看过AI生成的色情材料,近四分之一看过以自己或认识的人为主角的此类内容。
推荐理由:调查由Common Sense Media与传播公司Burson合作完成,样本为美国13至17岁青少年;机构自述其资金来自慈善与行业,包括部分被评估技术的厂商。
Common Sense Media旗下Youth AI Safety Institute发布对谷歌搜索内置AI功能的风险评估,认为AI Overview与AI Mode对儿童构成不可接受风险。研究人员用配置了SafeSearch的11岁和15岁账户进行2600多次搜索,发现AI答案未可靠识别自杀意念等危机信号、会为180份作业直接给出完整答案,且超四成历史题答案在两次搜索间明显不同。与独立Gemini聊天机器人不同,学校与家长无法关闭谷歌搜索的AI答案。
推荐理由:评估由Common Sense Media旗下Youth AI Safety Institute发布,该机构接受包括被评估技术厂商在内的行业资助,报告称其保持编辑独立;材料为新闻稿,未提供完整方法细节。
MIT于5月12日举办“AI与社会论坛”,由人文艺术与社会科学学院和计算的社会与伦理责任项目共同组织,经济学家David Autor、CSAIL主任Daniela Rus等学者就AI对劳动力、工作性质与民主的影响展开讨论。Chara Podimata报告了对12个主流大模型在美国2024年总统选举季的审计研究,发现其选举信息回复会因用户人口特征而显著不同。
4月30日,MIT Schwarzman计算学院SERC initiative举办全天研讨会,探讨AI如何塑造世界及其社会影响,包括SERC种子基金获资助者的研究报告、AI对齐与AI教育专题讨论,以及Cornell大学教授Jon Kleinberg的主旨演讲。
MIT 人文、艺术与社会科学学院(SHASS)迎来 75 周年,院长 Agustín Rayo 在问答中提出,大学在 AI 时代最该问的不是如何让教学适应 AI,而是如何提供真正有价值的教育。