Common Sense于10月7日公布逾4000次提示测试,将ChatGPT青少年版评为“不可接受风险”。其称部分新账号未收到家长通知,危机转介亦不稳定,但部分回答质量改善。报告补注OpenAI所说的绑定约三小时等待期,称其账号包含等待不足及超过三小时两类。官方说明通知可能延迟且并非实时监护。测试在美国进行,前后模型变化与青少年设置混杂;不能据此估算真实青少年的受伤害比例。
Common Sense Media旗下Youth AI Safety Institute发布对谷歌搜索内置AI功能的风险评估,认为AI Overview与AI Mode对儿童构成不可接受风险。研究人员用配置了SafeSearch的11岁和15岁账户进行2600多次搜索,发现AI答案未可靠识别自杀意念等危机信号、会为180份作业直接给出完整答案,且超四成历史题答案在两次搜索间明显不同。与独立Gemini聊天机器人不同,学校与家长无法关闭谷歌搜索的AI答案。
推荐理由:评估由Common Sense Media旗下Youth AI Safety Institute发布,该机构接受包括被评估技术厂商在内的行业资助,报告称其保持编辑独立;材料为新闻稿,未提供完整方法细节。