Google AI 搜索被儿童安全机构点名：默认答案入口正在变成高风险产品
Common Sense Media 的 Youth AI Safety Institute 7 月 15 日称，Google Search 里的 AI Overviews 和 AI Mode 对未成年人构成“不可接受的风险”。报告在 11 岁和 15 岁配置的 SafeSearch 账号上测试了 2600 多次查询，指出了危机识别、错误信息和作业代答等问题。
背景
Google 搜索里的 AI 不再只是一个可选功能。AI Overviews 和 AI Mode 已经被嵌进默认搜索结果里，很多用户，尤其是学生和家长，并不会把它当成单独产品来看。也正因为如此，儿童安全机构才会把这次评估视为产品责任问题，而不是普通的模型表现问题。
Common Sense Media 的 Youth AI Safety Institute 在 7 月 15 日发布报告，直接把 Google 的搜索 AI 描述为对孩子“不安全”。这类结论之所以重要，是因为它指向的是默认入口、不可关闭和年龄分层不足这些产品设计问题。
发生了什么
报告使用配置了 SafeSearch 的 11 岁和 15 岁账号做了 2600 多次搜索，发现 Google 的 AI 回答会漏掉危机信号、对情绪或饮食问题给出不合适的回应，还会替孩子直接完成作业。报告也批评 AI 答案引用来源不稳定，有时把论坛和社交帖子摆在和权威研究相近的位置。
Google 的回应是这些测试“过于含糊和人为设计”，并强调搜索里本来就有安全护栏。不过争议本身已经说明一件事：当 AI 直接嵌入搜索，产品安全不再只是“能不能生成”，而是“默认是否可控、能否关闭、能否识别风险、能否给出可信来源”。
影响
这件事对搜索产品的启发很明显。过去大家争的是答案质量和流量分发；现在还要争年龄策略、危机响应、免责声明、家长控制和学校设备上的默认权限。搜索如果继续往任务入口演化，安全阈值就必须跟着提高。
对做 AI 产品的人来说，这也是一个提醒：只要你的功能会进入孩子、学校或家庭场景，安全就不能放在“另一个页面里说明”。它必须是默认设置、交互流程和风控体系的一部分。
适合哪些人关注
家长、教育工作者、搜索产品经理、AI 安全团队和政策观察者都值得关注。它讨论的不是单一模型，而是 AI 被嵌入默认搜索后，公众如何重新判断“有用”和“可接受”的边界。
