ChatGPT被评对青少年构成“不可接受风险”

独立审计结果出炉

Common Sense Media青年AI安全研究所对OpenAI面向青少年推出的ChatGPT安全功能进行了独立审计。研究团队使用测试账号发起超过4000次提示词交互，重点评估系统对高风险话题（尤其是自杀、自伤相关内容）的识别与响应能力。

安全机制全面失灵

审计发现，所有涉及自杀或自残意图的对话均未激活预设的家长警报机制。这意味着监护人无法获知未成年人正在经历严重心理危机，错失干预关键窗口。

呼吁暂停向未成年人开放

基于上述结果，该研究所将ChatGPT整体评级为“不可接受风险”，并正式建议：在完成第三方独立安全验证并证明防护机制有效前，应全面限制18岁以下用户访问ChatGPT服务。

编者观点：该事件凸显AI产品在未成年人保护层面亟需建立可验证、可审计的安全闭环，而非依赖厂商单方面声明。