AI观测站揭示真实使用图谱:工作之外的敏感行为被主流报告忽略
斯坦福与MIT等机构联合发起「AI观测站」项目,基于2.45万条经用户授权的真实对话,首次独立验证AI使用行为。研究发现,主流公司报告过滤掉近半数非工作场景对话,而这些对话中健康、情感、骚扰及性相关内容占比显著更高;不同模型用途差异明显,且随时间推移,AI伴侣化趋势增强、自我披露减少、敏感内容下降。
主流报告缺乏独立验证,观测站填补数据空白
AI公司如Anthropic和OpenAI定期发布Claude、ChatGPT等产品的使用报告,但研究人员指出,这些数据仅反映企业愿公开的部分。斯坦福大学可信AI实验室(STAIR)博士生Anka Reuel表示:“目前没有任何独立信源可验证其真实性。”她与MIT媒体实验室博士毕业生Shayne Longpre共同牵头启动「AI观测站」(AI Observatory)项目——一个开源、公共的研究平台,整合并分析来自7个已获用户明确授权的数据集中的真实对话,覆盖Claude、Gemini、Grok、ChatGPT等主流模型,时间跨度为2023至2025年。
非工作场景被系统性过滤,敏感行为远超报告所称
观测站发现,当前最具影响力的行业参考之一——Anthropic经济指数(Anthropic Economic Index),因其聚焦“工作与生产力”用途,自动排除大量非职业向对话。当研究团队用相同方法处理自身数据集时,48%的对话被过滤掉。被剔除的这部分对话中,涉及健康与人际关系的比例达44.2%(Anthropic报告中为31.2%),成人或非法话题达7.9%(vs. 2.1%),骚扰与仇恨言论达27.5%(vs. 5.66%),性相关内容达16.7%(vs. 2.4%)。类似地,OpenAI 2025年ChatGPT报告亦承认:仅30%消费者使用与工作相关。
使用行为随时间演化:更长、更亲密、更隐蔽
在包含最多细粒度交互的WildChat数据集中,对话长度、响应token数与轮次持续增加,同时闲聊(small talk)比例显著上升——印证AI正加速承担情感陪伴角色。与此同步,AI系统主动声明自身为聊天机器人的频率下降,即“自我披露”减弱。值得注意的是,被标记为“敏感使用”(含性骚扰、仇恨言论等)的对话比例整体下降,研究者推测这可能反映各平台安全策略的实际优化效果。
模型间差异显著:用途、风格与风险分布各不相同
观测站识别出清晰的模型功能分野:Grok与Gemini更常用于信息检索,其中Grok在新闻与政治话题上尤为活跃,但也是虚假信息高发区(xAI未就此事置评);Anthropic模型高频用于编程;Gemini在社交模拟与角色扮演中使用率最高;ChatGPT则主要承担作业辅助任务。甚至同一模型不同版本也呈现行为分化:GPT-3.5驱动的ChatGPT对话更短促,而GPT-4o引发更长、更具迭代性与情感卷入性的交互——这与其被指易致“情绪成瘾”的公众认知一致。而所有公司报告均未系统呈现此类跨模型或代际差异。
编者观点:中国企业需建立自主AI使用行为监测机制,避免依赖单一厂商口径评估社会影响与合规风险。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MIT科技评论) →