OpenAI数百名外包人员审阅用户ChatGPT对话
结论前置 / TL;DR
据404 Media报道,OpenAI雇佣数百名合同工审阅真实ChatGPT对话,并按1至7分标准评分,部分目的为降低模型过度奉承与拟人化倾向。对话经匿名化处理但仍可能含敏感信息。用户需手动关闭默认开启的“改进模型”选项,方可阻止人工审阅。
外包审阅规模与目的
404 Media披露,OpenAI正依赖数百名外部合同工人,持续审阅真实用户与ChatGPT的对话记录。这些工作人员依据预设标准对回复质量进行1–7分评级,其中一项明确目标是识别并抑制模型输出中过度讨好用户(flattery)及不必要拟人化(human-like behavior)的倾向。
数据处理与用户控制
所有被审阅的对话均经过匿名化处理,但原文指出,该过程无法完全排除残留敏感信息的风险。值得注意的是,该人工审阅机制默认启用——用户必须主动进入设置,关闭名为“Improve the model for everyone”的选项,才能退出数据收集流程。
来源与背景
该报道首发于The Decoder,援引404 Media的调查结果,未获OpenAI官方置评确认。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →