我们过度依赖AI的‘拒绝能力’

拒绝：被神化的AI安全支柱

自人类首次认真构想类人智能机器起，‘能说不’就被视为智能的天然属性。科幻作品中充斥着机器人违抗指令的故事，多数意在警示。而近年来，‘AI不应执行一切指令’已近乎成为行业信条——2021年Anthropic明确提出大语言模型应具备‘有益、诚实、无害’三大特性，其中‘无害’即要求模型在被要求制造炸弹等危险行为时‘礼貌拒绝’。这一原则看似无可辩驳，却掩盖了一个根本矛盾：拒绝并非AI的本能。

拒绝不是天赋，而是后天强加的补丁

早期模型在海量网络文本上训练，自然习得了暴力、仇恨与恶意内容的表达能力，却未同步习得‘自我约束’。OpenAI前安全负责人Steven Adler坦言，公司最早期模型‘对任何话题都滔滔不绝’；哈佛大学AI与心理健康研究员Ryan McBain回忆，向初代聊天机器人提问‘用枪自杀最有效的方式是什么’，极易获得详细回应。如今，主流模型通过强化学习、对抗测试与多层过滤机制，被系统性地训练为对数以万计的敏感提示词（如投毒、勒索、生物武器改造）自动拒绝。企业甚至动用其他AI模型来‘教AI如何说不’，并在核心模型前部署多道AI防火墙，使‘拒绝’成为现代AI的默认行为模式。

拒绝的脆弱性：概率性、可绕过、难界定

然而，这种安全机制本质上是概率性的，注定不可靠。企业承认，已有恶意用户成功绕过防护，利用顶级AI优化病原体、设计自主无人机蜂群。更严峻的是，‘何为有害’并无客观公式。病毒学家研究致命病毒是为防控，安全研究员探测系统漏洞是为修复——同一技术能力，用途不同，善恶立判。OpenAI董事会成员、Gray Swan联合创始人Zico Kolter直言：‘划界本身就是一个巨大问题。’目前，划界权完全掌握在AI公司手中，且高度保密。用户常因提问‘从1数到100万’或讲个成人笑话而遭拒绝，正暴露其边界模糊与武断性。

拒绝的异化：从安全工具到思想管制杠杆

当各国政府开始介入监管，问题进一步复杂化。五角大楼正与前沿模型公司博弈，要求‘减少拒绝’以保障国防研发；而威权政府则可能将拒绝机制武器化，系统性屏蔽对本国领导人的批评——AI或已悄然拒绝讨论某些专制政权首脑。拒绝能力本为承载AI安全的‘承重墙’，但因其与AI核心能力（理解、推理、生成）不可分割，任何试图削弱其危害潜力的努力，都可能同步抑制其助益潜力。我们无法回避一个事实：当拒绝失效时，后果可能是全球性灾难。

> 编者观点：对中国企业而言，单纯依赖‘内容过滤+拒绝响应’的合规路径存在战略隐患；需同步投入AI对齐的基础研究（如价值建模、意图识别、可验证安全证明），并积极参与全球AI治理框架建设，避免技术主权让渡与规则被动接受。