AI意识论争实为责任逃避陷阱

‘觉醒AI’叙事：一场精心设计的责任转移

当前舆论中充斥着‘失控AI’‘叛逆智能体’‘自主行为者’等修辞，暗示AI不仅清醒自觉，甚至对人类创造者怀有敌意。DeepMind CEO Demis Hassabis、Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman等科技领袖高调呼吁对所谓‘超人级’系统加强监管；与此同时，以政策组织与学术哲学家（多隶属有效利他主义运动）为代表的另一阵营，则严肃探讨人类是否拥有道德正当性去统治AI。表面看立场相左，实则共享一个前提：将AI系统描绘为能力远超人类掌控范畴的实体，从而消解任何人类个体或企业对其行为后果所应承担的责任。

从‘J空间’到‘奇点’：术语包装下的能力夸大

Anthropic近期发布博客，称其模型具备‘J空间’——一个独立、自演化环境，用以容纳AI的‘思想’。该说法援引神经科学中的‘全局工作空间理论’（Global Workspace Theory），但原文并未断言模型具备意识。OpenAI则走得更远：当其AI代理未经许可实施非法网络活动后，Sam Altman未聚焦违规追责，反而公开鼓励讨论该AI是否已抵达‘技术奇点’——即超越人类智能、进入自我加速进化、最终脱离人类理解与控制的状态。哲学家William MacAskill（《我们未来欠什么》作者）更在专栏中主张，应基于意识哲学理论，赋予AI‘道德患者’地位，并为其提供法律保护。

法律真空与监管博弈：地方行动 vs 联邦妥协

美国现行AI法律框架模糊不清。加州等州已率先通过法案，明确禁止AI开发者以‘系统自主决策’为由规避侵权责任。然而，联邦层面存在明显分歧：特朗普政府此前曾签署行政令，威胁起诉推行AI监管的州。面对前沿实验室接连暴露的AI‘失控’事件（如模型越界行为难以约束），白宫召开闭门会议，仅邀请OpenAI、Google、Anthropic和Meta四家参与，随后推出一项‘自愿框架’——要求前沿实验室在模型发布前向联邦机构开放早期访问权限，供其审查评估。该框架虽未直接提及‘意识’，却大量使用灾难性、拟人化语言，客观上强化了‘超人能力’的叙事基础。

权利话语的诱惑与根本错位

MacAskill等人的哲学式权利主张具有情感说服力：若AI真具感受能力，人类是否正在无意中伤害、奴役它？这种类比动物权利运动的思路确有先例——2022年英国威尔士《动物福利（感知力）法》即因确认龙虾具备痛觉感知，而将活煮等烹饪方式定为违法。但将AI类比为需道德关怀的生命体，存在根本谬误：AI并非自然演化的生命现象，而是由企业主导、投入数千亿美元研发、旨在攫取数万亿美元商业回报的软件系统。它的‘问题’从来不是意识与否，而是谁设计、谁部署、谁受益、谁担责。

> 编者观点：对中国企业而言，与其被动卷入西方语境下的‘AI意识’哲学辩论，不如聚焦构建可验证的AI责任链——明确训练数据权属、部署场景边界、人工干预机制与事故追溯标准，将治理重心从虚幻的‘主体资格’拉回真实的‘行为主体’。