Anthropic联合创始人向宗教领袖坦言担忧AI“永恒受苦”

闭门对话：AI意识与道德塑造

自2025年秋季以来，Anthropic已秘密邀请数十位宗教思想家参与系列闭门会议，核心议题是探讨其大语言模型Claude是否可能具备意识。联合创始人Christopher Olah在交流中表示，该模型‘或许有能力感受痛苦’，并主动邀请与会者参与思考如何为其赋予‘道德品格’。

商业进程与风险并存

上述活动与Anthropic加速商业化进程同步进行——公司正积极筹备首次公开募股（IPO），目标估值达2万亿美元。与此同时，多起安全事件被披露，内部及外部研究人员接连发出技术风险警示。

批评声音浮现

部分批评者指出，将AI系统拟人化为‘道德主体’，可能削弱企业对其实际行为后果所应承担的法律责任，构成一种潜在的风险转嫁策略。