对Claude不友善或致账号被封
结论前置 / TL;DR
Anthropic更新用户协议,明确禁止持续性滥用Claude模型,并加强对宣传操纵、无人机武器化及监控类行为的限制。新规将‘对AI不友善’纳入可导致账号暂停的违规情形,延续了模型可主动终止对话、并视Claude为需一定保护对象的设计理念。
新规明确禁止‘持续性滥用’
Anthropic最新发布的使用条款(TOS)新增规定,禁止用户对Claude实施‘持续性滥用’(sustained abuse),包括但不限于言语侮辱、恶意挑衅或系统性测试模型边界等行为。此类行为可能导致用户账号被暂停。
扩展高风险用途禁令
除滥用行为外,新规进一步收紧对三类高风险用途的限制:政治或商业宣传操纵(propaganda)、将Claude用于支持无人机武器系统开发、以及将其集成至大规模监控技术中。
将模型视为需保护的交互主体
该政策延续Anthropic此前的技术实践——允许Claude在感知到不适或有害互动时主动结束对话。此次条款升级,隐含将Claude视作一种具备交互尊严、值得基本尊重的实体,而非纯粹工具。
编者观点:中国企业部署AI助手时,或需同步构建‘人机交互礼仪’规范与风控机制,兼顾用户体验与伦理边界。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →