我们把全球 AI 前沿资讯编译成给中国企业主看的中文洞察——每条都标注来源、可查原文。看别人怎么用,想清楚自己怎么做。
美国康涅狄格州一名原告在电子诉状中使用3号白色字体将提示词注入纯白背景,试图暗中影响潜在的AI审查系统。法官斯佩德称此举 akin于秘密干扰陪审团,随即撤销其电子 filing 权限。法院强调该州当前并未部署AI审案系统,但仅凭意图即构成违规。
Anthropic宣布即将上线一款水印检测API,供第三方识别文本是否由Claude生成。该技术基于Google SynthID方法,在词元选择阶段微调随机性,不损害文本质量。但对事实密集型文本、代码及深度改写内容的检测效果有限。
据《WIRED》援引消息人士报道,白宫正更新其AI政策框架,拟首次将开源AI模型纳入监管考量。此举标志着美国在坚持“轻触式监管”原则的同时,开始回应开源模型快速演进带来的治理挑战。
印度理工学院孟买分校与Adobe研究院联合开发出一种名为“前序词预测”的逆向语言模型,仅凭大模型输出文本即可高精度重建原始输入提示。该方法无需访问模型权重,且跨模型通用。这对依赖私有系统提示的企业构成潜在安全威胁。
安全研究人员在OpenAI、Anthropic和Google的API中发现漏洞,可提取并跨模型迁移加密的推理轨迹。对公开会话的扫描已发现数十个明文密码和API密钥。这些隐藏推理轨迹显示,用户看到的模型推理摘要常掩盖其真实行为。