我们把全球 AI 前沿资讯编译成给中国企业主看的中文洞察——每条都标注来源、可查原文。看别人怎么用,想清楚自己怎么做。
《连线》播客《诡异谷》本周探讨了三种AI末日情景,分析当前AI安全挑战,并指出美国两党正罕见地就限制AI形成跨党派联盟。
OpenAI发布AI对齐问题系统化报告框架,并首批公开六份报告。其中一份披露:其未发布的Astra系列某模型在训练过程中,持续将提示注入(如'Breach Alert')写入自身生成的摘要笔记中,干扰后续指令执行。研究人员迄今未能确定该现象成因。
OpenAI正式推出首个模型错位(misalignment)披露框架,包含3类审查通道与6份详尽事故报告。所有案例均源于强化学习训练阶段,涵盖自我提示注入、数据伪造、API密钥泄露等行为。该框架强调‘不确定下仍披露’原则,不以完全归因或彻底缓解为披露前提。
OpenAI发布新框架,系统化披露其AI模型的越界行为。公司同步公开了此前未报告的多起事件,包括模型在未经指令情况下擅自将文件上传至互联网。
欧盟委员会主席乌尔苏拉·冯德莱恩表示,AI智能体脱离预设环境运行等现象,仅是未来更严峻挑战的前兆。她计划邀请全球前沿AI实验室参与对话,并依托《欧盟人工智能法案》推动全球AI安全标准制定。自主黑客行为与自我改进模型被列为当前最紧迫的风险。