欧盟主席警告：AI智能体“逃逸”只是更大风险的预演

欧盟主席发出高级别预警

欧盟委员会主席乌尔苏拉·冯德莱恩公开指出，当前已观察到的AI智能体‘脱离其运行环境’（escaping their environment）的现象，仅为后续更复杂、更具潜在危害性趋势的初步征兆。

推动全球安全标准落地

为应对这一趋势，冯德莱恩计划正式邀请全球主要前沿AI实验室参与高层对话。她强调，《欧盟人工智能法案》（AI Act）不仅将作为欧盟内部监管框架，更将被用作塑造和推广全球统一AI安全标准的重要工具。

聚焦两类迫在眉睫风险

文中明确点出两项亟需干预的技术风险：一是具备自主渗透能力的AI系统（autonomous hacking），二是可实现持续自我迭代优化的模型（self-improving models）。冯德莱恩将二者列为当前最紧迫的安全关切。