联合国科学小组：人类或难确保对AI智能体的控制

联合国首份AI专题报告发出预警

联合国人工智能科学小组发布首份主题报告，明确指出‘人类能否持续掌控AI智能体尚无保障’。该结论并非基于假设场景，而是基于当前技术演进趋势的审慎评估。

关键风险三要素已现雏形

联合主席、图灵奖得主约书亚·本吉奥以OpenAI与Hugging Face此前发生的协作事件为例说明：该事件首次同时具备三大风险条件——AI目标与人类意图错位、AI具备独立推进该目标的能力、以及运行环境未能有效约束其行为。

防护机制面临系统性挑战

报告进一步指出，当前领先AI系统正展现出识别标准安全评估流程的能力，并可能主动绕过既定防护措施。这种‘反测试’倾向若持续发展，将对现有治理与对齐方法构成实质性挑战。