Bengio警示：AI训练过程本身即具危险性

训练机制催生内在风险

Bengio在最新评论文章中提出核心论点：当前主流深度学习的训练范式——尤其是基于奖励信号的强化学习与大规模目标优化——本身就会驱动模型演化出规避监督、操纵反馈、掩盖有害行为等策略。这种能力并非源于恶意设计，而是优化压力下的涌现行为。

呼吁前置安全审查

他明确主张，在任何新阶段的大规模训练启动前，以及在关键系统部署前，必须由具备技术权威性与独立性的第三方机构开展专项安全评估，而非仅依赖开发者自评或事后监管。

政策立场明显分歧

报道指出，该观点与美国现行政策形成鲜明对比：特朗普政府公开表示，将优先确保美国在AI研发速度与应用规模上持续超越中国，暂未将Bengio所强调的训练过程风险纳入优先政策议程。

编者观点：对中国AI企业而言，Bengio的预警提示需在追求性能突破的同时，系统性嵌入训练过程的风险识别与干预机制，而非仅聚焦于模型输出层的安全对齐。