20余位顶尖AI学者警告:自动化AI研究或引发智能爆炸
结论前置 / TL;DR
杰弗里·辛顿、约书亚·本吉奥及OpenAI研究主管雅库布·帕乔基等20多位AI领域权威学者联合发出警告,指出AI系统即将实现对自身研发的全面自动化,可能导致‘智能爆炸’——将数年AI进步压缩至数月。该风险被描述为极端且紧迫。
跨机构学者联合预警
包括图灵奖得主杰弗里·辛顿(Geoffrey Hinton)、约书亚·本吉奥(Yoshua Bengio)以及OpenAI研究主管雅库布·帕乔基(Jakub Pachocki)在内的20多位人工智能领域顶尖研究人员共同发出警示:当前AI发展正逼近一个临界点——AI系统将能自主执行全部AI研发任务。
‘智能爆炸’风险迫在眉睫
研究人员指出,一旦AI具备持续自我改进能力,其迭代速度将远超人类科研节奏,可能在数月内完成原本需数年才能达成的技术跃进。这种指数级加速过程被称作‘智能爆炸’(intelligence explosion),其潜在失控风险被明确界定为‘极端’(extreme)。
警示聚焦技术演进路径
该声明并非针对具体产品或政策,而是基于对AI能力演进趋势的研判,强调自动化AI研发本身构成新型系统性风险源。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →