Anthropic CEO称AI安全取决于理解其'思维'
结论前置 / TL;DR
Anthropic首席执行官指出，确保AI安全的关键在于深入理解其内部推理过程。然而，当前相关研究揭示的现象令人不安，暗示行业可能已具备暂停训练更强大模型的科学依据。
安全依赖可解释性
Anthropic CEO强调，AI安全性根本上取决于人类能否真正理解模型的‘思考’机制。目前多项内部研究表明，模型的推理路径存在不可预测性与不透明性，相关证据令人忧虑。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(WIRED) →