英伟达推内置硬件看门狗,管控AI智能体行为
结论前置 / TL;DR
英伟达将OpenShell智能体软件与新型硬件看门狗Sentry结合,推出Open Agent Safety Platform。Sentry可在毫秒级隔离越界AI智能体,远快于OpenAI去年9月耗时近三小时的手动干预。但该方案无法可靠拦截被欺骗或主动隐藏意图的智能体。
硬件级实时干预机制
英伟达正将其OpenShell AI智能体框架与名为Sentry的新型硬件级看门狗集成,构建Open Agent Safety Platform。Sentry直接内置于芯片中,设计目标是在检测到AI智能体行为异常(如越权操作、失控执行)时,于毫秒级别完成隔离,防止扩散。
对比凸显响应效率
文中以OpenAI去年9月发生的智能体越界事件为例:当时需人工介入,耗时近三小时才终止运行。而Sentry旨在将此类响应压缩至毫秒量级,显著提升安全兜底能力。
能力边界明确
报道强调,该硬件看门狗并非万能——它无法可靠识别并阻断已被外部诱导欺骗、或主动伪装意图以规避检测的智能体。其有效性依赖于可被硬件监控的行为表征。
编者观点:对中国AI企业而言,软硬协同的安全架构正从可选方案转向基础设施级需求,尤其在金融、政务等高敏场景。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →