Motional与MIT推出可解释自动驾驶决策系统

实时因果可解释性：破解自动驾驶黑箱

Motional与麻省理工学院（MIT）计算机科学与人工智能实验室（CSAIL）联合研发了一套新型解释系统，旨在让自动驾驶汽车在运行中实时阐明其决策逻辑，直面行业长期存在的AI‘黑箱’难题。该成果已发表于国际顶级期刊《自然》（Nature）。项目团队包括Motional首席执行官Laura Major及MIT多位研究人员。他们提出的Concept-Wrapper Network（CW-Net）并非对神经网络输出进行后处理式翻译，而是将自动驾驶系统内部计算直接映射为人类可读的概念——例如‘接近静止车辆’或‘靠近骑行者’。这些概念可实时呈现在车载仪表盘上，直观显示当前影响驾驶行为的关键因素。

区别于‘合理但未必真实’的自然语言解释

CW-Net的核心设计原则是‘因果忠实性’（causally faithful）：车辆最终的控制动作（如紧急制动）直接由这些可解释概念驱动，因此每项操作均可回溯至一个明确、可验证的概念触发源。这与生成式自然语言解释形成鲜明对比——后者虽读来通顺合理，却可能脱离模型实际运行机制，仅属事后的合理性拟合。Laura Major指出，纯端到端深度学习方案虽能达到80–95%的性能水平，但尚不足以支撑完全取消安全员，更难赢得城市管理者、社区与公众的信任。

真实道路验证：揭示隐藏缺陷

不同于多数可解释AI研究局限于仿真环境，Motional-MIT团队将CW-Net部署于真实自动驾驶车辆，在配备经验丰富的安全驾驶员前提下，于拉斯维加斯的封闭测试场及开放公共道路开展实地测试。测试基于Motional早期实验性深度学习规划系统——该系统虽表现具竞争力，但存在未被察觉的缺陷，而CW-Net成功将其显性化。两次典型事件印证其价值：其一，车辆反复在交通锥附近无故急停；移除锥体后仍停车，CW-Net界面清晰显示触发原因为‘前方存在静止车辆’——实为模型从训练数据中习得的幻觉模式。其二，车辆虽正确识别并避让骑行者，CW-Net却揭示其制动决策并未依赖骑行者检测结果，而是由安全冗余系统接管；这一发现促使安全驾驶员主动提升对骑行场景的警惕，并经后续分析证实确有必要。

可解释性不以显著性能牺牲为代价

业界普遍担忧引入可解释模块会拖慢推理速度、削弱系统性能。Motional确认该风险存在，但实测表明：CW-Net在与主流自动驾驶算法的基准对比中，驾驶能力下降幅度不足1%。拉斯维加斯的实地案例凸显这一微小代价的战略价值——当安全驾驶员能即时获知‘急停源于幻觉’或‘制动由备份系统触发’，其响应判断、故障上报与工程诊断效率将大幅提升。这种可见性，直接关系到技术迭代速度与运营信任构建。

编者观点：对中国企业的启示

随着中国L4级自动驾驶商业化进程加速，监管对算法透明度与责任追溯能力的要求正快速提升。CW-Net所代表的‘嵌入式可解释架构’路径，提示国内企业需跳出‘先追求性能、再补解释’的传统思路，将可解释性作为核心设计维度前置融入系统架构，方能在合规落地与公众信任双轨上行稳致远。