Motional 与 MIT 发布可解释 AI 系统，让自动驾驶汽车实时解释决策

Techub News 消息，自动驾驶公司 Motional 与麻省理工学院研究人员合作，开发出一种名为概念包装网络（CW-Net）的系统，可让自动驾驶汽车实时解释其决策逻辑，旨在解决自动驾驶 AI 的“黑箱”问题。该系统将神经网络的内部计算转化为人类可读的概念，例如“接近静止车辆”或“靠近骑行者”，并显示在仪表盘上，使决策过程可追溯。 研究团队已在拉斯维加斯周边公共道路和私人测试场进行了实际部署测试。测试中，该系统成功揭示了实验性规划系统因训练数据问题而“幻觉”出前方静止车辆，以及车辆刹车实际由安全备份系统而非深度学习规划器触发等关键发现。Motional CEO Laura Major 表示，纯端到端的深度学习方案可能达到 80-95% 的准确率，但不足以赢得城市和客户的信任。（AI News）