自动驾驶汽车的整合有望为城市交通带来诸多好处，包括提高安全性、减少交通拥堵和增强可达性。自动驾驶汽车还使驾驶员能够从事与驾驶无关的任务（NDRT），例如在途中放松、工作或观看多媒体。
图片来源：GIST
然而，乘客的信任度有限阻碍了自动驾驶汽车的广泛采用。为了解决这个问题，自动驾驶汽车决策的解释可以通过提供控制和减少负面体验来增进信任。这些解释必须信息丰富、易于理解且简洁明了才能有效。
现有的可解释人工智能（XAI）方法主要迎合开发人员的需求，侧重于高风险场景或全面解释，可能不适合乘客。为了填补这一空白，以乘客为中心的XAI模型需要了解真实驾驶场景中所需信息的类型和时间。
据外媒报道，为了解决这一空白，由韩国光州科学技术研究所（GIST）的SeungJun Kim教授领导的研究小组调查了真实道路条件下自动驾驶汽车乘客需求的解释。然后，他们引入了一个名为TimelyTale的多模式数据集，其中包括乘客特定的传感器数据，以便提供及时和与上下文相关的解释。
“我们的研究将自动驾驶中XAI的重点从开发人员转移到乘客身上。我们开发了一种收集乘客对车内解释的实际需求的方法，以及为乘客生成及时、与情况相关的解释的方法，”Kim教授解释道。
研究人员首先利用增强现实技术研究了各种视觉解释类型（包括感知、注意力以及两者的结合）及其时机对真实驾驶条件下乘客体验的影响。他们发现，车辆的感知状态本身就提高了信任度、感知安全性和情境意识，而不会让乘客感到不知所措。他们还发现，交通风险概率对于决定何时提供解释最有效，尤其是当乘客感到信息过载时。
基于这些发现，研究人员开发了TimelyTale数据集。这种方法包括外感受（描述外部环境，如视觉、声音等）、本体感受（描述身体的位置和运动）和内感受（描述身体的感觉，如疼痛等）数据，这些数据是从自然驾驶场景中的乘客使用各种传感器收集的，是预测解释需求的关键特征。
值得注意的是，这项研究还采用了可中断性的概念，即乘客的注意力从NDRT转移到与驾驶相关的信息。该方法有效地确定了乘客要求解释的时间和频率，以及乘客在驾驶情况下想要的具体解释。
利用这种方法，研究人员开发了一个机器学习模型，可以预测提供解释的最佳时间。此外，作为概念验证，研究人员进行了全市建模，以根据不同的驾驶位置生成文本解释。
Kim教授表示：“我们的研究为提高自动驾驶汽车的接受度和采用度奠定了基础，有可能在未来几年重塑城市交通和个人出行。”
