通过未来状态扰动进行现实主义对抗性攻击，以评估轨迹预测模型的鲁棒性

轨迹预测是自动驾驶系统的核心，需评估其对抗攻击下的鲁棒性。现有方法仅扰动周围车辆过去轨迹，导致场景不真实且忽略关键漏洞。本文创新性地扰动未来状态，结合动态约束和战术行为保留，提出新评估指标。测试显示该方法使预测误差和碰撞率显著上升，并暴露模型无法检测看似安全的碰撞风险，强调全面对抗测试的必要性。

　　

摘要人工智能摘要

要查看此由人工智能生成的摘要，您必须具有高级访问权限。

了解更多登录

摘要

摘要

轨迹预测是自动驾驶车辆系统的关键组成部分，它使车辆能够预测并应对其他道路使用者的行为。评估预测模型在面对对抗性攻击时的鲁棒性对于确保其在实际交通中的可靠性至关重要。然而，目前的方法往往侧重于干扰周围代理的过去位置，这可能会产生不现实的情景，并忽略关键的漏洞。在这项工作中，我们证明了不仅干扰对抗性代理的过去状态，还干扰其未来状态，可以揭示之前未被发现的弱点，从而更严格地评估模型的鲁棒性。我们的新方法结合了动态约束，并保留了战术行为，使得对抗性攻击更加有效和真实。我们引入了新的性能指标来评估这些对抗性轨迹的真实性和影响。在多个数据集上对两种最先进的预测模型进行测试后发现，在对抗性条件下，预测错误和碰撞率显著增加。定性分析进一步表明，我们的攻击可以暴露出模型的关键弱点，例如模型在看似安全的预测中无法检测到潜在的碰撞。这些结果强调了需要进行更全面的对抗性测试，以更好地评估和提高自动驾驶车辆轨迹预测模型的可靠性。

人工智能摘要

人工智能生成的摘要（实验性）

此摘要是使用自动化工具生成的，并非由文章作者撰写或审核。它旨在帮助读者发现相关信息、评估文章的相关性，并协助来自相关研究领域的读者理解本文的内容。它旨在补充作者提供的摘要，后者仍是文章的官方摘要。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。

要查看此由人工智能生成的通俗语言摘要，您必须具有高级访问权限。