在复杂环境中对自主系统的伪造（即对自主系统行为的虚假操控）

《ACM Transactions on Cyber-Physical Systems》：Falsification of Autonomous Systems in Rich Environments

自主系统验证中提出元规划方法，通过封装被测系统为元系统并规划其轨迹，有效减少仿真次数，无需限制系统、规格或控制器假设，适用于高维不确定环境，实验表明其优于传统方法

　　

摘要AI 摘要

要查看此由 AI 生成的摘要，您必须具有高级访问权限。

了解更多登录

摘要

摘要

验证依赖于自动化控制器的自主网络物理系统（CPS）和人工智能（AI）代理的行为是一个非常重要的目标。近年来，神经网络（NN）控制器展现出了巨大的潜力并获得了广泛的应用。不幸的是，这些学习到的控制器往往没有经过认证，可能会导致系统出现不可预测或不安全的行为。为了解决这个问题，人们投入了大量精力进行系统的自动化验证。具体来说，“黑盒测试”类别的工作依赖于重复的系统模拟来找到一个能够证明规范错误的反例——即一个违反规范的系统运行结果。由于高保真度模拟在计算上要求很高，因此伪造方法的目标是尽量减少返回错误示例所需的模拟工作量。当被测试的控制器训练有素时，这通常是一个巨大的挑战。本文提出了一种针对在不确定环境中运行的自主系统的新颖伪造方法。我们特别关注在丰富、语义明确的开放环境中运行的 CPS，这些环境会产生高维的、依赖于模拟的传感器观测数据作为控制器的输入。我们的方法将伪造问题重新表述为为“元系统”规划轨迹的问题，该元系统包裹并封装了被测试的系统；我们称这种方法为“元规划”。与串行输入采样相比，这种方法可以测试更少的输入，同时对系统的假设最小化，并且不对规范、环境或控制器施加任何限制，控制器被视为一个黑盒。该方法还避免了冗余计算，每次迭代时仅对自主系统的轨迹进行增量更新，使用部分模拟。这种表述可以使用标准的基于采样的运动规划技术（如 RRT）来解决，可以根据可用性逐步整合领域知识来改进搜索过程，甚至可以在完全没有领域知识的情况下工作。我们通过一个关于使用神经网络控制器的避障自主汽车的伪造实验研究来支持这些想法，在该研究中，元规划的表现优于其他方法。

AI 摘要

AI 生成的摘要（实验性）

此摘要是使用自动化工具生成的，并非由文章作者撰写或审核。它旨在帮助发现、评估相关性，并帮助来自相关研究领域的读者理解本文的工作。它旨在补充作者提供的摘要，后者仍然是论文的官方摘要。完整文章才是权威版本。点击此处了解更多。

点击 此处 对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。

要查看此由 AI 生成的通俗语言摘要，您必须具有高级访问权限。