iMIA：在不确定且相互依赖的人工智能系统中评估任务风险

《ACM Transactions on Intelligent Systems and Technology》：iMIA: Assessing Mission Risk in Uncertain, Interdependent AI Systems

iMIA是面向AI驱动的动态任务系统的评估框架，整合主观逻辑与超博弈论处理环境不确定性和多方博弈，通过节点网络建模和量化指标（安全/信任/韧性/敏捷性）优化任务效果，在V2I场景中使攻击成功率降低14%-20%。

　　

摘要AI摘要

摘要

摘要

任务影响评估（MIA）对于提高系统效能和确保任务成功至关重要。本文介绍了iMIA，这是一个相互依赖的MIA框架，能够模拟任务组件之间的关系，并在不确定性下进行概率推理。该框架专为在动态、数据量少或观测困难的环境中运行的AI驱动任务系统设计，解决了传统方法经常依赖于对对手行为过度自信假设的局限性。虽然传统的超博弈论（HGT）能够捕捉到由于信息不对称或不准确而产生的感知不确定性，但它忽略了由于知识有限而产生的认知不确定性。为了弥合这一差距，我们引入了一种基于主观逻辑（SL）的混合HGT模型（SLHG），将主观逻辑用于表示认知不确定性，同时利用HGT来解释误解。这种整合支持在策略信念不确定和环境观点不同的情况下做出明智的决策。iMIA使用多维系统质量指标（包括安全性、信任度、弹性和敏捷性）来评估任务影响，涵盖了多种攻击者-防御者互动场景。它识别出影响任务结果的关键节点，并量化了通过增强资产能力和缓解资产脆弱性所带来的性能提升。应用于车辆辅助的AI驱动任务系统后，iMIA在$ASR$方面的性能提高了16%，在$MTF$方面提高了20%，在$TSA$方面提高了11%，在$P_{ACC}$方面提高了14%。iMIA支持增量开发，能够进行持续反馈和迭代优化。我们的结果显示，基于反馈的调整可将整体系统性能提高多达18%。

AI摘要

AI生成的摘要（实验性）

此摘要是使用自动化工具生成的，未经过文章作者的撰写或审核。它旨在帮助读者发现研究内容、评估其相关性，并帮助来自相关研究领域的读者理解本文的工作。它是对作者提供的摘要的补充，作者提供的摘要仍是文章的官方总结。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。

AI生成的摘要

该摘要由基于已发表文章文本的自动化系统生成。

版本创建于2026年1月12日。

本研究提出了iMIA，这是一个先进的任务影响评估框架，专为在不确定性和复杂相互依赖关系下运行的AI驱动任务系统设计。iMIA结合了主观逻辑（SL）和超博弈论（HGT），共同建模了由于信息有限而产生的认知不确定性和由于攻击者与防御者之间的信息不对称而导致的感知不确定性。这种基于主观逻辑的混合超博弈方法比传统方法更能适应性地、更真实地推理对手行为，因为传统方法通常假设能够完全观测到情况，并忽略了不确定或稀疏的数据。

该框架将任务组件建模为一个由相互依赖的节点组成的网络，包括资产、服务和任务。它使用主观贝叶斯网络（SBNs）来捕捉二阶不确定性，允许进行概率推理，从而考虑了对任务状态的信念、怀疑和不确定性。这通过明确处理不完整证据并在可用时结合专家先验知识，提高了推理的准确性。

iMIA支持带有持续反馈循环的增量开发过程，随着新数据或事件的出现，可以迭代优化任务模型。该框架包含了一整套任务性能指标（包括安全性、信任度、弹性和敏捷性），用于评估在不同攻击者-防御者策略下的系统效能。它识别出对任务结果有重大影响的关键节点，指导有针对性的资产能力增强或脆弱性缓解措施。

该框架应用于车辆对基础设施（V2I）任务，涉及交通标志分类模型的联合学习。它通过修改后的网络杀伤链来模拟对手战术，并利用基于SL的超博弈效用进行战略决策来保护任务系统。仿真结果表明，结合认知不确定性和感知不对称性可以提高系统的鲁棒性，降低攻击成功率，增加平均故障间隔时间、服务可用性和分类准确性，相比基线方法有所提升。

该研究还使用标准化仓库和攻防映射详细建模了脆弱性。资产的能力通过考虑CPU和内存负载来量化，妥协的影响会通过网络传播并影响任务任务。推理引擎利用随机模拟和决策树算法进行高效推理，尽管算法复杂度较高。

未来的工作包括将iMIA扩展到具有复杂网络物理交互的其他领域，并结合真实世界数据进行实证验证。尽管在可扩展性和量化未知脆弱性方面仍存在挑战，但iMIA为在不确定性下评估任务风险奠定了坚实的基础，并为不断发展的、相互依赖的AI系统提供了适应性防御策略。

此内容由AI生成。了解更多