iMIA：在不确定且相互依赖的人工智能系统中评估任务风险

《ACM Transactions on Intelligent Systems and Technology》：iMIA: Assessing Mission Risk in Uncertain, Interdependent AI Systems

任务影响评估（MIA）框架iMIA通过整合主观逻辑与博弈论，提升动态低数据环境下AI任务系统的决策能力，量化安全、信任、韧性和敏捷性指标，在车辆辅助任务中实现16%-20%的性能增益，支持持续反馈优化。

　　

摘要 概述

要查看此由AI生成的摘要，您必须具有高级访问权限。

了解更多 登录

摘要

摘要

任务影响评估（Mission Impact Assessment, MIA）对于提高系统效能和确保任务成功至关重要。本文介绍了iMIA，这是一个相互依赖的MIA框架，它能够模拟任务各组成部分之间的关系，并在不确定性条件下进行概率推理。该框架专为在动态、数据量少或观测困难的环境中运行的AI驱动任务系统设计，解决了传统方法常常依赖于对对手行为过度自信假设的局限性。虽然传统的超博弈论（Hypergame Theory, HGT）能够捕捉到来自不对称或不准确信息的感知不确定性，但它忽略了由于知识有限而产生的认知不确定性。为了解决这一难题，我们引入了一种基于主观逻辑（Subjective Logic, SL）和超博弈论的混合模型（SLHG），该模型结合了主观逻辑来表示认知不确定性，并利用超博弈论来解释误解。这种集成支持在策略信念不确定和环境观点存在分歧的情况下做出明智的决策。iMIA通过多维系统质量指标（包括安全性、可靠性、敏捷性等）来评估任务影响，涵盖了多种攻击者-防御者互动场景。它能够识别影响任务结果的关键节点，并量化通过增强资产能力和降低资产脆弱性所带来的性能提升。应用于基于车辆的AI任务系统后，iMIA在$A\mathrm{辅助}\mathrm{系统}$$(AS)$方面的性能提升了16%，在$\mathrm{任务}$ (MT)$方面提升了20\%，在$ \mathrm{任务管理}$$ (TM)$方面提升了11\%，在$ 任务协调$$ (MC)$方面提升了14\%。由于$iMIA支持持续反馈和迭代改进，我们的结果显示，基于反馈的调整可使系统整体性能在准确性方面提升高达18%。

概述

要查看此由AI生成的通俗语言摘要，您必须具有高级访问权限。