《Expert Systems with Applications》：Assessing Stakeholder Perspectives on the Explainability of AI Solutions for Smart Production Planning with Just-In-Time Logistics
编辑推荐：
为解决生产规划中AI决策缺乏透明度导致的信任与采纳难题，研究人员针对智能生产规划与及时物流场景，开展了一项关于利益相关者对AI解决方案可解释性需求的案例研究。通过问卷调查11名生产规划师，研究得出结论：利益相关者普遍需要适度且用户友好的解释性优化(XAI)来建立信任，他们关注解决方案的合理性而非算法细节。该研究强调了在工业5.0背景下，实现可解释优化对于AI辅助系统成功落地至关重要。
在当前制造业向智能化转型的浪潮中，人工智能(AI)系统，特别是基于进化计算(EC)等技术的智能体，正被寄予厚望，用于解决复杂的生产规划与调度难题，例如应对及时(Just-In-Time)物流扰动。然而，一个核心的“黑箱”困境横亘在技术潜力与现实应用之间：当AI给出一个复杂的排产方案时，人类规划师往往一头雾水。他们不理解AI为何做出这样的推荐，尤其是在涉及大量软硬约束、决策失误可能导致严重生产中断或经济损失的高风险场景下。这种不透明性直接侵蚀了人类对AI的信任，使得许多先进技术难以被一线工作者真正接受和使用，最终可能阻碍智能生产系统发挥其全部价值。
那么，生产规划的实际执行者——那些每天与生产计划打交道、却不一定具备深厚AI技术背景的规划师们——究竟需要怎样的解释，才能放心地与AI协作？他们是想深入了解进化算法的每一步迭代，还是只关心最终方案为何优于其他选项？为了回答这些至关重要却长期缺乏实证研究的问题，一篇发表在《Expert Systems with Applications》上的研究论文《Assessing Stakeholder Perspectives on the Explainability of AI Solutions for Smart Production Planning with Just-In-Time Logistics》开展了一项深入的探索性案例研究。研究人员没有停留在理论探讨，而是直接走进一家大型跨国制造企业的德国工厂，对全部11名生产规划师进行了详尽的问卷调查，旨在从真实用户的视角，厘清他们对AI辅助系统的需求、信任边界以及对解释性AI(XAI)的具体期望。
为了开展这项研究，研究人员主要采用了以下几种关键方法：
- 1.
问卷调查法：研究核心是基于一份包含31个问题的结构化问卷，内容涵盖对AI的总体态度、两个具体生产规划场景（Scenario A: 物流扰动后的计划修复；Scenario B: 日常冻结区生产计划制定）下的信任与解释需求、偏好的信息呈现形式等。问题类型包括单项选择、多项选择和Likert量表题。
- 2.
案例研究与利益相关者分析：研究选择了一家真实大型制造企业的生产规划团队作为案例，所有11名在职规划师均参与调查，确保了样本覆盖了该部门的主要人员，并代表了不同的年龄和经验水平。
- 3.
数据分析技术：对问卷结果进行了多维度分析。使用了基于Gower距离的系统聚类分析来探索回答模式的相似性，并辅以k-Means聚类（k=3）和主成分分析(PCA)进行可视化降维和分组验证。同时，利用Kendall‘s τ相关系数分析了不同问题答案之间的关联性，以揭示潜在的态度模式。
研究结果揭示了来自生产规划一线的宝贵洞察：
1. 对AI辅助的普遍接受与解释需求的明确性
所有参与者都认为AI在未来能提供有效协助，其中9人认为其能在多项任务中提供帮助。然而，信任并非无条件的。在Scenario A（紧急修复）中，有6名规划师表示，若AI不提供额外信息，他们将不信任新计划。在Scenario B（日常计划）中，这一人数上升至8人。这清楚地表明，无论场景如何，提供解释是获得用户信任的必要非充分条件。
2. 解释内容的“适度性”原则：要结果，轻过程
参与者并不要求一个完全透明的“白盒”模型。他们的一致共识是：一个对解决方案的描述及其在相关目标（指标、KPI）上的良好评级，通常就足够了。具体而言：
- •
对解决方案本身的解释：用户高度关注为何选择某个方案，包括其满足的（硬/软）约束、可能违反某些约束但仍被选中的理由等。
- •
对优化过程的有限关注：用户对算法内部运作细节（如每一步的详细过程）兴趣有限。他们更希望了解收敛情况（解决方案是在搜索早期还是晚期发现的）和搜索空间覆盖度（为何只能探索部分解空间）。大多数参与者希望这些关于过程的信息能以简短的工具提示形式呈现，而非冗长报告。
- •
信息呈现形式的偏好：对于补充信息或解释的呈现，表格形式最受欢迎（8人选择），其次是要点列表（5人），最后是图表（2人）。这提示了清晰、结构化的数据展示的重要性。
3. 信任建立与过往表现
研究询问了如果AI在过去表现良好，用户是否会信任其执行任务。对于Scenario A，没有参与者直接回答“是”，7人要求在未来除了方案描述外，还需增加对寻找过程的解释。而对于Scenario B，所有参与者都表示，只要AI能描述解决方案及其产生过程，他们就愿意基于其过往良好表现给予信任。这表明在更复杂、常规的任务中，可解释性与可靠性记录的结合是建立长期信任的关键。
4. 个体安全与组织竞争力的认知分离
一个有趣的发现是个人职业安全感与对公司竞争力认知的分离。虽然有5名参与者认为自己的职位可能在未来受到AI威胁（其中3人认为威胁迫在眉睫），但所有参与者都一致认为，引入AI系统将为工厂所在地带来竞争优势，有助于保障其长期生存。他们认为，人类在监督、处理系统未知知识以及应对人口结构变化导致的劳动力短缺方面，依然不可或缺。
5. 用户群体的异同分析
通过聚类和相关分析发现，回答模式存在一定的群体差异。例如，最新手的员工在回答上更相似。然而，管理者普遍持有的“年长员工更怀疑、年轻员工更盲信”的假设并未得到证实。分析还显示，那些表示“在遇到困难时会向AI寻求帮助”的用户，通常不会“在任何情况下都考虑使用AI建议”。这些发现强调了用户需求并非铁板一块，用户界面设计需要具备一定的灵活性以适应不同偏好，但总体趋势和核心需求是明确的。
研究结论与意义
本研究通过实证调查明确指出，在面向智能生产的AI（特别是基于进化计算的优化器）辅助系统中，实现解决方案的可解释性是获得用户采纳的硬性要求。生产规划师们需要一种以用户为中心、适度而非过度的解释性优化(XAI)设计。他们不需要算法内部每一步的详尽解释，但迫切需要理解“为什么推荐这个方案”以及“这个方案在关键指标上表现如何”。此外，关于搜索过程是否充分、是否可能通过增加计算资源获得更好解的信息，对他们做出最终决策也至关重要。
这项研究的意义在于，它填补了当前可解释性研究的一个关键空白：聚焦于非技术背景的真实工业用户对优化过程（而非仅仅是机器学习模型）的可解释性需求。现有的大多数XAI研究集中于机器学习领域，其方法（如SHAP）对于生产规划师而言往往过于复杂且难以直接应用于优化问题。本研究的结果为优化算法的设计者划定了清晰的界限：无需追求完全透明的“白盒”，但必须提供足以支撑人类决策者信心和理解的关键洞察。这为未来开发真正实用、可被工业界接受的“可解释优化”系统指明了方向——即开发易于非专家理解的、专注于结果解释和关键过程指标（如收敛性）的可视化与交互工具。
论文最后呼吁，将可解释性整合到优化器中，不仅能改善用户体验，更能显著提高先进优化技术在真实工业场景中的采纳可能性。迈向工业5.0，让人与智能系统实现高效、可信的协作，解开AI决策的“黑箱”，是至关重要的一步。
