《Computers and Education: Artificial Intelligence》：Value-Sensitive Design in Action: Designing Student-Centered Intelligent Tutoring Systems with Community College Students and Instructors
编辑推荐：
本文聚焦教育AI伦理的兴起，探讨如何通过价值敏感设计（VSD）框架，设计以人为本的智能辅导系统（ITS）。研究与美国东北部一所社区学院的师生及领域专家合作，通过系列活动，产出了16项融合人在回路、可解释AI和隐私控制的原型设计，强调ITS应以学生为中心。研究揭示了过往学习平台设计对师生价值的忽视，并展示了VSD如何将学生中心视角融入ITS，以增强信任、隐私和能动性。这项研究为设计更合乎伦理、有效且以学生为中心的教育技术提供了实践视角。
在教育技术的浪潮中，智能辅导系统（Intelligent Tutoring System， ITS）正被广泛应用于从基础教育到高等教育的各个阶段。它们承诺提供定制化、互动式的学习体验，符合当今教育改革中个性化学习的宏大目标。然而，这些由算法驱动的学习平台也带来了不容忽视的伦理挑战：潜在的监控风险、自动化评估中的偏见，以及最关键的——学习者自主性的削弱。在许多教育场景中，学生们使用着被学校或课程选定的学习软件，他们通常对背后运行的人工智能（Artificial Intelligence， AI）过程既缺乏清晰的理解，也几乎没有控制权。这种“黑箱”操作不仅可能损害学生的信任，还可能让学习过程变得被动而疏离。
面对这些挑战，研究人员开始思考：如何才能确保像自主、公平、透明和信任这样的人类价值，被有意义地融入到教育软件中？尤其是在社区学院的发展性数学课程这类关键的学习场景中，学生们需要依赖ITS（如广泛使用的ALEKS系统）来完成学业并进阶到大学水平的课程，他们的学习体验和成功至关重要。然而，现有的ITS往往缺乏以人为本的设计特征。
为此，一项发表在《Computers and Education: Artificial Intelligence》上的研究，采用了一个名为“价值敏感设计”（Value Sensitive Design， VSD）的成熟框架，试图系统地解决这一问题。VSD并非简单的技术优化，而是一个将概念、实证和技术调查相结合的综合性方法论，旨在在整个技术设计与开发过程中，周全地考虑人类价值。在这项研究中，研究人员走进美国东北部一所大都市社区学院的发展性数学课堂，与长期使用ALEKS系统的7名学生、4名教师，以及包括教学设计师、用户体验设计师、软件开发者、数据科学家和AI伦理研究员在内的5名领域专家展开了深入合作。他们的目标是探索如何通过VSD，将人类价值整合到利用AI的教育技术中，设计出更符合学生需求、更合乎伦理的智能辅导系统。
研究采用的关键技术方法
本研究严格遵循价值敏感设计框架，融合了概念、实证和技术三类调查，并通过七个迭代步骤展开。具体方法包括：1) 利益相关者识别与AI伦理框架分析：通过文献综述，识别出适用于ITS设计的核心人类价值（如信任、自主性、隐私）。2) 实证访谈与主题编码：对社区学院的师生进行半结构化访谈，运用主题编码分析其在使用现有ITS过程中的痛点、需求以及价值冲突。3) 产业指南分析：梳理谷歌、苹果等公司发布的人本AI设计指南，提取可解释AI、人在回路等具体技术元素。4) 亲和图法原型设计：将前期发现的痛点、需求、价值和产业技术元素通过在线便利贴进行亲和图分析，组合并设计出低保真原型。5) 参与式快速约会评估：向师生展示初始原型设计，采用“快速约会”技术收集其即时反馈、评价和建议。6) 专家可行性评估：分别咨询AI伦理、教学设计、数据科学、软件开发和用户体验领域的专家，评估原型的技术可行性与伦理契合度。7) 迭代整合与最终设计：综合所有步骤的发现，通过第二轮亲和图法，迭代并产生最终的16项高价值原型设计。
研究结果
4.1 步骤1：概念调查1——利益相关者识别
研究确定了直接利益相关者（7名学生、4名教师）和间接利益相关者（5名领域专家）。选择标准基于其与ITS的深度、长期互动经验，以确保能捕捉真实的、与价值相关的使用体验。
4.2 步骤2：概念调查2——AI伦理框架分析
通过对VSD文献、人类价值清单及AI向善（AI for Social Good）框架的分析，识别出与ITS设计直接相关的核心价值，如信任、自主性、隐私、责任感、能力等，并为不同利益相关者群体（学生、教师、专业人士）映射了可能关联的价值。
4.3 步骤3：实证调查1——师生访谈以理解目标学生
通过对师生的访谈分析，识别出14个痛点（如缺乏对学习路径的控制、不理解概念间的联系）和7项需求（如对帮助类型的控制、提升学习能动性）。价值分析显示，“信任”是最突出的价值，但也存在“学生能动性与ALEKS背后学习科学所带来的有效性”之间的主要价值张力。
4.4 步骤4：技术调查1——从产业指南中识别人本AI特征
通过分析谷歌、苹果等公司的人本AI设计指南，提炼出七大可用于支持已识别价值的技术元素，包括：最大化AI的教育价值、隐私、可解释性、揭示置信度、心智模型、来自用户反馈和控制的能动性，以及提供多种选项的策略。
4.5 步骤5：技术调查2——低保真原型初始设计
运用亲和图法，将步骤1至4的发现（痛点、需求、价值、技术元素）进行组合，形成了8个初始原型设计。例如，设计了“揭示ITS置信度”的界面，旨在通过可解释AI来增强透明度与信任。
4.6 步骤6：实证调查2——来自师生访谈的设计洞见
使用“参与式快速约会”方法向师生展示初始原型并收集反馈。分析反馈后，形成了关于可解释AI设计、人在回路设计、隐私设计和通用设计的数十项具体洞见。例如，学生强烈希望获得对复习环节的控制权，并偏好AI发出协作性、友好语气的消息。同时，也暴露了关键的价值张力，如“透明度与可解释性之间的冲突”（学生难以理解“AI置信度”的原始概念）以及“隐私与教学洞察之间的冲突”（情感分析功能引发争议）。
4.7 步骤7：技术调查3——专家访谈洞见
五位领域专家从各自专业角度评估了原型的可行性与伦理考量。专家们总体上确认了设计的可行性，并提供了具体优化建议。例如，AI伦理研究员建议用更人性化的语言呈现“置信度”；数据科学家对情感识别等技术可行性提出关切；UX设计师强调了简洁消息和视觉一致性的重要性。
4.8 步骤8：技术调查4——最终设计
综合所有步骤的洞见，特别是步骤6和7的反馈，通过第二轮亲和图法进行迭代，最终产生了16项设计，分为三大类人本AI特征：
- 1.
可解释AI（Explainable AI， XAI）特征：旨在增强学生对ITS功能及其自身学习旅程的理解。例如，设计了一项功能，当学生练习分数时，ITS会解释为何选择特定题目来填补其基础知识漏洞，从而支持透明度、信任和帮助性等价值。
- 2.
人在回路（Human-in-the-loop）特征：提供更多控制权和协助选项。例如，允许学生在掌握一个主题后标记自己的信心水平，以便未来获得定制化的复习机会，这支持了自主性、责任感和能力等价值。另一项设计让学生可以告知ITS他们是否借助了外部帮助来完成题目，以提高学习路径的准确性。
- 3.
隐私控制特征：提高学生对数据使用的认识并提供控制权。例如，设计了一个界面，让学生了解其学习数据可能被如何再利用，并允许他们选择是否同意，这支持了隐私、知情同意和自尊等价值。
研究结论与意义
本研究通过系统应用价值敏感设计框架，成功地将学生、教师和领域专家的多元视角与价值整合到了智能辅导系统的重新设计中。研究揭示了传统ITS设计中对最终使用者——尤其是社区学院学生——价值的长期忽视。通过迭代式的概念、实证和技术调查，研究不仅识别出了诸如信任缺失、自主性受限和隐私困惑等核心问题，还将“人在回路”、“可解释AI”和“隐私控制”这些具体的人本AI策略，转化为16项切实可行的原型设计。
其重要意义在于：
- 1.
方法论贡献：本研究展示了VSD在教育技术设计，特别是AI驱动的学习系统设计中的有效性和实用性。它提供了一个结构化、可操作的范例，说明如何通过跨学科合作和迭代探究，将抽象的伦理价值转化为具体的技术特征。
- 2.
实践指导：产出的设计原型为教育技术开发者、教学设计者和教育机构提供了直接的参考。它们表明，智能辅导系统可以在不牺牲其个性化教学效果的前提下，通过增强透明度、赋予用户控制权和尊重隐私，变得更具伦理关怀和以学生为中心。
- 3.
理论拓展：研究将VSD的应用领域明确扩展至教育AI伦理，特别是社区学院这一服务大量非传统学生、关乎教育公平的重要场景。它强调，教育技术的“有效性”必须与“合伦理性”及“人的价值”协同考量。
- 4.
揭示价值张力：研究过程本身清晰地展现了设计过程中不可避免的价值冲突（如学生能动性与系统优化效率、隐私保护与教学支持之间的张力），并展示了如何通过设计迭代和 stakeholder 对话来协商和平衡这些张力，而非回避它们。
最终，这项研究论证了，通过像价值敏感设计这样严谨的参与式方法，我们可以创造出不仅更智能、而且更智慧、更尊重人的教育人工智能，推动技术真正服务于提升学习体验、促进信任和保障学生能动性的教育根本目标。
