Human-in-the-loop GenAI advising for community college pathway decision-making: a design-based case study of requirement-group modeling and privacy-preserving student-support design
本项基于设计的案例研究针对生成式人工智能（GenAI）在社区学院咨询研究方面的空白，通过提出一个隐私保护框架和八项设计原则，将人工智能定位为路径规划的解释层，从而在保持人类监督、保护学生数据并培养学习者自主权的同时，填补该领域的研究空白。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
不开车的 GPS
想象一下，你正试图在一个巨大的、扩张的城市中导航，而街道在你眨眼之间就会发生变化。有些路是单行道，有些只在周二开放，有些则是只要你知道正确的秘密代码就会变成高速公路的建议。这正是社区学院学生在进行学业规划时的真实感受。他们不仅仅是在选课；他们是在试图穿越由要求、转学规则和未来职业目标构成的迷宫，绘制一张地图。长期以来，研究人员一直在教计算机如何帮助学生写论文或解数学题，但他们并没有对学校中的这种“导航”部分给予太多关注。
迎来的是 生成式人工智能（GenAI）。可以将它想象成一个超级聪明、爱聊天的机器人，它能阅读数百万本书并在几秒钟内写出一个故事。它擅长解释事物，但如果你不小心，它也可能会出错或编造事实。然后是 人机协同（Human-in-the-Loop），这只是一个高级说法，意思就是“机器人提供帮助，但由人类做出最终决定”。最后，隐私（Privacy）是一项规则，规定机器人不得为了给你建议而窥探你的私人日记（你的个人成绩和记录）。这篇论文提出了一个大问题：如果我们想用这个超级聪明的机器人来帮助学生规划大学路径，我们该如何确保它不会迷路、不会侵犯隐私，并且不会不小心把学生带下悬崖？
制图者的困境
本研究的作者，来自印第安纳州艾维科技社区学院（Ivy Tech Community College of Indiana）的 Emery Peck，决定构建一个原型——一个工具的测试版本——来看看我们是否可以使用 GenAI 来帮助学生规划他们的大学旅程，而不让机器人夺取方向盘。这项研究并不是通过在真实学生身上测试该工具来观察他们的成绩是否提高；相反，它研究了该工具的蓝图、设计笔记和背后的逻辑，以确定如何构建它。
主要的发现是，你不能把大学学位当作一份简单的购物清单。如果你只是做一个“买牛奶、买鸡蛋、买面包”的清单，你就忽略了你可以买杏仁奶而不是牛奶，或者你虽然需要三个鸡蛋但盒子里只剩两个的事实。论文指出，大学要求更像是灵活的构建模块，而不是僵化的清单。有些模块是固定的（你必须修一门数学课），但另一些则是“选择你自己的冒险”风格（从这组历史课中任选三门）。研究发现，如果你试图将这些灵活的模块强行塞进一个扁平、枯燥的列表中，AI 就会感到困惑，并可能告诉学生他们缺少一门实际上并不需要的课程。
智能顾问机器人的八条规则
基于他们原型的设计，作者提出了构建这些 AI 顾问的八条“道路规则”。以下是他们的发现，用简单的语言解释如下：
不要使用扁平的清单；要使用灵活的组。
想象一个视频游戏，你需要收集“三件魔法物品”。一个扁平的清单会说“获得剑、获得盾牌、获得药水”。但游戏实际上允许你用盾牌换取头盔。AI 需要理解你需要的是一组物品，而不是特定的某一个。论文建议将要求建模为这些灵活的组，这样当学生选择不同的有效选项时，AI 不会惊慌失措。AI 是导游，而不是司机。
机器人应该非常擅长解释为什么某条路径可行，并向你展示你可以采取的不同路线。但它不应该是那个签字或做最终决定的人。AI 解释选项；人类顾问（或在人类帮助下的学生）做出选择。保持公共地图与私人日记分离。
这是一个重要的隐私规则。AI 可以查看公共大学目录（任何人都可以看到的内容）来解释课程是如何运作的。但它不需要查看特定学生的私人成绩或个人历史来完成这项工作。研究建议构建这样一个系统，使其能够仅使用公开信息就能提供出色的建议，从而保护学生的秘密数据安全且独立。人类必须检查重大决策。
如果 AI 建议的路径改变了学生的专业、增加了他们的成本或影响了他们转学到其他学校的能力，那么真实的人类顾问必须进行审核。机器人可以建议，但人类必须批准。帮助学生学会自己驾驶。
目标不仅仅是告诉学生“向左转”。而是要帮助他们理解为什么向左转比向右转更好，从而让他们学会如何为自己进行规划。该工具应该帮助学生看到权衡，并学习如何管理自己的旅程。不要使用可怕的“风险”词汇。
与其告诉学生他们“处于风险中”或“正在失败”，不如使用关于“保持动力”或“寻找新路径”的语言。研究发现，使用积极、非评判性的语言有助于学生感到自己掌控着局面，而不是被监视。展示模糊地带。
有时，大学规则很令人困惑，或者写法不够清晰。一个好的 AI 不应该在不知道答案时假装知道。它应该说：“这部分有点不明确，所以让我们请人类来核实一下。”承认不确定性比自信地给出错误答案要好。工作很重要，但它们不是唯一目标。
AI 可以帮助学生了解一门课如何帮助他们获得工作，但不应仅仅因为就业市场火热就强迫他们进入某个职业。学生可能有其他的梦想，比如转入大学或探索新的兴趣，AI 需要尊重这一点。
这对未来意味着什么
这篇论文并不是声称这个工具已经拯救了成千上万的学生，也不是说它已经完美无缺。这是一项设计研究，这意味着它是一套关于如何构建一个运行良好的事物的指令集，而不是一份关于成品运行效果的报告。作者建议，如果学院想要使用 AI 进行咨询，他们需要从这些规则开始：保持数据私密，让保持人类的主导地位，并确保 AI 理解大学路径是灵活的而非僵化的。
通过遵循这些规则，我们或许能够构建出一个 AI 顾问，它感觉不像是一个严厉的机器人老师，而更像是一个知识渊博、乐于助人的朋友，他了解地图，但让你决定去向何方。这是一种在使用酷炫新技术的同时，又不丢失使教育发挥作用的人文关怀的方式。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。