Measuring How Students Rely on Generative AI in Academic Writing: Development and Multi-Source Validation of the Generative AI Reliance Types Scale (GenAI-RTS)
本研究介绍了20项目生成式人工智能依赖类型量表(GenAI-RTS)的开发与多源验证,该量表是一种具有心理测量学效度的工具,能够识别本科生中四种不同的依赖剖面,并证明了在不同学生人口统计特征中的测量不变性。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,教室就像一个巨大且繁忙的工作坊,学生们正在用文字构建复杂的结构。几十年来,他们仅有的工具是铅笔、橡皮擦和自己的大脑。然后,一个极其快速且话痨的新型机器人助手来到了这里。这个被称为生成式人工智能(或 GenAI)的机器人可以瞬间写出句子、修正语法,甚至构思创意。突然之间,工作坊里的几乎每个人都在使用它。
过去的大问题很简单:“你在用机器人吗?”但现在几乎每个人都在用,问这个问题就像在问:“你在呼吸吗?”这并不能告诉我们关于学生究竟是如何学习的任何信息。真正的谜团在于:他们是如何使用的? 他们是建筑大师,利用机器人来测试想法并润色蓝图?还是成为了梦游者,任由机器人在旁边盖好整座房子,而他们只是在一旁观看?这篇论文旨在建立一把新的“尺子”,用来精确测量学生是如何依赖这个数字助手的,因为使用方式的不同,决定了他们是在真正学习,还是仅仅在完成任务。
用于机器人助手的“新尺子”
来看看 GenAI-RTS。把它想象成一个由研究人员设计的特殊 20 题测验,旨在捕捉学生在撰写论文时依赖 AI 的情况。在这项研究之前,我们并没有好的方法来区分一个学生是将 AI 作为智能工具使用,还是将其作为拐杖。马里兰大学和纽约州立大学布法罗分校的研究人员想要构建一把尺子,来测量四种不同的 AI 使用“人格”:
- 策略家 (The Strategist): 那些计划周密、会检查机器人工作成果,并且只在符合其计划时才使用机器人的学生。
- 工具使用者 (The Tool-User): 那些利用机器人处理快速、浅层任务(如修复拼写错误或改写句子)的学生,但核心思考过程由自己完成。
- 依赖者 (The Dependent): 那些把整个工作交给机器人,不加质疑地接受机器人所说的一切,而不去追问“这是否真实?”的学生。
- 对话者 (The Conversationalist): 那些把机器人当作辩论伙伴,通过思想碰撞来共同构建新事物的学生。
伟大的侦探工作
为了制造这把尺子,研究人员并没有凭空猜测。他们从理论出发,就像建筑师在铺设第一块砖之前先画蓝图一样。他们根据人类的学习和思考方式编写了 25 个问题,并请 382 名大学生填写了这份调查问卷。他们还与 14 名学生进行了深度访谈,以观察这些问题对真实的人类是否有意义。
以下是他们的发现,这比简单的“好与坏”清单要复杂得多:
1. “策略家”实际上是两种不同的东西。
研究人员原以为“策略性”依赖是一个大类别。但数据表明,它实际上是两个并不总是同步的独立技能。有些学生擅长批判性评估(检查机器人是否在撒谎或犯错),但他们不一定擅长刻意使用(提前计划何时以及如何使用机器人)。这就像拥有一个优秀的保安,却缺乏一名优秀的交通规划师。最终,这把尺子的最佳模型实际上拥有五个部分,而不是最初的四个,从而将这两项技能分离开来。
2. “工具使用者”和“对话者”虽然看起来相似,但其实不同。
这两类人群都会频繁与机器人交流。但研究证明,他们做的事情截然不同。工具使用者只是试图润色一个句子,而对话者则是利用机器人来探索新的想法。尽管他们经常在两项指标上得分都很高,但这把尺子可以将他们区分开来,而且他们的写作产出也确实不同。
3. “依赖者”群体很微妙。
研究发现,那些承认自己是“依赖者”(让机器人完成所有工作)的学生,往往在描述时使用的是过去时,即他们过去这样做,而不是现在。这表明当学生填写调查问卷时,他们可能会因为感到愧疚而隐瞒真实的习惯。这把尺子可能会低估实际过度依赖机器人的学生人数。
4. 这把尺子适用于所有人(基本而言)。
最令人兴奋的发现之一是,这把尺子对不同群体的人都适用。无论学生是男性还是女性,是第一代大学生还是非第一代,或者是学习科学(STEM)还是艺术,这些问题的含义对他们来说都是一样的。这是一个重大突破,因为这意味着我们可以公平地比较不同群体的学生如何使用 AI,而不会产生偏差。
5. 尺子需要一点微调。
研究人员注意到,调查中的 7 分制量表(1 代表“非常不同意”,7 代表“非常同意”)有点令人困惑。学生们经常跳过中间选项(“稍微不同意”),直接选择“不同意”。这就像是一个刻度线过于细碎、没人能读懂的温度计。研究建议使用 5 分制量表会更加清晰,也更容易让学生使用。
这对未来意味着什么
这篇论文并不是要我们禁止机器人,或者强迫每个人都必须手写。相反,它给了教师和研究人员一种更好的方式,去理解 AI 使用背后的“故事”。
如果一个学生是“策略家”,他们很可能正在进行大量的学习,因为他们掌控着全局。如果他们是“依赖者”,他们可能需要学习如何重新学会独立思考。最重要的启示是,如何使用机器人比是否使用机器人更重要。
研究人员谨慎地指出,这把尺子是为了帮助学生学习,而不是为了抓捕作弊者。它是一个用于识别哪些学生需要更多关于“如何成为聪明的使用者”之辅导的工具,而不是惩罚他们的工具。通过了解这些不同的“依赖类型”,学校可以教导学生成为自己写作的主人,将机器人视为得力的助手,而非大脑的替代品。
简而言之,这项研究构建了一张更准确的 AI 版图。它向我们展示了,虽然机器人无处不在,但学生穿行于这个世界的路径各不相同——而现在,我们终于有了一枚指南针,可以帮助他们找到最佳路径。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。