Auditable AI Ethics in Education: Developing Measurable Competencies for Sustainable Development across K-12 and University Curricula
本研究开发并实证验证了一个“可审计人工智能伦理”能力框架，该框架将高层级的监管指令与实践性的 K-12 及大学课程相衔接，并通过一项试点项目证明，基于结果且导向行动的教学法能有效地将学生从被动的人工智能消费者转变为能够进行批判性验证、偏差缓解及法律合规的负责任创造者。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代课堂中，人工智能已从一个未来的概念转变为一种日常工具。它能帮助批改论文、建议学习路径，并根据指令生成图像或文本。然而，这种快速的整合带来了一个重大的挑战：我们如何确保这些系统是公平、安全且诚实的？核心问题在于，许多人工智能系统像“黑匣子”一样运作，其内部逻辑是隐藏的，这使得人们很难知道一项决策是否带有偏见，或者提供的信息是否真实。为了解决这个问题，教育工作者和研究人员正在超越关于对技术“保持友善”的简单规则。他们正在开发一种被称为“可审计人工智能”（auditable AI）的系统，这意味着构建能够追踪、验证并解释计算机所做出的每一项决策的学习环境。其目标不仅是教学生如何使用这些工具，还要教他们如何作为批判性的监督者，去发现错误、捕捉机器生成的谎言，并确保技术尊重人权和文化价值观。
来自圣彼得堡大学和浙江大学的研究小组致力于解决一个实际问题：如何将这些抽象的伦理概念转化为学生可以真正学习并展示的具体技能。他们创建了一个框架，用以衡量不同年龄段学生的“可审计人工智能伦理”水平。其中一组由13名12至17岁的学生组成，他们从事利用生成式人工智能进行视觉艺术创作的工作；另一组则包括就读于应用信息学专业的大学三年级学生，他们的任务是构建能够连接俄罗斯与中国文化的网络资源。在为期四个月的时间里，研究人员观察了这些学生如何与技术互动，从被动的使用者转变为能够验证AI输出之真实性与公平性的主动审计者。
研究揭示了青少年学生对待技术方式的明显转变。在项目开始时，这些学生不加质疑地接受人工智能生成的图像，即使结果很奇怪或在物理上是不可能的，例如出现多余肢体或面部扭曲的人物。然而，随着项目的推进，他们学会了扮演编辑的角色。他们开始使用特定的技术控制手段来修复这些错误，学习编写详细的指令来告诉人工智能“不要做什么”。他们从仅仅要求生成一张图片，转变为主动调试结果，检查解剖学上的错误，并确保最终的画面符合其艺术构想且不违反安全规则。他们明白了机器可能会犯错，而他们的职责就是捕捉这些错误。
大学生的面临着不同但同样严苛的挑战。他们的任务是构建不仅功能完备，而且在法律和伦理上都站得住脚的数字资源。他们必须确保生成的内容不会无意中剽窃现有作品，或违反有关个人数据的法律。在其中一个项目中，学生们注意到人工智能正在编造关于圣彼得堡一个真实花园的事实，并将不同国家的建筑风格混淆在一起。他们没有接受这一结果，而是创建了一个日志系统，将人工智能产生的每一个事实与可靠来源进行交叉核对。他们学会了将法律要求直接集成到代码中，确保他们开发的软件能够自动保护用户隐私，并防止系统对任何群体产生歧视。
研究人员发现，虽然年幼的学生侧重于纠正视觉错误和管理艺术表达，而年长的学生侧重于结构完整性和法律合规性，但两组学生都有一个共同的进化过程：他们不再将人工智能视为一个永远掌握真理的神谕，而是将其视为一个需要持续监督的工具。研究表明，通过给予学生需要寻找并修复错误的特定任务，他们可以培养出对伦理的深刻且实用的理解。这种方法证明，在人工智能时代，伦理行为不仅关乎了解规则，更关乎拥有验证规则是否被遵守的技术能力。
这项为期四个月的试点研究结果表明，在不同的教育阶段有效地教授这些技能是可能的。中学生在检测和修复视觉幻觉的能力方面表现出显著进步，而大学生则成功地将法律和伦理检查集成到了软件开发过程中。研究人员得出结论，这种学习方法——即学生必须证明自己已经检查过工作——能够培养出这样一代创造者：他们不仅精通技术，而且对其产生的影响负责。通过将伦理作为课程中可衡量的部分，学校可以确保未来的人工智能使用者和开发者能够构建一个透明、公平且对每个人都安全的数字世界。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。