Performance of Generative Artificial Intelligence and Medical Students on Undergraduate Ophthalmology Examinations: A Cross-Sectional Comparative Study
这项横断面研究发现,尽管五种生成式人工智能系统在本科眼科文本类问题上的表现显著优于医学四年级学生,但大多数系统在图像类题目上表现挣扎,这既凸显了它们作为教育工具的潜力,也警示不要将考试表现等同于临床能力。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
在现代医学的课堂上,一种新型的学生已悄然进入讲堂。它不睡觉,不会遗忘,且能在瞬间阅读数千页的内容。这就是生成式人工智能,一种旨在理解语言并生成听起来像是人类所作答复的计算机程序。这些系统通常被称为大语言模型,已成为学习中的常用工具,帮助学生解释复杂的概念或准备考试。然而,尽管这些机器在阅读和推理方面变得越来越出色,一个关键的问题仍然存在:它们是否真正理解医学的视觉世界?在眼科学(研究眼睛的学科)等领域,诊断往往依赖于识别视网all网照片或眼内结构的细微模式。对于人类医生来说,眼见为实;而对于机器来说,视觉是一个更艰巨的挑战。随着这些工具越来越多地融入教育领域,教育工作者需要了解,它们仅仅是在模仿知识,还是真的能够看到学生所看到的景象。
为了寻找答案,葡萄牙波尔图大学的一个研究小组将五种最先进的人工智能系统与四年级医学生进行了对比测试。研究人员从 2025 年交给学生的真实眼科学考试中收集了 89 道多项选择题。这些题目涵盖了广泛的眼科疾病,从青光眼到视网膜疾病。这套题目包括 77 道仅靠阅读文本即可回答的问题,以及 12 道要求考生观察照片或医学图像以找到正确答案的问题。随后,研究人员将每一道题目连同其附带的图像(如果适用)一起输入到五个不同的 AI 系统中:GPT-4.1 Auto、GPT-5.2 Auto、Gemini 3 Flash、Grok 4.1 Auto 和 Claude Sonnet 4.5。这些计算机没有获得任何额外帮助,没有互联网搜索功能,也没有要求澄清的机会;它们只需像学生一样,从提供的五个选项中选出最佳答案。
结果显示,机器处理文字与处理图像的能力之间存在显著差异。在仅限文本的问题上,人工智能系统的表现非常出色。五种系统中,有三种系统的正确率超过了 90%,其中表现最好的 Gemini 3 Flash 达到了 í 95.5% 的准确率。相比之下,医学生的平均正确率约为 73%。这意味着在基于纸面的问题上,最优秀的 AI 系统表现优于绝大多数人类学生,排名处于班级的顶尖百分比水平。然而,当问题涉及图像时,情况发生了彻底的变化。当测试要求观察眼部照片时,五种 AI 系统中有四种的表现大幅下降。而人类学生无论是在文本还是图像类问题中都保持了原有的准确度水平,机器却难以解读视觉数据。例如,一个在文本问题上得分 98.7% 的系统,在图像问题上的得分跌至 75%;另一个则从 96% 降至 67%。只有一种系统,即 GPT-4.1 Auto,在两种形式之间没有表现出显著差异,但它的整体得分也是所有机器中最低的。
研究人员还观察了机器的答案与学生的答案之间的对比,以查看它们是否犯了同样的错误。他们发现,AI 系统并非简单地在模仿学生。事实上,那些答对最多问题的系统,往往是与学生多数意见分歧最大的系统。这些高性能机器正确回答了许多学生出错的题目,这表明它们正在获取一种不同类型的知识或推理过程。相反,整体准确率最低的系统 GPT-4.1 Auto,其答案模式与学生最为接近。这表明,虽然机器功能强大,但它们并不一定像人类那样思考,它们的错误也与人类的错误不同。研究还表明,机器在回答那些对学生而言较简单的题目时表现得更好,这说明题目的难度对人类和机器的影响方式是相似的。
尽管取得了高分,研究人员仍提醒,这些结果并不意味着机器已经准备好取代医生,也不意味着它们具备真正的临床能力。该研究是针对单一大学的一组特定问题进行的,且包含图像的问题数量相对较少。作者强调,虽然这些工具在复习事实和准备书面考试方面非常出色,但目前还不能信任它们去解读对眼科护理至关重要的复杂视觉发现。观察患者的眼睛并做出诊断是一项技能,它需要的不仅仅是在测试中选择正确的字母。目前,这些人工智能系统是强大的学习辅助工具,可以帮助学生学习,但它们与人类观察并理解医学世界的视觉能力仍然有着本质的区别。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。