BabyLM Turns 4 and Goes Multilingual: Call for Papers for the 2026 BabyLM Workshop
本文宣布 BabyLM 研讨会将于 2026 年举办第四届活动,在延续英语严格与严格小型赛道的基础上新增英、荷、中三语多语言赛道,并征集关于训练效率、小数据训练、认知建模、模型评估及架构创新等相关主题的论文。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
这篇论文其实是一份**“邀请函”兼“比赛规则说明书”**,来自一个名为 BabyLM 的学术项目。
想象一下,BabyLM 是一个**“语言学习幼儿园”**,它已经 4 岁了。这个幼儿园的目标不是培养超级天才(像那些吃了几万亿字的大模型),而是研究:如果只给一个“孩子”吃很少很少的“语言食物”,它还能学会说话吗?而且,它是怎么学会的?
为了庆祝 4 岁生日,他们决定把幼儿园升级,并举办一场新的比赛。以下是用大白话和比喻为你拆解的核心内容:
1. 核心目标:我们要培养什么样的“语言宝宝”?
以前的 BabyLM 只教英语。今年,他们决定**“走出英语,拥抱世界”**。
- 比喻:以前这个幼儿园只教孩子说英语。今年,他们决定同时教孩子说英语、荷兰语和中文。
- 为什么? 因为人类小孩学语言时,面对的是不同的口音、不同的文字(有的有字母,有的是方块字)。研究者想看看,在数据量很少的情况下,模型能不能像人类一样,学会不同语言之间的“互通”和“迁移”。
2. 比赛规则:三个“赛道”
这次比赛就像一场**“限时速食烹饪大赛”**,参赛者必须用极少的食材(数据)做出一顿大餐(训练出一个模型)。
- 赛道一:严格标准版 (STRICT)
- 规则:你只能用 1 亿个单词 的食材。
- 比喻:给你一袋中等大小的米,你必须煮出一锅好饭。
- 赛道二:严格迷你版 (STRICT-SMALL)
- 规则:你只能用 1000 万个单词 的食材。
- 比喻:给你一小把米,看你怎么煮出好饭。这更难,因为食材更少。
- 赛道三:全新多语言版 (MULTILINGUAL)
- 规则:你可以自由搭配英语、荷兰语和中文的食材,但总重量不能超过 1 亿个“字节当量”(一种换算单位,因为中文和英文占的存储空间不一样)。
- 比喻:你可以做“中西合璧”的饭,比如一半米饭,一半面条,但总热量不能超标。
3. 今年的大变化(重要!)
A. 合并了“多模态”和“互动”赛道
以前有专门的赛道让你用“图片 + 文字”或者“和另一个 AI 对话”来训练。今年,这两个赛道取消独立身份,直接并入上面的“标准赛道”和“迷你赛道”。
- 比喻:以前有专门的“画画班”和“聊天班”。现在,这些活动变成了“主课”的一部分。你可以在煮饭(训练模型)时,一边看图片(多模态),一边和另一个 AI 厨师(外部模型)聊天互动,只要你的总食材(1 亿或 1000 万单词)不超标就行。
- 目的:模拟真实的人类学习——我们学语言时,不仅仅是听,还会看图片、看大人做手势、和大人互动。
B. 数据“大扫除” (去毒)
去年的研究发现,以前的训练数据里混入了一些“坏东西”(脏话、仇恨言论),这就像给幼儿园的孩子看了一些不适合的动画片。
- 行动:今年,组织者把数据彻底清洗了一遍,去掉了所有有毒内容,确保给“语言宝宝”吃的是健康的食物。
C. 限制“复习次数” (Epochs)
以前,有些参赛者为了让模型变强,把同一本教材反复读了 100 遍、1000 遍。
- 新规则:现在限制最多只能读 10 遍。
- 比喻:人类小孩学说话,听一遍就记住了,不会把同一句话重复听几千遍。如果模型靠“死记硬背”(反复刷数据)才学会,那就不符合“像人类一样学习”的目标了。这也为了公平,防止那些有超级计算机的实验室靠“暴力计算”碾压小实验室。
4. 为什么要做这件事?
- 科学意义:计算机科学家想通过这种“少数据”训练,来模拟人类小孩的大脑是如何工作的。
- 公平性:让没有超级计算机的小团队也能参与,因为限制数据量比限制算力更公平。
- 多样性:以前大家只关注英语,现在关注全球语言,特别是那些资源匮乏的语言(比如中文和荷兰语在数据量上的差异),看看模型能不能学会“举一反三”。
5. 怎么参加?
- 时间:2026 年 2 月发布数据,10 月在布达佩斯开会。
- 提交:你需要提交你的模型、中间的学习过程记录(就像孩子的成长日记),以及一篇论文。
- 门槛:即使你不参加比赛,只要你的研究是关于“小数据学语言”、“多语言学习”或“认知科学”的,都可以投稿参加研讨会。
总结
BabyLM 2026 就是一场“语言学习奥林匹克”。
它不再追求谁吃得最多(数据最多),而是追求谁吃得最精、学得最像人类小孩。今年特别增加了“多语言”挑战,并清理了“食物”里的毒素,限制“复习”次数,旨在培养真正高效、健康、能理解多种文化的“语言宝宝”。
如果你对人类如何学习语言,或者如何让 AI 更聪明地学习感兴趣,这就是一个非常有趣的舞台!
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。