MoLGE: Mixture of Language Group Experts for Efficient Scaling of Massively Multilingual Speech Recognition
该论文提出了 MoLGE，一种语言组专家混合框架，该框架通过结合分层低秩自适应与语言聚类，在高效扩展跨 495 种语言的大规模多语言语音识别的同时，克服了多语言诅咒，并以极小的参数开销超越了稠密基准模型。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一个超级聪明的机器人说地球上的每一种语言。你可能会想：“很简单！只要把所有记录过的书籍、歌曲和对话都喂给它就行了。”但问题在于：机器人的大脑容量是有限的。如果你试图把数百种语言塞进一个如此微小的脑容量里，它就会开始变得混乱。它可能会把法语和波斯语搞混，或者忘记很久没听过的语言中“你好”怎么说。这有点像试图通过仅有的那一双手来学习管弦乐队中的每一种乐器；你无法在同时精通小提琴和大鼓的同时，还不让自己感到束手束脚。科学家们称之为“多语言之咒”（curse of multilinguality）。为了解决这个问题，研究人员一直试图构建越来越大的机器人大脑，但这需要消耗大量的电力和资金，对每个人来说并不现实。因此，一个大问题变成了：我们如何在不需要拥有行星规模大脑的情况下，让机器人精通数百种语言？
这就是由延世大学的研究人员提出的一个名为 MoLGE（语言组专家混合模型，Mixture of Language Group Experts）的新想法。他们并没有试图让机器人的大脑变得更大，而是决定让它的组织方式变得更聪明。不要把机器人的大脑看作一个巨大的知识团块，而要把它看作一个繁忙的厨房。在传统的厨房里，一位厨师试图烹饪菜单上的每一道菜，从寿司到意大利面再到塔可。他会被压垮，食物质量也会下降。MoLGE 通过雇佣一支专业厨师团队改变了这种厨房模式，但有一个转折：他们不是为每一道菜都雇佣一位厨师（那太贵了），而是为一组相似的菜肴雇佣一位厨师。
它是这样运作的：研究人员意识到，语言就像家族一样。西班牙语和意大利语是表亲；它们共享许多相同的语法和发音。日语和韩语在某种程度上也是相关的。MoLGE 将这些“表亲”语言组合在一起，并分配一个特定的“专家”模块来处理整个家族。因此，一个专家负责所有的罗曼语族，另一个负责日耳曼语族，依此类推。当机器人听到一句西班牙语时，它不会向日语专家求助，而是向罗曼语专家求助。这样一来，机器人不需要从头学习每一种语言；它只需要学习该组的模式即可。
该论文还引入了一个巧妙的技巧，使这一过程更加高效。他们将机器人的大脑分为两个部分。底层处理语音的原始声音（如节奏和音高），这部分是所有人共用的，因为无论人们说哪种语言，人类的声音在某种程度上都是相似的。顶层处理实际的含义和具体的词汇，这也是专家们居住的地方。为了确保专家们不会变得过于沉重或缓慢，他们使用了一种名为“LoRA”的技术，这就像是给厨师们一套轻便、可调节的工具，而不是让他们为每一顿饭都背着一整套新的工具箱。
研究人员在一个包含 13,758 小时 语音、涵盖 495 种不同语言 的大规模数据集上测试了这个想法。他们将这个全新的 MoLGE 系统与旧有的“一刀切”式机器人以及随机分组系统进行了对比。结果令人振奋：MoLGE 在语音识别方面表现得更好，尤其是在处理那些数据量较少的语言时。它显著减少了错误，特别是在处理不同语言复杂的书写系统时。这项研究表明，通过根据语言之间的逻辑关系（如家族树或地理位置）进行分组，我们可以让语音识别变得更加高效和准确，而无需建造规模大到离谱的计算机。
然而，论文也谨慎地指出，这并不是能瞬间解决一切问题的魔杖。研究人员发现，根据实际的家族历史或地理位置进行分组，比单纯让计算机自行猜测分组的效果更好。他们还发现，这种方法对于具有复杂书写系统的语言特别有帮助，而对于仅仅是声音模式方面的益处则稍小一些。最终，论文表明，结构化、智能化的组织是扩展语言技术的一种强大方式，为让更多人能够与机器进行沟通提供了一条路径，且不会造成经济负担或电力过载。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。