Sommelier: Scalable Open Multi-turn Audio Pre-processing for Full-duplex Speech Language Models

Dit paper introduceert Sommelier, een robuuste en schaalbare open-source data-processingpijplijn die is ontworpen om de schaarste aan hoogwaardige meersprekersconversatiegegevens aan te pakken en zo de ontwikkeling van vollduplex spraaktaalmodellen voor natuurlijke, real-time mens-computerinteractie mogelijk te maken.

Kyudan Jung, Jihwan Kim, Soyoon Kim, Jeongoon Kim, Jaegul Choo, Cheonbok Park

Gepubliceerd 2026-03-30
📖 4 min leestijd☕ Koffiepauze-leesvoer

Each language version is independently generated for its own context, not a direct translation.

Sommelier: De Smaakmaker voor Gesprekken met AI

Stel je voor dat je een gesprek voert met een slimme assistent. In het verleden was dat een beetje als een teleurgestelde game: jij sprak, de computer luisterde, stopte, dacht na, en sprak dan pas weer. Het voelde stijf en onnatuurlijk.

Vandaag de dag willen we volledige dubbelzijdigheid (full-duplex). Dat betekent dat de AI tegelijkertijd kan luisteren én spreken, net als mensen. Ze kan onderbreken, "hmm" zeggen terwijl jij praat, en direct reageren. Maar hier zit een probleem: om zo'n slimme AI te trainen, heb je duizenden uren aan echte menselijke gesprekken nodig. En die zijn lastig te vinden in een bruikbare vorm.

Hier komt Sommelier in beeld.

Wat is Sommelier?

De naam is een knipoog naar een wijnproever (sommelier). Net zoals een sommelier een fles wijn selecteert, ontkurkt, en de beste glazen inschenkt voor een diner, doet dit computerprogramma precies hetzelfde met audio-opnames.

Het is een openbaar gereedschap (een "pijplijn") dat ruwe, chaotische geluidsopnames (zoals podcasts of radio-interviews) omtovert tot perfecte, schone data om slimme AI's te trainen.

Waarom is dit nodig? (Het probleem)

Stel je voor dat je een film wilt maken, maar je hebt alleen maar opnames van mensen die in een drukke bar schreeuwen, waarbij ze elkaar constant onderbreken en er muziek op de achtergrond staat.

  • De chaos: Als je deze opnames direct aan een AI geeft, raakt die in de war. De AI denkt misschien dat de muziek een mens is, of dat twee mensen tegelijk één persoon zijn.
  • De fouten: Bestaande software maakt vaak fouten bij het onderscheiden van wie wat zegt (diarization) en schrijft soms onzin op als het stil is (hallucinaties).

Hoe werkt Sommelier? (De oplossing)

Sommelier is als een supersterke keukenchef die een rommelige markt in een perfect restaurant omtovert. Het doet dit in vier stappen:

  1. De Schoonmaakbeurt (Audio Standardisatie):
    Eerst maakt het alle geluiden even hard en even duidelijk. Of het nu een oude radio-opname of een moderne podcast is, Sommelier zorgt dat alles op hetzelfde niveau zit, net zoals een chef alle groenten wast en schilt voordat hij begint.

  2. Het Identificeren van Gasten (Sprekerherkenning):
    In een druk gesprek zeggen mensen vaak dingen terwijl de ander nog praat. Sommelier kijkt heel nauwkeurig naar wie wat zegt. Het gebruikt een slimme techniek (Sortformer) om zelfs heel korte geluidjes (zoals een "ja" of "hm" van een luisteraar) te onderscheiden van de hoofdspreker. Het is alsof de chef precies weet welk mesje hij moet gebruiken voor elke groente.

  3. Het Opsplitsen van de Chaos (Overlappende Spraak):
    Dit is de magische stap. Als twee mensen tegelijk praten, is dat voor een computer als een grote soep van geluid. Sommelier gebruikt een speciale techniek om die soep weer te scheiden. Het haalt de stem van persoon A eruit en legt die naast die van persoon B, alsof je twee doorzichtige glazen hebt die eerst in elkaar zaten, maar nu weer los zijn. Zo kan de AI leren hoe het klinkt als mensen elkaar onderbreken.

  4. De Drie Koks (Ensemble ASR):
    Om de tekst van het geluid te maken, vertrouwt Sommelier niet op één computerprogramma. Het laat drie verschillende AI's tegelijk naar het geluid luisteren en de tekst opschrijven. Vervolgens stemt het af wat de beste tekst is (net als drie koks die samen een recept bedenken). Als één kok een fout maakt (bijvoorbeeld "Ik zag een beer" in plaats van "Ik zag een beer"), pikken de andere twee dit op en corrigeren ze het. Dit voorkomt dat de AI leert dat "beer" een normaal woord is in een gesprek over vissen.

Wat levert dit op?

De auteurs hebben dit systeem getest op een bestaande AI genaamd Moshi.

  • Vóór Sommelier: De AI was traag, liet zich niet onderbreken en reageerde niet op "hmm"-geluidjes.
  • Na Sommelier: De AI gedraagt zich nu als een mens. Ze kan onderbroken worden, geeft natuurlijk terugkoppeling ("ah ja", "oh echt?") en reageert directer.

Conclusie

Sommelier is de onmisbare schakel om van een stijve, robotachtige stemoverdracht naar een levendige, natuurlijke conversatie te gaan. Het pakt de rommelige realiteit van menselijke gesprekken, maakt die schoon, en levert de perfecte ingrediënten aan de chefs (de AI-onderzoekers) zodat ze de meest natuurlijke gesprekspartners kunnen bakken.

Het is niet alleen een technisch hulpmiddel; het is de sleutel tot een toekomst waarin we met computers praten alsof we met vrienden zitten.