Scaling Self-Supervised Speech Models Uncovers Deep Linguistic Relationships: Evidence from the Pacific Cluster

Het onderzoek toont aan dat het opschalen van zelftoezichtende spraakmodellen naar 4.017 talen een niet-lineaire verschuiving teweegbrengt die diepgaande genealogische relaties en complexe taalcontacten blootlegt, met name door de vorming van een robuust macro-cluster in de Stille Oceaan dat gedeelde akoestische kenmerken vastlegt.

De kern

Stel je voor dat je een enorme bibliotheek hebt, maar in plaats van boeken, zitten er duizenden verschillende talen op opnames. Voorheen hadden onderzoekers alleen een kleine sectie van deze bibliotheek (ongeveer 100 tot 1.000 talen) om te kijken hoe talen met elkaar verbonden zijn. Ze ontdekten dat de computermodellen die deze opnames analyseren, vooral keken naar dingen die op het oppervlak lijken: "Deze twee talen klinken hetzelfde omdat de mensen die ze spreken, recent met elkaar in contact zijn gekomen." Het was alsof je alleen naar de kleding van mensen keek om te zien of ze familie zijn; als ze dezelfde mode dragen, denk je dat ze verwant zijn, terwijl ze misschien al eeuwenlang geen familie meer zijn.

Deze nieuwe studie doet iets heel spannends: ze vullen de bibliotheek tot aan de rand met 4.017 talen. Ze laten het computermodel niet alleen naar 1.000 talen kijken, maar naar 4.000. En dat verandert alles.

Hier is wat er gebeurt, vertaald in alledaagse termen:

1. Van een kleine foto naar een 3D-hologram

Tot nu toe leek het alsof het computermodel stopte met leren na ongeveer 1.000 talen. Het was alsof je een foto van een berg bekijkt; je ziet de contouren, maar je mist de diepte.
Toen ze het model echter trainden met 4.000 talen, gebeurde er een magische verschuiving. Het was alsof ze ineens een 3D-hologram van de berg kregen. Plotseling zag het model niet alleen de oppervlakte, maar ook de diepe, oude structuren die eeuwenlang verborgen zaten. Het model begon niet alleen te zien wie "vrienden" waren (recent contact), maar ook wie "oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud-oud

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "Scaling Self-Supervised Speech Models Uncovers Deep Linguistic Relationships: Evidence from the Pacific Cluster", geschreven in het Nederlands.

Probleemstelling

Bestaande onderzoek naar representaties van taal in Zelftoezichtende Spraakmodellen (Self-Supervised Speech Models, S3Ms) heeft tot nu toe voornamelijk oppervlakkige taalkundige relaties blootgelegd, zoals geografische nabijheid of recente contacten (typologische convergentie). Deze modellen lijken de diepere, genealogische signalen (stamboomrelaties) en langdurige historische interacties te missen. De auteurs stellen de vraag of het massaal uitbreiden van de taalkundige dekking in de trainingsdata van een S3M voor taaldetectie (Language Identification, LID) leidt tot een kwalitatieve verschuiving in de aard van de gegenereerde representaties, waardoor diepere historische lagen zichtbaar worden.

Methodologie

De studie vergelijkt vier varianten van het MMS-LID (Massively Multilingual Speech) model, allemaal gebaseerd op dezelfde achtergrondarchitectuur, maar getraind op verschillende aantallen talen:

1. 126 talen
2. 256 talen
3. 1.024 talen (1K)
4. 4.017 talen (4K)

Data en Experimenteel Ontwerp:

• Er is een dataset van 49 talen geselecteerd uit diverse taalfamilies (o.a. Austronesisch, Papoea, Australisch, Indo-Europees, etc.), afkomstig uit de DoReCo en FLEURS corpora.
• Om te garanderen dat verschillen in prestaties voortkomen uit de toegenomen taalkundige diversiteit en niet uit directe blootstelling aan de trainingsdata, is gecontroleerd dat 91,8% (45 van de 49) van de testtalen voor zowel het 1K- als het 4K-model als "onbekend" (unseen) gold.
• Embedding Extractie: Voor elke taal werd een centroid-embeddingsvector berekend door de verborgen staten van de laatste transformer-laag te middelen over alle audiofragmenten.
• Clustering: Er werd hiërarchisch agglomeratief clustering (Ward-linkage) toegepast op de genormaliseerde centroid-matrices.
• Validatie: De kwaliteit van de clusters werd gemeten met de Adjusted Rand Index (ARI) en Normalized Mutual Information (NMI) tegenover bekende genealogische subgroepen. Branch-stabiliteit werd getest via een bootstrap-procedure (1.000 replicaties).
• Dimensie-analyse: Om te begrijpen hoe het model werkt, werd een analyse op dimensieniveau uitgevoerd. Er werden t-tests uitgevoerd om te zien welke van de 1.280 dimensies het meest discriminerend waren voor de "Pacific" cluster (Papoea-Oceanisch-Australisch). Deze dimensies werden vervolgens gecorreleerd met 30 akoestische kenmerken (zoals energiedynamiek en MFCC's).

Belangrijkste Resultaten

1. Niet-lineair effect van schaling (Phylogenetisch herstel)

• Van 126 tot 1.000 talen blijft de prestatie (herstel van genealogische relaties) stabiel en stagneert deze.
• Bij schaling naar 4.017 talen treedt er een dramatische, kwalitatieve verschuiving op. Het 4K-model bereikt een piek in ARI (0,74) en NMI (0,95) bij 18 clusters, wat aanzienlijk beter is dan de kleinere basismodellen. Dit suggereert dat een bepaalde drempel van taalkundige diversiteit nodig is om diepe historische signalen te ontsluiten.

2. Ontdekking van de "Pacific Macro-Cluster" (POA)

• Het meest opvallende resultaat is de vorming van een robuust macro-cluster bestaande uit Papoea, Oceanisch (een subgroep van Austronesisch) en Australische talen.
• Binnen de Austronesische familie splitst het model de talen op basis van hun verspreidingsgeschiedenis:
  • Groep A: Sundaic en Filipijnse subgroepen (geen migratie via Nieuw-Guinea).
  • Groep B: Oceanische talen die samenklonteren met genealogisch niet-verwante Papoea- en Australische talen.
• Deze structuur ondersteunt het concept van "Linguistic Melanesia" (een gebied van taalkundige convergentie) en biedt akoestisch bewijs voor een langdurige interactie en mogelijke verwantschap tussen Papoea- en Australische talen, wat eerder alleen via archeologie en genetica was gesuggereerd.

3. Herkenning van langdurige taalcontacten

• Het 4K-model herkent ook bekende contactgebieden (Sprachbunds) met hoge betrouwbaarheid, zoals:
  • Een cluster van Mandarin, Kantonees, Koreaans en Japans (invloed van de vroege Chinese cultuur).
  • Een Iraans-Turkse groep (Perzische invloed).
  • Een Dravidisch-Indo-Arische groep.

4. Dimensie-analyse en Akoestische Oorzaak

• Het 4K-model gebruikt een geconcentreerdere codering: het isoleert het POA-cluster met minder significante dimensies dan het 1K-model, maar met hogere precisie.
• De belangrijkste discriminerende signalen in het 4K-model zijn globale energiedynamiek (energy dynamic range) en lagere spectrale variabiliteit.
• Het 1K-model leunt meer op lokale spectrale fluctuaties, terwijl het 4K-model in staat is om bredere, robuuste akoestische handtekeningen te internaliseren die over duizenden jaren van interactie zijn ontstaan.

Bijdragen en Significatie

• Kwalitatieve Verschuiving door Schaling: Het paper bewijst dat het simpelweg vergroten van de datasetgrootte niet alleen de bestaande representatieruimte uitbreidt, maar de geometrie ervan fundamenteel verandert. Dit maakt het mogelijk om diepe genealogische en contactrelaties te ontrafelen die bij kleinere schalen verborgen blijven.
• Nieuw Perspectief voor Historische Taalkunde: De studie biedt een computationeel bewijs voor de "Pacific Cluster", wat een brug slaat tussen computationele linguïstiek, genetica en archeologie. Het suggereert dat S3Ms in staat zijn om "akoestische handtekeningen" van langdurige regionale interactie te leren.
• Toekomst voor Computationele Phylogenetica: De resultaten tonen aan dat massaal geschaalde zelftoezichtende modellen een veelbelovend instrument kunnen zijn voor het bestuderen van taalcontact en de diepe geschiedenis van menselijke taal, zelfs voor taalfamilies waar traditionele methoden (zoals de Vergelijkende Methode) moeite mee hebben.

Kortom, de studie concludeert dat "meer data" (in termen van taalkundige diversiteit) leidt tot "dieper inzicht", waarbij het model de complexe, gelaagde geschiedenis van menselijke taalinteracties begint te internaliseren.