💬 NLP

Instruction-Guided Poetry Generation in Arabic and Its Dialects

Dit artikel introduceert een groot, instructiegebaseerd dataset in het Modern Standaard Arabisch en zijn dialecten die het mogelijk maakt voor grote taalmodellen om poëzie op een controleerbare manier te genereren, te herzien en te analyseren volgens specifieke gebruikersvereisten zoals stijl en rijm.

Oorspronkelijke auteurs: Abdelrahman Sadallah, Kareem Elozeiri, Mervat Abassy, Rania Elbadry, Mohamed Anwar, Abed Alhakim Freihat, Preslav Nakov, Fajri Koto

Gepubliceerd 2026-05-01

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Abdelrahman Sadallah, Kareem Elozeiri, Mervat Abassy, Rania Elbadry, Mohamed Anwar, Abed Alhakim Freihat, Preslav Nakov, Fajri Koto

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je Arabische poëzie voor als een grote, oude bibliotheek vol met miljoenen prachtige boeken. Al eeuwenlang schrijven mensen in deze bibliotheek gedichten volgens strenge regels over ritme, rijm en stijl, net als het bouwen van een huis met specifieke blauwdrukken. Tot nu toe waren computers (specifiek Large Language Models of LLM's) echter vooral als bibliothecarissen die alleen de boeken kunnen lezen, de pagina's kunnen tellen of raden wie ze schreef. Ze waren niet erg goed in het zelf schrijven van nieuwe gedichten, vooral niet wanneer ze werden gevraagd om specifieke regels te volgen of om te schrijven in verschillende regionale accenten (dialecten).

Dit artikel introduceert een nieuw project genaamd InstructPoet, dat computers leert om zelf dichters te worden. Hieronder wordt uitgelegd hoe ze dit hebben gedaan, in eenvoudige bewoordingen:

1. Het Receptenboek (De Dataset)

Om een computer te leren koken, heb je een goed kookboek nodig. De onderzoekers verzamelden een enorme collectie Arabische gedichten van internet, die alles omvatten van de oudheid tot de moderne tijd.

De Opruiming: Ze organiseerden deze rommelige stapel gedichten in een nette, uniforme indeling, net als het sorteren van een doos met door elkaar gehusselde LEGO-blokjes in gesorteerde bakken.
De Labels: Ze voegden "metadata" (labels) toe aan elk gedicht, waarbij ze ze van details voorzagen zoals "Romantisch", "Oorlog", "Abbasidische Periode" of "Golf-dialect".
De Vertaling: Ze gebruikten niet alleen Standaard-Arabisch (MSA). Ze creëerden instructies in vijf verschillende smaken: Standaard-Arabisch plus vier grote dialecten (Golf, Levantijn, Nijldal en Noord-Afrikaans). Dit is alsof je de computer leert spreken niet alleen formeel Engels, maar ook Texaans, Schots en Australisch Engels, zodat het natuurlijk met iedereen kan praten.

2. De Vier Oefenspellen (De Taken)

In plaats van de computer alleen te vragen "schrijf een gedicht", stelden ze vier specifieke oefenspellen op om de computer slimmer te maken:

Generatie (Het Blanke Blad): "Schrijf een romantisch gedicht over de zee met een specifiek ritme." De computer moet iets van scratch creëren.
Vervolging (De Cliffhanger): "Hier zijn de eerste drie regels van een gedicht; maak de rest af." De computer moet het verhaal en het ritme voortzetten zonder de flow te verbreken.
Herziening (De Redacteur): "Hier is een gedicht met enkele typefouten en een verbroken ritme; maak het goed." De computer treedt op als een corrector en herstelt het gedicht tot een perfecte staat.
Analyse (Het Toets): "Lees dit gedicht en vertel me: uit welke periode komt het? Wat is het rijmschema?" De computer treedt op als een criticus die een toets maakt.

3. Het Klaslokaal (Het Trainen van de Modellen)

De onderzoekers namen vier verschillende "student"-computers (bestaande AI-modellen) en leerden hen met deze nieuwe dataset.

De Studenten: Ze gebruikten twee modellen die goed zijn in veel talen (LLaMA en Qwen) en twee die gespecialiseerd zijn in Arabisch (ALLaM en Fanar).
De Leerstijl: Ze probeerden twee methoden. De ene was Gecombineerde Training (alle spellen tegelijk op de student gooien) en de andere was Curriculum Learning (eerst het makkelijke materiaal leren, zoals analyse, en het moeilijke materiaal, zoals het schrijven van scratch, voor later bewaren).

4. Het Rapport (Resultaten)

Na de training testten ze de studenten op twee manieren:

De Robot-Grader: Ze gebruikten een andere AI om de gedichten te beoordelen op zaken als grammatica, flow en of de computer de regels daadwerkelijk volgde (zoals het juiste rijm gebruiken).
De Menselijke Rechters: Ze huurden native Arabisch-sprekers die van poëzie houden in om de gedichten te lezen en te beoordelen op een schaal van 1 tot 5.

De Bevindingen:

Enorme Vooruitgang: Voor de training waren computers vreselijk in het schrijven van gedichten die regels volgden. Na de training werden ze aanzienlijk beter.
De Beste Student: Het ALLaM-model, dat al was ontworpen voor Arabisch, werd na de training de topdichter. Het scoorde het hoogst op vloeiendheid en coherentie.
De Moeilijkste Taak: Het schrijven van een gedicht van scratch (Generatie) was het makkelijkst voor de computers. Het herstellen van een gebroken gedicht (Herziening) was het moeilijkst, omdat dit vereiste dat de computer de "ziel" van het gedicht begreep terwijl het technische fouten werden opgelost.
Dialecten Werkten: De computers werden veel beter in het begrijpen en schrijven in verschillende Arabische dialecten, niet alleen in de formele versie.

De Conclusie

Dit artikel beweert niet dat computers menselijke dichters zullen vervangen of dat ze al perfecte, zielstrelende meesterwerken kunnen schrijven. In plaats daarvan laat het zien dat we nu een digitale assistent kunnen bouwen die mensen helpt bij het schrijven van poëzie. Als je een gedicht wilt in een specifieke stijl, met een specifiek rijm, in je lokale dialect, kan dit nieuwe systeem je helpen een concept te maken, je fouten te corrigeren of zelfs te analyseren wat je hebt geschreven. Het verandert de computer van een passieve lezer in een actieve, regels-volgende creatieve partner.

1. Probleemstelling

Ondanks de centrale rol van poëzie in de Arabische cultuur en taal, worstelen huidige Large Language Models (LLM's) met controleerbare generatie van Arabische poëzie. Bestaand onderzoek heeft zich voornamelijk gericht op analytische taken (bijvoorbeeld metrumdetectie, toeschrijving aan dichters, themaclassificatie) met behulp van relatief kleine datasets. Er is een aanzienlijke kloof in:

Generatieve Capaciteiten: Weinig modellen kunnen poëzie genereren die voldoet aan strikte structurele beperkingen (metrum, rijm) en stilistische eisen.
Dialectale Diversiteit: Het grootste deel van het bestaande werk is beperkt tot Modern Standaard-Arabisch (MSA), waarbij de rijke diversiteit van regionale dialecten (Golf, Levantijnse, Noord-Afrikaanse, Nijldal) wordt verwaarloosd.
Opdrachtvolging: Huidige modellen slagen er vaak niet in om complexe gebruikersopdrachten te volgen met betrekking tot beperkingen (bijvoorbeeld "Schrijf een romantisch gedicht in de Abbasidische stijl met het Basīṭ-metrum").

2. Methodologie

De auteurs stellen een uitgebreid raamwerk voor dat datasetconstructie, instructie-finetuning (IFT) en rigoureuze evaluatie omvat.

A. Datasetconstructie

Het team heeft een enorme corpus verzameld uit openbare bronnen (PoetsGate, Adab, Ashaar, enz.) en deze verwerkt via een meerstapsproces:

Unificatie & Schoonmaken: Gestandaardiseerde versstructuren (één vers per regel), verwijdering van gedichten met slechts één vers, en genormaliseerde metadata (tijdperk, genre, metrum).
Metadataverrijking: Gebruik van Gemini 2.5 Pro om automatisch semantische metadata te genereren, inclusief sleutelwoorden (thema's) en sleutelzinnen (syntactische samenvattingen), met een kwaliteit van 96% bij handmatige evaluatie.
Deduplicatie: Verwijdering van intra-bron duplicaten en verzekering van geen datalekken tussen trainings- en testsets (specifiek uitsluiten van de FannOrFlop-benchmark uit de training).
Aanmaken van Instructiesjablonen:
- Taken: Vier kerntaken gedefinieerd: Generatie (samenstellen van nieuwe gedichten), Vervolmaking (voltooien van gedeeltelijke gedichten), Herziening (repareren van beschadigde/verkeerde gedichten) en Analyse (Meerkeuzevragen over metadata).
- Subtaken: 54 subtaken gecreëerd die specifieke beperkingen targeten (bijvoorbeeld voorwaardelijk op rijm, metrum, tijdperk of dialect).
- Taalkundige Dekking: Instructiesjablonen ontworpen in Modern Standaard-Arabisch (MSA) en vier grote dialecten (Golf, Levantijnse, Nijldal, Noord-Afrikaanse).
- Schaal: De uiteindelijke dataset bevat 1,35 miljoen trainingsparen en 24,8k testparen, met 3.220 unieke instructiesjablonen.

B. Modeltraining

De auteurs hebben vier verschillende LLM's fijntuned met behulp van LoRA (Low-Rank Adaptation):

Modellen: Twee Arabisch-gerichte modellen (ALLaM-7B, Fanar-1-9B) en twee meertalige modellen (LLaMA-3-8B, Qwen3-8B).
Trainingsregimes:
1. Gecombineerde Training: Alle taken door elkaar gehaald en gezamenlijk geoptimaliseerd.
2. Curriculum Learning: Taken gepresenteerd in oplopende moeilijkheidsgraad (Analyse $\to$ Vervolmaking $\to$ Generatie $\to$ Herziening).

C. Evaluatieraamwerk

Een veelzijdige evaluatiestrategie werd toegepast:

LLM-as-a-Judge: Gebruik van Gemini 2.5 Flash om naleving, vloeiendheid, coherentie en poëtische kwaliteit te evalueren op een schaal van 1–5.
Geautomatiseerde Metrieken: Gebruik van lm-eval-harness voor MCQ-nauwkeurigheid en standaardmetrieken (BERTScore, ROUGE-L, Rijm-naleving) voor generatietaken.
Menselijke Evaluatie: Twee native Arabischsprekende literaire experts evalueerden 400 gegenereerde voorbeelden blindelings over de vier criteria.

3. Belangrijkste Bijdragen

InstructPoet-Ar Dataset: De eerste grootschalige, instructie-gebaseerde dataset voor Arabische poëzie die MSA en vier grote dialecten dekt, met ondersteuning voor generatie, vervolmaking, herziening en analyse.
Uitgebreid Taakframework: Een unificatiesysteem dat 54 subtaken behandelt die creatieve generatie en analytisch begrip met elkaar verbinden.
Dialectale Robuustheid: Aangetoond dat instructietuning de modelprestaties aanzienlijk verbetert over diverse Arabische dialecten, niet alleen MSA.
Curriculum versus Gecombineerde Training: Empirisch bewijs geleverd over hoe trainingsregimes het leren van poëtische structuren beïnvloeden, waarbij blijkt dat gestructureerde blootstelling (curriculum) vaak specifieke vaardigheden ten goede komt.

4. Resultaten

Automatische & LLM-as-a-Judge Evaluatie

Takenmoeilijkheid: De prestaties volgden de verwachte moeilijkheidsgradiënt: Generatie (makkelijkst) > Vervolmaking > Herziening (moeilijkst).
Dialecten: Finetuning verbeterde de prestaties over alle dialecten zonder dat één dialect consequent het "makkelijkste" of "moeilijkste" was.
Modelprestaties:
- ALLaM-7B (Arabisch-gericht) presteerde consequent beter dan de anderen, met de hoogste scores in vloeiendheid en coherentie.
- Qwen3-8B toonde de grootste relatieve verbetering (+63%) na finetuning, wat wijst op sterke aanpasbaarheid ondanks een zwakkere Arabische basis.
- Curriculum Learning: Leverde over het algemeen lichte verbeteringen op ten opzichte van willekeurige doorhakking, met name bij gestructureerde taken.

Menselijke Evaluatie

Aanzienlijke Winsten: Gefinetunde modellen presteerden aanzienlijk beter dan hun basisversies.
- ALLaM-7B (FT): Scoreerde 3,99/5,0 (gestegen van 3,02).
- Qwen3-8B (FT): Scoreerde 3,66/5,0 (gestegen van 2,24).
Sterke Punten: Vloeiendheid en Coherentie waren de sterkste gebieden, vaak dichtbij menselijke kwaliteit.
Zwakke Punten: Poëtische Kwaliteit (artistieke diepte, metafoor) bleef de laagst scorende dimensie (max 3,82/5,0), wat aangeeft dat hoewel modellen structuur kunnen nabootsen, het vangen van echte artistieke nuance nog steeds uitdagend is.
Statistische Significantie: Alle verbeteringen waren statistisch significant ( $p < 0,0001$ ).

5. Betekenis en Toekomstig Werk

Overbrugging van de Kloof: Dit werk verschuift de focus van passieve analyse naar actieve, controleerbare creatie in Arabische NLP, waardoor praktische tools voor schrijvers en onderwijskundigen mogelijk worden.
Cultuurbewaring: Door dialecten en historische tijdperken te ondersteunen, helpt het raamwerk bij het behoud en genereren van diverse vormen van Arabisch literair erfgoed.
Beperkingen:
- De afhankelijkheid van LoRA in plaats van volledige finetuning kan de vastlegging van complexe stilistische nuances beperken.
- De dataset is sterk scheefgetrokken naar historische/classische poëzie; hedendaagse en vrije verspoëzie zijn ondervertegenwoordigd.
Toekomstige Richtingen: De auteurs plannen uitbreiding naar hedendaagse poëzie, vrije vers en volledige finetuning van grotere modellen om de artistieke diepte en dialectale dekking verder te verbeteren.

Concluderend stelt InstructPoet-Ar een nieuwe benchmark voor Arabische poëziegeneratie, bewijzend dat instructie-gefinetunde LLM's effectief kunnen omgaan met de complexe structurele, ritmische en dialectale beperkingen van Arabische poëzie, hoewel er aanzienlijke ruimte blijft voor verbetering in artistieke creativiteit.