Design and Implementation of a UDP-Based Command Interface for the INO ICAL Experiment

Dit artikel beschrijft het ontwerp en de implementatie van een betrouwbaar, op UDP gebaseerd commando-interface met een handshaking-schema en checksums voor het INO ICAL-experiment, waarbij de prestaties zijn gevalideerd in de Mini ICAL-prototype.

De kern

Stel je voor dat je een gigantisch orkest hebt, maar in plaats van 50 muzikanten, heb je 28.800 muzikanten. Elke muzikant speelt een heel klein instrument (een detector) en ze moeten allemaal exact op hetzelfde moment beginnen met spelen, stoppen, en hun instrumenten afstemmen. Als één muzikant te laat begint of een verkeerde noot speelt, is het hele concert verpest.

Dit is precies de uitdaging van het INO ICAL-experiment in India: een gigantisch project om neutrino's (deeltjes die bijna door alles heen gaan) te vangen. Om dit te doen, gebruiken ze 28.800 speciale sensoren.

Dit artikel vertelt het verhaal van hoe de wetenschappers ervoor zorgden dat al die sensoren niet in chaos terechtkwamen, maar als één perfect geoliede machine werkten. Hier is hoe ze dat deden, vertaald naar alledaags taal:

1. Het Probleem: De "Ruziende" Postbode

Normaal gesproken gebruiken computers een protocol (een taal om te praten) genaamd TCP. Dit is als een bezorgdienst met een ontvangstbevestiging. Als je een pakketje stuurt, zegt de ontvanger: "Bedankt, ik heb het." Als je niets hoort, stuur je het opnieuw. Dit is veilig, maar traag en zwaar.

Voor 28.800 sensoren die allemaal tegelijk een bevel moeten krijgen (bijvoorbeeld: "Start nu!"), is deze zware methode te traag. Het zou als een file op de snelweg lijken.

Daarom wilden ze UDP gebruiken. UDP is als een postduif of een schreeuwende leraar: "Hé, iedereen luister! Start nu!" Hij schreeuwt het één keer en hoopt dat iedereen het hoort. Het is supersnel en licht, maar... hij geeft geen ontvangstbevestiging. Als de wind (of een storing) de duif wegblaast, weet de leraar niet of de boodschap is aangekomen.

2. De Oplossing: De "Slimme Schreeuw" (HPCI)

De onderzoekers bedachten een slimme mix, genaamd HPCI (Hybrid Protocol based Command Interface). Ze namen de snelheid van de postduif, maar gaven hem een slimme trucje om toch zeker te weten dat iedereen luisterde.

Stel je voor dat de leraar schreeuwt: "Allemaal, begin nu!"
In plaats van stil te blijven staan, heeft de leraar nu een fluitje en een checklist.

1. De Schreeuw (Multicast): De leraar blaast op zijn fluitje. Alle 28.800 leerlingen (de sensoren) horen het.
2. Het Knippen (Handshake): Iedere leerling die het hoorde, moet direct een klein geluidje maken (een "acknowledgment") terug naar de leraar.
3. De Controle: Als de leraar na een paar seconden nog geen geluidje hoort van een specifieke leerling, schreeuwt hij die leerling persoonlijk aan (Unicast): "Jij daar! Heb je het gehoord?"
4. De Check: Elk berichtje heeft een stempel (een checksum) erop. Als de stempel niet klopt (bijvoorbeeld door een storing in de lucht), wordt het berichtje verworpen en opnieuw verzonden.

Dit zorgt ervoor dat ze de snelheid van UDP hebben, maar de zekerheid van TCP.

3. De "Mini-ICAL" Proefkeuken

Voordat ze dit systeem op de gigantische 28.800 sensoren toepasten, bouwden ze een mini-versie in Madurai (India), genaamd mini-ICAL. Dit is alsof je eerst een modeltreinbaan bouwt voordat je een heel spoorwegnet aanlegt.

In deze mini-versie met slechts 20 sensoren hebben ze getest of hun "slimme schreeuw" werkte.

• De Test: Ze stuurden commando's terwijl de sensoren al druk bezig waren met data verzamelen (alsof de leerlingen al aan het rekenen waren terwijl de leraar riep).
• Het Resultaat: Het systeem bleef stabiel. Zelfs als het netwerk "druk" was, wisten de sensoren precies wat ze moesten doen. De vertraging was zo klein (minder dan 1 milliseconde) dat niemand het merkte.

4. Waarom is dit zo belangrijk?

In deeltjesfysica is tijd alles. Als één sensor een fractie van een seconde later start dan de rest, is de hele meting waardeloos.

• Betrouwbaarheid: Met hun nieuwe systeem is de kans dat een bevel niet aankomt kleiner dan 1 op 10.000.
• Flexibiliteit: Ze kunnen één sensor apart aansturen als die problemen heeft, zonder de rest te storen.
• Veiligheid: Ze hebben extra controles ingebouwd om te voorkomen dat een sensor per ongeluk een verkeerde instelling krijgt (zoals te hoge spanning), wat de dure apparatuur zou kunnen beschadigen.

Conclusie

Kortom: De onderzoekers hebben een nieuwe, slimme taal bedacht voor hun 28.800 sensoren. Het is als een orkestleider die niet alleen schreeuwt, maar ook luistert naar elke muzikant, en die weet precies wie er luistert en wie niet, zelfs in een luidruchtige zaal.

Dit systeem is nu klaar om de grote INO ICAL-experimenten te leiden, zodat wetenschappers over de hele wereld kunnen kijken naar de mysterieuze neutrino's, wetende dat hun "orkest" perfect in tune is.

Technische samenvatting

Titel: Ontwerp en Implementatie van een op UDP gebaseerde Commando-interface voor het INO ICAL Experiment

1. Het Probleem

Het India-based Neutrino Observatory (INO) Iron Calorimeter (ICAL) experiment vereist de besturing en data-acquisitie van een enorm aantal front-end modules: 28.800 Resistive Plate Chambers (RPCs), elk gekoppeld aan een RPC-DAQ (Data Acquisition Module).

• Schaal en Complexiteit: Het beheer van zo'n groot netwerk van netwerkknopen (elk met een uniek IP-adres) vereist een robuust communicatieprotocol.
• Beperkingen van Standaard Protocollen:
  • TCP: Is betrouwbaar maar te zwaar voor dit gebruik. Het is verbinding-georiënteerd, verbruikt veel resources, ondersteunt geen native multicast (essentieel voor gelijktijdige besturing van groepen) en introduceert vertraging door handshaking en congestiecontrole.
  • Standaard UDP: Is lichtgewicht en ondersteunt multicast, maar is onbetrouwbaar (geen garantie voor levering, volgorde of integriteit). Packetverlies is een risico voor kritieke commando's zoals het starten van een run of het configureren van hoogspanning.
• Doel: Een oplossing vinden die de snelheid en multicast-capaciteit van UDP combineert met de betrouwbaarheid van TCP, specifiek geoptimaliseerd voor de beperkte hardware-resources (Intel Cyclone IV FPGA's) van de DAQ-modules.

2. Methodologie: Het HPCI-protocol

De auteurs hebben een Hybrid Protocol based Command Interface (HPCI) ontwikkeld. Dit is een aangepast protocol dat UDP gebruikt als transportlaag, maar aanvullende mechanismen implementeert om betrouwbaarheid te garanderen.

• Hybride Architectuur:
  • Multicast: Voor het gelijktijdig verzenden van globale commando's (bijv. "RUN START") naar alle DAQ's.
  • Unicast: Voor het adresseren van individuele DAQ's (bijv. statusopvraging of hertransmissie bij fouten).
  • Dual-Socket: Elke DAQ heeft twee UDP-sockets: één voor multicast en één voor unicast (waarmee bevestigingen worden teruggezonden).
• Betrouwbaarheidsmechanismen (Handshake & Checksum):
  • Sequentie-nummers: Elke commando- en bevestigingspakket bevat een sequentienummer. Dit zorgt voor volgordebewaking op applicatieniveau en helpt bij het detecteren van dubbele of verouderde pakketten.
  • Handshake-scheme: De server wacht op een bevestiging (ACK). Ontbreekt deze binnen een timeout, wordt het commando opnieuw verzonden (hertransmissie) in unicast-modus.
  • CRC-16 Checksum: Om packetverlies of corruptie op applicatieniveau op te vangen, wordt een 16-bit CRC (polynoom 0x8005) toegevoegd aan elk pakket. Dit vult het hardware-CRC van Ethernet aan en beschermt tegen fouten in de FPGA-software (NIOS soft-core) of DMA-overdrachten.
• Backend & Frontend Implementatie:
  • Backend (Server): Beheert een lokale database van DAQ-statussen. Het proces omvat het lezen van de database, het verzenden van commando's (multicast), het verzamelen van ACK's, het identificeren van mislukte nodes en het uitvoeren van hertransmissies.
  • Frontend (DAQ): Gebruikt een interrupt-gedreven systeem. De Ethernet-controller (Wiznet W5300) genereert een interrupt bij ontvangst. Een ISR (Interrupt Service Routine) voert CRC-checks uit en zet een vlag. De daadwerkelijke commandoverwerking gebeurt in de main loop om blokkering van andere kritieke taken te voorkomen.

3. Belangrijkste Bijdragen

• Optimalisatie voor Embedded Systemen: Het protocol is speciaal ontworpen voor low-end FPGA's (Intel Cyclone IV) met minimale logische resources en geheugenoverhead, zonder een volledige TCP/IP-stack te vereisen.
• Scalabiliteit: Het ontwerp is getest en voorbereid voor een schaal van 28.800 modules, waarbij multicast efficiëntie en unicast betrouwbaarheid worden gecombineerd.
• Robuustheid in Ruige Omgeving: Door de toevoeging van applicatie-laag CRC en sequentienummers, wordt de betrouwbaarheid van commando's (zoals HV-configuratie) gegarandeerd, zelfs in een netwerk met hoge datalast (tot 45 Mbps per DAQ).
• Implementatie in Mini-ICAL: Het protocol is succesvol geïmplementeerd en operationeel in het prototype "Mini-ICAL" (20 RPC-eenheden), waar het dagelijks wordt gebruikt voor run-control.

4. Resultaten

• Prestatietesten: Tests zijn uitgevoerd in twee scenario's: "Non-Busy" (minimale netwerkbelasting) en "Busy" (met synthetische datalast van 27 en 45 Mbps).
  • De gemiddelde cyclusduur voor commando's varieerde van 174 µs tot 864 µs, afhankelijk van de payload-grootte en netwerkdruk.
  • De latency bleef onder de 1 ms per DAQ, wat voldoet aan de strenge synchronisatie-eisen van het experiment.
• Betrouwbaarheid: Door de hertransmissie-logica en CRC-checks wordt een leversuccespercentage van >99,99% voor kritieke commando's bereikt.
• Operatie: De HPCI-based run-control software werkt stabiel in de Mini-ICAL setup sinds 2018, met succesvolle aanpassingen van timeout-waarden voor optimale prestaties.

5. Betekenis en Conclusie

Dit werk lost een kritieke uitdaging op voor grote wetenschappelijke experimenten: hoe men duizenden sensoren betrouwbaar en synchroon kan besturen zonder de prestaties van de data-acquisitie te belemmeren door zware protocollen.

• Unieke Toepassing: Hoewel het concept van "betrouwbare UDP" niet nieuw is, is de specifieke implementatie voor de INO ICAL uniek vanwege de enorme schaal en de beperkte hardware-resources van de front-end modules.
• Toekomst: Het succes in Mini-ICAL vormt de basis voor de volledige implementatie in het INO ICAL experiment. Het protocol bewijst dat een lichtgewicht, aangepast UDP-protocol superieur is aan standaard TCP/IP voor dit type high-performance, distributed data-acquisitie systemen.
• Algemene Toepasbaarheid: De aanpak biedt een blauwdruk voor andere mega-wetenschappelijke projecten die vergelijkbare uitdagingen hebben op het gebied van timing, betrouwbaarheid en groepenbeheer in embedded netwerken.