ToolRegistry: A Protocol-Agnostic Tool Management Library for Function-Calling LLMs
Dit paper introduceert ToolRegistry, een protocol-onafhankelijk ecosysteem voor het beheer van tools voor LLM's dat de integratiecode met 60-80% reduceert, de prestaties tot 3,1 keer verbetert door concurrente uitvoering, en naadloze compatibiliteit biedt met standaarden zoals MCP en OpenAPI.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
ToolRegistry: De "Universal Remote" voor Slimme Computers
Stel je voor dat je een zeer slimme assistent hebt (een Large Language Model of LLM), zoals een super-intelligente chatbot. Deze assistent is geweldig in het schrijven van teksten en het beantwoorden van vragen. Maar hij heeft een groot probleem: hij zit vast in zijn eigen hoofd. Hij kan niet zelf naar het internet surfen, geen rekenmachine gebruiken, geen bestanden op je computer openen en geen boodschappen doen.
Om deze assistent echt nuttig te maken, moeten we hem "gereedschappen" geven. Maar hier komt het probleem: het is alsof je probeert een kamer vol met verschillende soorten stopcontacten en apparaten te gebruiken.
Het Probleem: Een Chaos van Stopcontacten
Vandaag de dag is het voor ontwikkelaars (de mensen die deze slimme assistenten bouwen) een nachtmerrie:
- Sommige gereedschappen werken met OpenAPI (een standaard voor webdiensten).
- Andere werken met MCP (een nieuwere, nogal ingewikkelde standaard).
- Weer anderen zijn gewoon Python-functies (code die lokaal draait).
- En sommige komen uit LangChain (een ander populair systeem).
Elk van deze systemen heeft zijn eigen stekker, zijn eigen kabel en zijn eigen handleiding. Als je een app wilt bouwen die al deze dingen kan, moet je voor elk apparaat een aparte kabel maken en een aparte handleiding leren. Het is alsof je voor elke lamp in huis een ander type schakelaar nodig hebt. Het kost veel tijd, het is rommelig en als iets stuk gaat, is het heel lastig te repareren.
De Oplossing: ToolRegistry
ToolRegistry is de uitvinding die dit probleem oplost. Het is een bibliotheek (een verzameling code) die fungeert als een universele schakelkast of een slimme stopcontact-adapter.
Hier is hoe het werkt, in simpele termen:
1. De Universele Adapter (Protocol-Agnostic)
ToolRegistry maakt niet uit welk type stekker je hebt. Of het nu een oude Python-functie is, een moderne MCP-server of een OpenAPI-dienst: ToolRegistry pakt het, past het aan en maakt er één standaard "plug" van.
- Analogie: Het is alsof je een wereldwijde reisadapter hebt die werkt in elk land. Je hoeft niet te weten of je in Japan (OpenAPI) of in Duitsland (MCP) zit; je steekt je stekker erin en het werkt direct.
2. De Automatische Handleiding (Schema Generatie)
Vroeger moesten ontwikkelaars handmatig een lange, saaie lijst maken (een JSON-schema) die uitlegde hoe een gereedschap werkt. "Dit knopje doet dit, dat vakje moet een getal zijn..."
ToolRegistry kijkt naar de code en schrijft die handleiding voor je.
- Analogie: Het is alsof je een robot hebt die je gereedschapskist opent, elk gereedschap bekijkt en direct een duidelijke sticker maakt met de gebruiksaanwijzing. Je hoeft niets meer zelf te schrijven.
3. De Snelweg voor Taken (Concurrent Execution)
Stel je voor dat je assistent 10 dingen tegelijk moet doen: een weerbericht zoeken, een berekening maken en een e-mail sturen. Als hij dit één voor één doet, duurt het lang.
ToolRegistry heeft twee snelwegen:
- De Thread-snelweg: Voor snelle, lichte taken (zoals rekenen).
- De Process-snelweg: Voor zware, internet-gerelateerde taken.
Het systeem kiest automatisch de juiste snelweg. - Analogie: Het is alsof je een restaurant hebt. Voor snelle drankjes (thee) gebruik je de snelle toonbank. Voor zware maaltijden (steak) gebruik je de grote keuken. ToolRegistry zorgt dat alles tegelijk en snel wordt geserveerd zonder dat de keuken in de war raakt.
4. Het Drie-Delen Ecosysteem
ToolRegistry is uitgegroeid tot een compleet systeem met drie onderdelen:
- De Kern (Core): De motor die alles regelt.
- De Server: De vertaler die zorgt dat je gereedschappen ook via het web bereikbaar zijn.
- De Hub: Een winkel met voorbereide, geteste gereedschappen (zoals een rekenmachine, een zoekmachine of een kalender) die je direct kunt gebruiken. Je hoeft ze niet zelf te bouwen.
5. De Controlekamer (Admin Panel)
Er is ook een webpagina waar je kunt zien welke gereedschappen er zijn, welke werken en welke tijdelijk uit staan.
- Analogie: Het is het dashboard van een vliegtuig. Je ziet direct of er een lampje brandt, en je kunt een gereedschap met één klik "uitzetten" als het problemen geeft, zonder de hele machine te moeten herstarten.
Waarom is dit belangrijk?
De auteurs van dit paper hebben getest hoeveel tijd dit bespaart:
- Code-reductie: Ontwikkelaars schrijven 60% tot 80% minder code. In plaats van 100 regels code voor één gereedschap, hebben ze er nu maar 10 nodig.
- Snelheid: Door slimme parallelle uitvoering kunnen taken 3 keer sneller worden gedaan.
- Flexibiliteit: Je kunt nu gereedschappen van verschillende bronnen (LangChain, Python, MCP) in één project mengen alsof het allemaal hetzelfde is.
Conclusie
ToolRegistry is als de "Universal Remote" voor de toekomst van AI. Het zorgt ervoor dat ontwikkelaars niet meer hoeven te worstelen met ingewikkelde kabels en stopcontacten. In plaats daarvan kunnen ze zich richten op het bouwen van slimme toepassingen, wetende dat hun assistent gewoon kan doen wat hij moet doen: rekenen, zoeken en communiceren, ongeacht waar die informatie vandaan komt.
Het maakt de wereld van AI-toepassingen minder rommelig, sneller en veel makkelijker te bouwen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.