From Hugging Face to GitHub: Tracing License Drift in the Open-Source AI Ecosystem
Dit artikel presenteert de eerste grootschalige audit van het open-source AI-ecosysteem, die onthult dat 35,5% van de transities van model naar applicatie gepaard gaat met licentiedrift door het elimineren van restrictieve clausules, en introduceert een regelmotor die in staat is om 86,4% van dergelijke conflicten te detecteren om kritieke governance-uitdagingen aan te pakken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je de wereld van kunstmatige intelligentie voor als een enorme, drukke keuken waar chefs de slimste recepten ooit bereiden. In deze keuken zijn de "ingrediënten" enorme bergen data (zoals foto's of tekst), de "recepten" zijn de computermodellen die op die data zijn getraind, en de "gerechten" zijn de apps en tools die mensen daadwerkelijk gebruiken. Maar er is een addertje onder het gras: elk ingrediënt en elk recept komt met een specifieke set regels, zoals een geheim contract. Sommige regels zeggen: "Je mag dit naar wens bereiden!" (permissief), terwijl anderen zeggen: "Je moet je nieuwe recept delen als je het gerecht verkoopt," of "Je mag dit niet voor militaire doeleinden gebruiken" (restrictief).
Het probleem is dat veel chefs, in de haast om geweldige nieuwe gerechten te creëren, deze contracten niet lezen. Ze kunnen een superstrikt ingrediënt gebruiken, de regels negeren en het vervolgens serveren in een gerecht dat beweert gratis voor iedereen te zijn. Dit creëert een juridisch mijnenveld waarbij de oorspronkelijke makers aangeklaagd kunnen worden, en de mensen die het eten consumeren, in de problemen kunnen komen zonder dat ze het zelfs weten. Wetenschappers noemen dit "licentiedrift", waarbij de regels worden weggestript terwijl het voedsel zich van de voorraadkast naar het bord verplaatst. Een team onderzoekers besloot te onderzoeken hoe rommelig deze keuken werkelijk is.
De onderzoekers, James Jewitt en zijn team van Queen's University, besloten een enorme, end-to-end audit van deze AI-keuken uit te voeren. Ze keken niet alleen naar een paar planken; ze scanten een verbluffende hoeveelheid van 364.917 datasets (de ruwe ingrediënten), 1,6 miljoen modellen (de recepten) en 140.000 GitHub-projecten (de uiteindelijke gerechten). Ze wilden zien of de regels werden nageleefd terwijl de ingrediënten zich van de datafase naar de modelfase en uiteindelijk naar de applicaties verplaatsten die mensen dagelijks gebruiken.
Wat ze vonden, was alsof ze ontdekten dat de meeste chefs de "Niet Verkopen"-borden bij hun ingrediënten negeren. Hun studie onthulde een massaal patroon van "licentiedrift", waarbij restrictieve regels systematisch worden gewist. Specifiek vonden ze dat in 35,5% van de gevallen, wanneer een model wordt omgezet in een softwareapplicatie, de nieuwe app de restrictieve regels van het oorspronkelijke model laat vallen en het herlabelt als "permissief" (vrij voor iedereen). Het is alsof een chef een zeldzame, beschermde specerij nam die alleen bedoeld was voor thuisgebruik, deze aan een menu van een restaurant toevoegde en beweerde dat het hele gerecht gratis voor iedereen kopieerbaar was.
Het meest schokkende deel van deze "drift" vindt plaats aan het einde. Wanneer modellen met specifieke "Machine Learning"-licenties (die vaak speciale regels hebben over hoe ze gebruikt kunnen worden) worden omgezet in applicaties, verdwijnen 99,6% van die speciale regels. Slechts 0,4% van de uiteindelijke applicaties behield de oorspronkelijke beperkingen. Het lijkt erop dat ontwikkelaars deze complexe, regelrijke modellen behandelen als eenvoudige, gratis softwarebibliotheken, waarbij ze de kleine lettertjes volledig vergeten.
Echter, het team heeft niet alleen naar de rommel gewezen; ze hebben een tool gebouwd om het op te ruimen. Ze creëerden een prototype-engine genaamd LicenseRec. Denk aan een superintelligente keukeninspecteur die al die verwarrende contracten kan lezen en direct kan vertellen of een gerecht legaal is. Ze testten deze tool en ontdekten dat deze 86,4% van de licentieconflicten in softwareapplicaties kon oplossen. Dit suggereert dat het grootste deel van de juridische problemen niet komt doordat de ingrediënten onmogelijk te mengen zijn, maar omdat mensen simpelweg de verkeerde labels op hun gerechten plakken.
Maar er is een grens aan wat een tool kan doen. De onderzoekers ontdekten dat ongeveer 14,2% van de conflicten "onoplosbaar" was. Dit zijn situaties zoals het proberen te mengen van een "Geen Vlees"-ingrediënt met een "Moet Vlees Gebruiken"-recept; geen enkele heretikettering kan dat oplossen. Als het oorspronkelijke ingrediënt strikt verboden was voor commercieel gebruik, kun je niet zomaar een "Gratis voor Bedrijven"-sticker op het uiteindelijke gerecht plakken. In die gevallen is de enige oplossing teruggaan en een ander ingrediënt kiezen.
Kortom, deze studie laat zien dat hoewel we de middelen hebben om de meeste accidentele juridische fouten in de AI-wereld te herstellen, we dat niet kunnen voor de fouten die vanaf het begin in de ingrediënten zijn gebakken. De onderzoekers concluderen dat hoewel geautomatiseerde tools zoals LicenseRec een enorme stap voorwaarts zijn, ontwikkelaars nog steeds zorgvuldige detectives moeten zijn die de regels van elk ingrediënt controleren voordat ze beginnen met koken. Zonder die menselijke nauwkeurigheid blijft de AI-keuken een risicovolle plek waar de regels voortdurend worden vergeten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.