From Hugging Face to GitHub: Tracing License Drift in the Open-Source AI Ecosystem
Dieses Paper präsentiert die erste groß angelegte Prüfung des Open-Source-KI-Ökosystems, die aufzeigt, dass 35,5 % der Übergänge von Modellen zu Anwendungen durch das Eliminieren restriktiver Klauseln einen Lizenzdrift aufweisen, und führt eine Regel-Engine ein, die in der Lage ist, 86,4 % solcher Konflikte zu erkennen, um kritische Governance-Herausforderungen zu bewältigen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der künstlichen Intelligenz als eine riesige, geschäftige Küche vor, in der Köche die klügsten Rezepte zubereiten, die je gesehen wurden. In dieser Küche sind die „Zutaten“ riesige Haufen von Daten (wie Fotos oder Texte), die „Rezepte“ sind die auf diesen Daten trainierten Computermodelle und die „fertigen Gerichte“ sind die Apps und Tools, die Menschen tatsächlich nutzen. Aber es gibt einen Haken: Jede Zutat und jedes Rezept kommt mit einem spezifischen Satz von Regeln, wie einem geheimen Vertrag. Einige Regeln besagen: „Du kannst dies so kochen, wie du willst!“ (permissiv), während andere sagen: „Du musst dein neues Rezept teilen, wenn du das Gericht verkaufst“ oder „Du darfst dies nicht für militärische Zwecke verwenden“ (restriktiv).
Das Problem ist, dass viele Köche in der Eile, großartige neue Gerichte zu kreieren, diese Verträge nicht lesen. Sie nehmen vielleicht eine super-strenge Zutat, ignorieren deren Regeln und servieren sie in einem Gericht, das behauptet, frei für alle zu sein. Dies schafft ein rechtliches Minenfeld, in dem die ursprünglichen Schöpfer verklagt werden könnten und die Menschen, die das Essen essen, in Schwierigkeiten geraten könnten, ohne es überhaupt zu wissen. Wissenschaftler nennen dies „Lizenzdrift“, bei dem die Regeln entfernt werden, während das Essen vom Vorratsschrank zum Teller wandert. Ein Team von Forschern beschloss zu untersuchen, wie chaotisch diese Küche wirklich ist.
Die Forscher, James Jewitt und sein Team von der Queen's University, beschlossen, ein riesiges End-to-End-Audit dieser KI-Küche durchzuführen. Sie schauten nicht nur auf ein paar Regale; sie scannten eine atemberaubende Anzahl von 364.917 Datensätzen (die rohen Zutaten), 1,6 Millionen Modellen (die Rezepte) und 140.000 GitHub-Projekten (die fertigen Gerichte). Sie wollten sehen, ob die Regeln befolgt werden, während sich die Zutaten von der Datenstufe über die Modellstufe bis hin zu den Anwendungen bewegen, die Menschen jeden Tag nutzen.
Was sie fanden, war ein bisschen so, als würde man entdecken, dass die meisten Köche die „Nicht Verkaufen“-Schilder ihrer Zutaten ignorieren. Ihre Studie enthüllte ein massives Muster von „Lizenzdrift“, bei dem restriktive Regeln systematisch gelöscht werden. Speziell fanden sie heraus, dass in 35,5 % der Fälle, wenn ein Modell in eine Softwareanwendung umgewandelt wird, die neue App die restriktiven Regeln des ursprünglichen Modells fallen lässt und es als „permissiv“ (frei für alle) neu deklariert. Es ist, als hätte ein Koch ein seltenes, geschütztes Gewürz genommen, das nur für die Hausküche erlaubt war, es in ein Restaurantmenü integriert und behauptet, das ganze Gericht sei frei für jeden zum Kopieren.
Der schockierendste Teil dieses „Drifts“ geschieht ganz am Ende. Wenn Modelle mit spezifischen „Machine Learning“-Lizenzen (die oft spezielle Regeln darüber haben, wie sie verwendet werden dürfen) in Anwendungen umgewandelt werden, verschwinden 99,6 % dieser speziellen Regeln. Nur 0,4 % der fertigen Anwendungen behielten die ursprünglichen Einschränkungen bei. Es scheint, als würden Entwickler diese komplexen, regelintensiven Modelle wie einfache, kostenlose Softwarebibliotheken behandeln und dabei das Kleingedruckte völlig vergessen.
Das Team hat jedoch nicht nur den Unfug aufgezeigt, sondern auch ein Werkzeug gebaut, um ihn zu beseitigen. Sie entwickelten eine Prototyp-Engine namens LicenseRec. Stellen Sie sich das wie einen super-intelligenten Kücheninspektor vor, der all diese verwirrenden Verträge lesen und sofort sagen kann, ob ein Gericht legal ist. Sie testeten dieses Tool und fanden heraus, dass es 86,4 % der Lizenzkonflikte in Softwareanwendungen lösen konnte. Dies deutet darauf darauf hin, dass der Großteil der rechtlichen Probleme nicht dadurch entsteht, dass die Zutaten unmöglich zu mischen sind, sondern weil die Leute einfach die falschen Etiketten für ihre Gerichte auswählen.
Aber es gibt eine Grenze dessen, was ein Werkzeug tun kann. Die Forscher fanden heraus, dass etwa 14,2 % der Konflikte „unlösbar“ waren. Das ist wie der Versuch, eine „Kein Fleisch“-Zutat mit einem „Muss Fleisch verwenden“-Rezept zu mischen; kein Umetikettieren der Welt kann das korrigieren. Wenn die ursprüngliche Zutat strikt für die kommerzielle Nutzung verboten war, können Sie nicht einfach einen „Frei für Geschäfte“-Aufkleber auf das fertige Gericht kleben. In diesen Fällen ist die einzige Lösung, zurückzugehen und eine andere Zutat zu wählen.
Kurz gesagt zeigt diese Studie, dass wir zwar die Werkzeuge haben, um die meisten versehentlichen rechtlichen Fehler in der Welt der KI zu beheben, wir aber die Fehler nicht beheben können, die von Anfang an in die Zutaten eingebacken sind. Die Forscher kommen zu dem Schluss, dass, obwohl automatisierte Tools wie LicenseRec ein riesiger Schritt nach vorn sind, Entwickler immer noch vorsichtige Detektive sein müssen, die die Regeln jeder einzelnen Zutat prüfen, bevor sie mit dem Kochen beginnen. Oh ohne diese menschliche Sorgfalt bleibt die KI-Küche ein riskanter Ort, an dem die Regeln ständig vergessen werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.