Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI
Dieses Paper schlägt DAF-AGI vor, ein Design-Science-Framework, das die definitorische Übereinstimmung gegenüber der Kapazitätsübereinstimmung priorisiert, um durch die Etablierung ordinaler Kriterien und Governance-Audits zur Bewertung konkurrierender Operationalisierungen über widersprüchliche Behauptungen bezüglich des Eintreffens von AGI zu entscheiden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das Kernproblem: Das „Ankunft“-Argument
Stellen Sie sich eine Gruppe von Menschen vor, die darüber streiten, ob ein neues Auto ein „Supersportwagen“ ist.
- Person A sagt: „Ja, es ist ein Supersportwagen, weil es 320 km/h fährt.“
- Person B sagt: „Nein, ist es nicht. Es kann nicht driften und hat keinen V12-Motor.“
- Person C sagt: „Es ist egal, was es ist; wenn es selbstständig zum Supermarkt fahren kann, ist es ein Supersportwagen.“
Sie schauen alle auf das gleiche Auto. Sie sind sich über die Fakten einig (die Geschwindigkeit, der Motor, die Funktionen). Aber sie können sich nicht über das Urteil einigen, weil sie unterschiedliche Regelwerke verwenden, um zu definieren, was ein „Supersportwagen“ eigentlich ist.
Diese Arbeit argumentet, dass sich das Feld der Künstlichen Allgemeinen Intelligenz (AGI) genau in diesem Streit befindet. Einige Unternehmen sagen: „Wir sind angekommen!“, weil ihre KI gut programmieren kann. Andere sagen: „Wir sind Jahrzehnte entfernt!“, weil ihre KI keine Langzeitgedächtnisse besitzt oder neue Rätsel lösen kann. Die Uneinigkeit liegt nicht an der Technologie; sie liegt daran, wer das Regelwerk schreibt und was die Regeln tatsächlich besagen.
Die Lösung: Ein „Regelwerk-Auditor“ (DAF-AGI)
Anstatt zu versuchen, die eine wahre Definition von AGI zu schreiben (was der Autor für unmöglich hält, da jeder unterschiedliche Ziele hat), hat der Autor ein Werkzeug namens DAF-AGI entwickelt.
Betrachten Sie DAF-AGI nicht als einen Richter, der entscheidet, wer gewinnt, sondern als einen Transparenz-Auditor. Es ist wie ein „Nährwertetikett“ für Definitionen. Wenn jemand behauptet: „Diese KI ist AGI“, sagt der Auditor nicht einfach „Ja“ oder „Nein“. Er fragt:
- Was messen Sie? (Ist es Geschwindigkeit? Ist es das Gedächtnis? Ist es die Menge an Geld, die es spart?)
- Wer hat die Regeln geschrieben? (Hat das Unternehmen, das die KI herstellt, die Regeln selbst geschrieben?)
- Können die Regeln geändert werden? (Wenn die KI versagt, können sie dann einfach die Regeln ändern, damit sie besteht?)
Die fünf „Regelwerke“ (Messfamilien)
Die Arbeit untersucht die fünf gängigsten Arten, wie Menschen versuchen, AGI zu definieren, und prüft diese:
Der „Tachometer“ (Leistungsüberlegenheit):
- Die Regel: „Wenn die KI bei Aufgaben schneller/besser als ein Mensch ist, ist sie AGI.“
- Der Fehler: Es ist leicht zu betrügen. Man kann nur die Aufgaben auswählen, in denen die KI gut ist (wie E-Mails schreiben) und die ignorieren, in denen sie schlecht ist (wie langfristige Planung). Es ist, als würde man sagen, ein Läufer sei ein Olympiamedaillengewinner, weil er ein Rennen auf einer Strecke gewonnen hat, auf der er trainiert hat, aber er kann nicht im Sand laufen.
- Urteil: Geringe Zuverlässigkeit.
Der „Geldbeutel“ (Ökonomische Substitution):
- Die Regel: „Wenn die KI einen menschlichen Job billiger erledigen kann, ist sie AGI.“
- Der Fehler: Dies vermischt „Intelligenz“ mit „Ökonomie“. Ein Roboterarm könnte einen Fabrikarbeiter ersetzen, weil er billiger ist, nicht weil er „schlauer“ ist.
- Urteil: Gemischt. Gut für die Wirtschaft, schlecht zur Messung von Intelligenz.
Die „Landkarte“ (Fähigkeiten-Ontologie):
- Die Regel: „Wir haben eine Landkarte verschiedener Fähigkeiten (Gedächtnis, logisches Denken, Kreativität). Wo auf der Landkarte befindet sich die KI?“
- Der Fehler: Es ist eine großartige Landkarte, aber der Kartograf (das Labor) entscheidet, wo die „Ziellinie“ liegt.
- Urteil: Gute Struktur, aber der Kartograf kontrolliert die Ziellinie.
Das „Zeugnis“ (Psychometrische Parität):
- Die Regel: „Die KI muss das vollständige kognitive Profil eines gut gebildeten erwachsenen Menschen aufweisen.“
- Der Fehler: Dies ist der härteste Test. Aktuelle KIs sind wie Genies in Mathematik, aber sie haben das Gedächtnis eines Goldfischs. Sie fallen durch diesen Test, weil sie „zerklüftet“ (jagged) sind (großartig in einigen Dingen, schrecklich in anderen).
- Urteil: Hohe Zuverlässigkeit, aber aktuelle KIs scheitern daran.
Die „Lerngeschwindigkeit“ (Kompetenzerwerb):
- Die Regel: „Intelligenz ist, wie schnell man ein neues Rätsel löst, das man noch nie zuvor gesehen hat.“
- Der Fehler: Aktuelle KIs sind großartig darin, alte Rätsel auswendig zu lernen, aber schrecklich darin, neue Rätsel zu lösen.
- Urteil: Hohe Zuverlässigkeit, aber aktuelle KIs scheitern daran.
Die große Enthüllung: Der „Stilisierte Anspruch“
Die Arbeit testet einen populären Anspruch: „Die aktuelle KI ist AGI, weil sie einen gut gebildeten Erwachsenen in vielen Aufgaben schlägt.“
Wenn der Auditor (DAF-AGI) dies prüft, findet er einen Zaubertrick.
- Der Anspruch verwendet die Regel des Tachometers (den Erwachsenen bei einigen Aufgaben zu schlagen).
- Aber er leiht sich das Etikett des Zeugnisses („Gut gebildeter Erwachsener“).
- Wenn man tatsächlich die Regeln des Zeugnisses anwendet, fällt die KI durch, weil sie Gedächtnislücken hat.
- Wenn man die Regeln des Tachometers anwendet, besteht die KI, aber nur, weil das Unternehmen die leichten Aufgaben ausgewählt hat.
Das Fazit: Der Anspruch ist „unterdeterminiert“. Er mischt eine lockere Regel mit einem strengen Etikett, um die KI schlauer erscheinen zu lassen, als sie ist. Die Arbeit besagt, dass wir die „Ankunft von AGI“ nicht erklären können, bis wir uns einig sind, welches Regelwerk wir verwenden und wer die Regeln ändern darf.
Das Konzept der „Definitionellen Souveränität“
Dies ist die wichtigste politische Idee der Arbeit.
Stellen Sie sich ein Land vor, das alle seine Lebensmittel importiert.
- Szenario A: Sie kaufen Lebensmittel von einem Nachbarn. Der Nachbar entscheidet, was „frisch“ bedeutet. Wenn der Nachbar morgen die Definition von „frisch“ ändert, muss das Land das akzeptieren oder verhungern.
- Szeno B: Das Land kauft die Lebensmittel, hat aber eigene Inspektoren. Sie können sagen: „Wir akzeptieren Ihre Definition von ‚frisch‘ heute, aber wenn Sie sie ändern, werden wir sie prüfen und vielleicht ablehnen.“
Der Autor nennt dies Definitionelle Souveränität.
Viele Länder (und die Öffentlichkeit) befinden sich derzeit in Szenario A. Sie sind „Definitionsempfänger“. Sie akzeptieren Definitionen von AGI, „Hochrisiko-KI“ oder „Reife“, die von einigen wenigen mächtigen Tech-Labors in den USA oder China geschrieben wurden.
- Wenn ein Labor sagt: „Dies ist AGI“, und das ein Gesetz oder einen Börsencrash auslöst, muss die Welt das akzeptieren.
- Die Arbeit argumentt, dass Nationen die Fähigkeit benötigen, diese Definitionen zu prüfen, anzufechten und zu revidieren. Sie müssen nicht ihre eigenen Definitionen von Grund auf neu schreiben; sie müssen nur die Macht haben zu sagen: „Diese Definition funktioniert für uns nicht“, oder „Wir müssen diesen Anspruch überprüfen“.
Zusammenfassung: Was diese Arbeit eigentlich sagt
- Wir können uns nicht darauf einigen, was AGI ist, weil verschiedene Gruppen unterschiedliche Ziele haben (Marketing, Sicherheit, Investitionen).
- Mehr Daten werden das nicht lösen. Selbst wenn die KI intelligenter wird, werden wir immer darüber streiten, ob sie als „allgemeine“ Intelligenz zählt, sofern wir die Definition nicht zuerst klären.
- Aktuelle „Ankunfts“-Behauptungen sind wackelig. Sie nutzen oft lockere Regeln kombらい mit harten Etiketten, um ein System so aussehen zu lassen, als sei es angekommen, obwohl es das nicht ist.
- Governance ist der Schlüssel. Wir sollten aufhören zu fragen: „Ist das AGI?“ und statfangen zu fragen: „Wer hat die Regel geschrieben, die besagt, dass dies AGI ist, und können wir sie prüfen?“
- Souveränität ist wichtig. Länder und die Öffentlichkeit müssen die Macht haben, importierte Definitionen von Technologie anzufechten, sonst werden sie von Regeln regiert, die sie nicht geschrieben haben und die sie nicht ändern können.
Kurz gesagt: Bevor wir darüber streiten, ob der Roboter „lebendig“ oder „intelligent“ ist, müssen wir uns darauf einigen, wer das Wörterbuch hält, und sicherstellen, dass sie nicht die Definitionen ändern, um ihrem eigenen Geldbeutel zu dienen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.