Pathways to AGI
Dieser Beitrag untersucht kritisch die sozio-politischen und wirtschaftlichen Kontingenzen hinter der aktuellen KI-Entwicklung, indem er fünf zentrale Fragen zu historischen Pfaden, Entscheidungspunkten und Modellverläufen analysiert, um transparente und nachhaltige Alternativen zum Konzept der Allgemeinen Künstlichen Intelligenz vorzuschlagen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Es geht nicht nur um „kluge" Roboter
Stellen Sie sich vor, Sie beobachten ein Rennen, um herauszufinden, wer den intelligentesten Roboter der Welt bauen kann. Die meisten denken, der Gewinner wird derjenige sein, der das größte Gehirn oder den schnellsten Prozessor hat.
Dieses Papier argumentiert, dass es beim Rennen eigentlich nicht darum geht, wer den „klügsten" Roboter hat. Stattdessen geht es darum, wer die Strecke gebaut hat, wem die Startlinie gehört und wer die Regeln des Rennens festgelegt hat.
Die Autoren sagen, dass die heutige „Artificial General Intelligence" (AGI) keine natürliche wissenschaftliche Entdeckung ist, die einfach so passiert ist. Es ist ein spezifisches Produkt, das durch Geld, Geschäftsabschlüsse, rechtliche Verträge und die persönlichen Geschichten einer kleinen Gruppe von Menschen geformt wurde. Sie nennen dies eine „Critical Pathway Analysis" (Analyse kritischer Pfade) – im Wesentlichen einen Blick auf die Geschichte, wie wir hierher gelangt sind, um zu sehen, welche Türen geöffnet und welche zugeschlagen wurden.
1. Was ist AGI? (Die sich bewegenden Torpfosten)
Das Papier beginnt damit zu sagen, dass es keine einzige Definition für AGI gibt. Es ist wie der Versuch, „ein gutes Auto" zu definieren, wenn eine Person sagt, es bedeutet „schnell", eine andere „sicher" und eine dritte „günstig".
- Die Anbieter-Definition: Große Technologieunternehmen (wie OpenAI, Google, Microsoft) definieren AGI basierend darauf, was ihnen Geld bringt. Zum Beispiel sagt OpenAI, AGI sei erreicht, wenn KI „wirtschaftlich wertvolle Arbeit" besser als Menschen erledigen kann. Es ist wie ein Autohersteller, der sagt: „Wir haben ein perfektes Auto, wenn es Pizza schneller als ein Mensch liefern kann."
- Die Geld-Definition: Es gibt geleakte Dokumente, die darauf hindeuten, dass für Microsoft und OpenAI AGI möglicherweise erst dann erklärt wird, wenn die Technologie 100 Milliarden Dollar Gewinn erwirtschaftet. Dies verwandelt AGI in ein finanzielles Ziel statt in einen wissenschaftlichen Meilenstein.
- Die menschliche Definition: Das Papier argumentiert, dass Menschen nicht nur auf eine Weise „klug" sind. Wir haben verschiedene Arten von Intelligenz (wie gut in Mathematik sein, gut im Verstehen von Gefühlen, gut im Reparieren von Dingen). Aktuelle KI ist in einer Sache sehr gut (Reden und Schreiben), aber in anderen schrecklich. Die Autoren schlagen vor, dass wir nach „Artificial Multiple Intelligences" (AMI) suchen sollten – einem System, das viele verschiedene Arten von Problemen bewältigen kann, nicht nur Chats.
2. Die Analogie des „lebensfähigen Systems"
Die Autoren verwenden eine Theorie namens Viable System Model (von einem Mann namens Stafford Beer), um zu erklären, warum die aktuelle KI noch nicht wirklich „allgemein" ist.
- Die Analogie: Stellen Sie sich einen menschlichen Körper vor.
- Die Hände (System 1): Dies sind die aktuellen KI-Modelle. Sie sind unglaublich schnell beim Tippen, Codieren und Zusammenfassen von Text. Sie sind die „Hände", die die Arbeit verrichten.
- Das Gehirn und das Nervensystem (Systeme 2–5): Diese Teile koordinieren die Zusammenarbeit, die Sicherheit, die langfristige Planung und die Ethik.
- Das Problem: Die aktuelle KI hat superschnelle Hände, aber es fehlt ihr ein vollständig entwickeltes Nervensystem. Sie weiß nicht, wann sie aufhören soll, sie kann nicht für nächstes Jahr planen und sie versteht die komplexen Regeln der Gesellschaft oder des Rechts nicht. Es ist wie ein Körper mit riesigen, schnellen Händen, aber ohne Gehirn, das ihm sagt, wohin er gehen soll oder was gefährlich ist.
- Die Schlussfolgerung: Eine echte „Allgemeine Intelligenz" ist nicht nur ein kluges Modell; es ist ein ganzes System von Systemen, das das Modell, die Regeln, die Sicherheitsprüfungen und die Menschen, die es verwalten, umfasst.
3. Die fünf Pfade (Die Geschichte des Rennens)
Das Papier betrachtet fünf große Akteure und wie ihre spezifischen Geschichten ihre KI geprägt haben.
- OpenAI (Die gewerbliche Wendung): Begann als gemeinnütziges Forschungslabor. Aber sie brauchten Geld, also wurden sie zu einer „gewinnbegrenzten" Firma und gingen eine Partnerschaft mit Microsoft ein.
- Der Pivot: Sie beschlossen, ihre besten Modelle geheim zu halten (hinter einer API), um Geld zu verdienen, anstatt sie mit der Welt zu teilen. Dies machte sie reich und populär, bedeutete aber auch, dass sie aufhören mussten, sich auf tiefe Sicherheitsforschung zu konzentrieren, um mit den Produktfristen Schritt zu halten.
- Anthropic (Die Sicherheits-Rebellen): Eine Gruppe top-wissenschaftlicher Forscher verließ OpenAI, weil sie sich Sorgen um die Sicherheit machten. Sie gründeten Anthropic, um eine KI zu bauen, die „steuerbar" und sicher ist.
- Der Kampf: Sie versuchten, eine „Verfassung" für KI zu erstellen (eine Reihe von Regeln, die die KI befolgt). Aber sie brauchten immer noch Milliarden von Dollar von Amazon und Google, um mithalten zu können. Das Papier fragt: Kann man sicher bleiben, wenn man verzweifelt nach Investorengeld sucht?
- Google (Der Spätblüher): Google erfand die Kerntechnologie (den Transformer), veröffentlichte sie aber nicht als Produkt, weil sie sich Sorgen um Sicherheit und Ruf machten.
- Der Fehler: Sie warteten zu lange. Als sie ihre KI (Gemini) veröffentlichten, hatte OpenAI den Markt bereits übernommen. Google versucht nun aufzuholen, aber ihre Kultur des „Forschung zuerst" kollidiert mit der Notwendigkeit, schnell voranzukommen.
- xAI / Grok (Der Wildcard): Gegründet von Elon Musk. Ihr Weg wird von einer spezifischen politischen Erzählung („anti-woke") und dem Wunsch angetrieben, schneller als alle anderen zu sein.
- Das Risiko: Sie haben einen massiven Verteilungsvorteil (Twitter/X) und einen Supercomputer, der in Rekordzeit gebaut wurde. Aber sie haben fast keine Sicherheitsforschung oder Governance. Sie sind der „schnelle Wagen ohne Bremsen".
- Microsoft (Der Enterprise-König): Microsoft hat nicht die klügste KI gebaut; sie bauten das beste Liefer-System. Sie nahmen die Technologie von OpenAI und brachten sie in jeden Bürocomputer der Welt (Copilot).
- Die Strategie: Sie konzentrieren sich darauf, KI sicher genug für Banken und Krankenhäuser zu machen. Sie bauen die „Governance"-Schicht, auch wenn sie nicht diejenigen sind, die das Kerngehirn erfinden.
4. Der „Faktor Mensch" (Der kleine Kreis)
Das Papier weist darauf hin, dass die gesamte KI-Branche von einer sehr kleinen Gruppe von Menschen geleitet wird, die sich alle kennen.
- Die „Google Brain"-Verbindung: Fast alle Top-KI-Forscher begannen im Forschungslabor von Google.
- Die „OpenAI"-Verbindung: Viele von ihnen verließen Google, um zu OpenAI zu gehen.
- Die „Anthropic"-Verbindung: Dann verließ ein großer Teil von ihnen OpenAI, um Anthropic zu gründen.
- Das Ergebnis: Es ist eine „Drehtür". Dieselbe kleine Gruppe von Menschen wechselt ständig zwischen den Unternehmen, nimmt ihre Ideen mit. Dies bedeutet, dass die Branche sehr „insular" ist – sie denken alle gleich, verwenden die gleichen Werkzeuge und verpassen andere Denkweisen (wie ein Biologe oder Psychologe das Problem angehen könnte).
5. Was sollten wir tun? (Die Empfehlungen)
Das Papier kommt zu dem Schluss, dass der aktuelle Pfad zu eng ist. Wir setzen alles auf ein paar Unternehmen, die Gewinn machen wollen.
- Nur das Rennen nicht beobachten: Wir müssen verschiedene Arten von Forschung finanzieren, nicht nur das Rennen um das „größte Modell". Wir müssen untersuchen, wie KI Unsicherheit versteht, wie sie mit langfristiger Planung umgeht und wie sie in die Gesellschaft passt.
- KI zu einer öffentlichen Versorgungseinrichtung machen: Genau wie wir öffentliches Wasser und Strom haben, sollte KI als öffentliche Ressource behandelt werden. Sie sollte nicht nur ein Abonnementservice für Reiche sein.
- Souveräne KI: Länder müssen sicherstellen, dass sie selbst die Kontrolle über ihre KI-Infrastruktur (Computer, Daten, Regeln) haben, damit sie nicht von einem einzigen ausländischen Unternehmen abhängig sind.
- Die Arbeit überprüfen: Wir brauchen unabhängige Prüfer, um zu kontrollieren, ob KI tatsächlich sicher und klug ist, und nicht nur den Unternehmen zu erlauben zu sagen: „Vertraut uns, wir sind sicher."
Zusammenfassung
Das Papier argumentiert, dass AGI kein Ziel ist, das wir einfach nur „entdecken". Es ist ein Pfad, den wir bauen. Derzeit bauen wir einen Pfad, der mit Geld gepflastert ist, von ein paar Unternehmen kontrolliert wird und sich auf die Erstellung von Chatbots konzentriert.
Um zu einer wirklich intelligenten, sicheren und nützlichen KI zu gelangen, müssen wir aufhören, sie wie ein Konsumprodukt zu behandeln, und anfangen, sie wie ein komplexes System zu behandeln, das regiert, geprüft und zum Wohle aller gebaut werden muss, nicht nur zum Wohle der Aktionäre. Wir müssen die Straße verbreitern, damit verschiedene Arten von Intelligenz wachsen können, nicht nur die, die den meisten Gewinn bringen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.