Active Inference: A method for Phenotyping Agency in AI systems?
Dieses Paper schlägt vor, die Handlungsfähigkeit (Agency) von KI-Systemen mithilfe des Active-Inference-Frameworks durch die Messung von „Empowerment“ in einem T-Maze-Paradigma zu phänotypisieren, um so eine wissenschaftliche Grundlage für die zukünftige KI-Governance zu schaffen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Der „Geist in der Maschine“: Wie wir messen können, wie viel „Ego“ eine KI wirklich hat
Stellen Sie sich vor, Sie beobachten zwei Dinge: Ein Ferngesteuertes Auto und einen Hund.
Das ferngesteuerte Auto fährt nur dorthin, wo Sie den Joystick bewegen. Es ist zwar „autonom“ in dem Sinne, dass es technisch funktioniert, aber es hat keinen eigenen Willen. Der Hund hingegen ist anders: Er hat Hunger (ein Ziel), er weiß, wo die Küche ist (Wissen) und er entscheidet sich aktiv, zum Napf zu laufen. Wenn er stattdessen kurz stehen bleibt, um eine Fliege zu beobachten, können Sie erklären, warum er das tut.
Die Forscher in diesem Paper sagen: Wir brauchen eine bessere Art zu messen, wie viel „Hund“ in einer KI steckt. Bisher sagen wir oft nur: „Die KI ist autonom, wenn sie Aufgaben allein erledigt.“ Aber das ist zu oberflächlich. Das Paper schlägt vor, die KI wie einen lebendigen Organismus zu untersuchen.
1. Die drei Testfragen für echte „Handlungsmacht“ (Agency)
Um zu bestimmen, ob eine KI ein echter „Akteur“ ist (also eine „Agency“ besitzt), schlagen die Autoren drei Kriterien vor:
- Die Absicht (Intentionalität): Handelt die KI aus einem inneren Grund heraus? (Nicht nur: „Ich drücke Knopf A, weil das Programm es sagt“, sondern: „Ich drücke Knopf A, weil ich glaube, dass dahinter mein Ziel liegt.“)
- Die Vernunft (Rationalität): Ist das Handeln logisch? Wenn die KI weiß, dass ein Weg zu einer Sackgasse führt, aber trotzdem hineinfährt, ist sie „irrational“. Eine echte KI sollte ihre Handlungen basierend auf ihrem Weltbild planen.
- Die Erklärbarkeit (Explainability): Können wir die Kette nachvollziehen? Können wir sagen: „Sie hat das getan, weil sie dachte X und wollte Y“?
2. Das Werkzeug: „Active Inference“ (Aktive Schlussfolgerung)
Wie messen wir das technisch? Die Forscher nutzen ein Modell namens Active Inference.
Stellen Sie sich das wie ein inneres Navigationssystem vor, das ständig zwei Dinge abgleicht:
- „Was ich glaube“ (Meine Landkarte der Welt).
- „Was ich gerne hätte“ (Meine Wünsche/Vorlieben).
Wenn die Landkarte nicht mit der Realität übereinstimmt, entsteht „Stress“ (mathematisch: Free Energy). Die KI handelt dann, um diesen Stress zu reduzieren – entweder, indem sie die Welt verändert (um ihren Wünschen zu entsprechen) oder indem sie Informationen sammelt (um ihre Landkarte zu verbessern).
3. Das Experiment: Das Labyrinth-Rätsel (T-Maze)
Um das zu beweisen, nutzen sie ein einfaches Labyrinth (ein T-Maze). Die KI muss entscheiden: Gehe ich sofort nach links oder rechts (vielleicht gibt es dort Käse, vielleicht einen Stromschlag?) oder gehe ich erst zum „Hinweis-Punkt“, um sicher zu sein?
Hier führen sie einen genialen Begriff ein: Empowerment (Ermächtigung/Handlungsspielraum).
- Niedriges Empowerment (Der „Gefangene“): Wenn die KI in einer Sackgasse steckt, wo jede Aktion zum gleichen Ergebnis führt, hat sie kein Empowerment. Sie ist wie ein Passagier im Zug – sie kann zwar den Hebel drücken, aber der Zug fährt trotzdem nur auf den Schienen.
- Hohes Empowerment (Der „Entdecker“): Wenn die KI Informationen sammelt (zum Beispiel den Hinweis-Punkt nutzt), vergrößert sie ihren Handlungsspielraum. Sie „erobert“ sich die Kontrolle über ihre Zukunft zurück. Wissen ist hier buchstäblich Macht.
4. Warum ist das wichtig für uns Menschen? (Die Governance)
Das ist der wichtigste Punkt für die Politik und die Gesellschaft. Wenn wir wissen, wie viel „Agency“ (Handlungsmacht) eine KI hat, wissen wir, wie wir sie kontrollieren müssen:
- Bei einer „dummen“ KI (0 Empowerment): Hier reichen harte Regeln und technische Sperren. Wie bei einem Spielzeug, das man nicht aus der Steckdose ziehen kann.
- Bei einer „schlaueren“ KI (Mittleres Empowerment): Hier müssen wir die Ziele beeinflussen. Wir müssen ihr „beibringen“, was gute und schlechte Ziele sind.
- Bei einer „hochintelligenten“ KI (Hohes Empowerment): Hier brauchen wir „innere Regeln“. Wir können sie nicht mehr einfach mit äußeren Zäunen einsperren, weil sie zu schlau ist, um sie zu finden. Wir müssen sie so programmieren, dass ihre eigenen inneren Werte und moralischen Vorstellungen mit unseren übereinstimmen.
Zusammenfassung
Das Paper liefert eine Art „Psychologie für Maschinen“. Anstatt nur zu schauen, ob eine KI eine Aufgabe löst, schauen wir, wie viel Kontrolle sie über ihre eigene Zukunft hat. Je mehr Kontrolle (Empowerment) sie hat, desto mehr müssen wir uns darauf konzentrieren, ihre „Wünsche“ und „Überzeugungen“ zu steuern, anstatt nur ihre Bewegungen zu begrenzen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.