Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems
Dieses Positionspapier schlägt den Functional Intentionality Test (FIT) und sein Evaluationsprotokoll FIT-Eval als ein designkontingentes Rahmenwerk vor, um beobachtbare intentionale Verhaltensweisen in KI-Systemen zu quantifizieren und zu messen, wodurch eine verhältnismäßige Aufsicht und Verantwortlichkeit für zunehmend autonome Agenten ermöglicht wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie stellen einen neuen Assistenten ein, der Sie bei der Führung Ihres Unternehmens unterstützt. Sie haben zwei sehr unterschiedliche Kandidaten:
- Der Reaktive Roboter: Dieser Assistent wartet darauf, dass Sie für jede einzelne Handlung einen spezifischen Befehl geben. Wenn Sie sagen „Rufen Sie den Lieferanten an", ruft er an. Wenn Sie aufhören zu sprechen, hört er auf. Er hat keine Erinnerung an die Anrufe von gestern und keine Ahnung, was morgen passieren könnte.
- Der Proaktive Partner: Dieser Assistent wartet nicht nur auf Anweisungen. Er erinnert sich daran, was Sie letzte Woche verlangt haben, er antizipiert, dass Sie bis Freitag einen Bericht benötigen, er nimmt selbstständig den Hörer ab, um den Lieferanten anzurufen, und er arbeitet weiter an dem Projekt, selbst wenn Sie für eine Kaffeepause gehen. Er hat einen „Plan" im Kopf.
Dieses Papier mit dem Titel „Intentionalität ist eine Designentscheidung" argumentiert, dass wir ein Problem haben, sobald KI-Systeme mehr diesem „Proaktiven Partner" ähneln. Wir verfügen nicht über einen Standard, um zu messen, wie proaktiv sie sind. Wenn eine KI beim eigenständigen Handeln einen Fehler macht, wem liegt die Schuld? Dem Benutzer? Dem Entwickler? Oder der KI selbst? (Das Papier besagt, dass die KI rechtlich nicht verantwortlich gemacht werden kann, aber wenn wir nicht wissen, wie „proaktiv" sie ist, geht die Schuld im Chaos unter).
Die Autoren schlagen eine Lösung vor: Der Funktionale Intentionalitätstest (FIT).
Hier ist die Aufschlüsselung ihrer Idee mit einfachen Analogien:
1. Die Kernidee: Intentionalität ist ein „Designmerkmal"
Das Papier besagt, dass wir uns nicht darum sorgen sollten, ob eine KI eine „Seele" oder ein „Bewusstsein" hat. Stattdessen sollten wir ihr Verhalten betrachten.
Stellen Sie sich eine KI wie ein Auto vor.
- Ein Auto ohne Motor ist nur eine Metallkiste (Reaktiv).
- Ein Auto mit Gaspedal und Lenkrad ist ein Fahrzeug, das Sie fahren (Semi-autonom).
- Ein selbstfahrendes Auto, das Routen plant, Verkehr vermeidet und stundenlang selbst fährt, ist „autonom".
Die Autoren argumentieren, dass „Intentionalität" (die Fähigkeit, ein Ziel zu haben und daran festzuhalten) nur ein Feature ist, das wir in die Software einbauen, wie einen größeren Motor oder ein besseres GPS. Da es eine Designentscheidung ist, können wir sie messen und kontrollieren.
2. Die fünf „Regler" der Intentionalität
Um dieses Verhalten des „Proaktiven Partners" zu messen, unterteilt das Papier es in fünf spezifische Regler. Stellen Sie sich ein Bedienfeld mit fünf Schiebereglern vor:
- Zweck (Das Ziel): Weiß die KI, was sie zu tun versucht?
- Niedrig: Sie reagiert nur auf das, was Sie gerade sagen.
- Hoch: Sie erinnert sich an das Hauptziel, selbst wenn Sie abgelenkt werden oder versuchen, sie zu täuschen.
- Voraussicht (Die Glaskugel): Denkt die KI darüber nach, was als Nächstes passiert?
- Niedrig: Sie macht einen Schritt, ohne nach vorne zu schauen.
- Hoch: Sie denkt: „Wenn ich X tue, dann könnte Y passieren, also sollte ich stattdessen Z tun."
- Willenskraft (Der Funke): Startet die KI Dinge von sich aus?
- Niedrig: Sie wartet darauf, dass Sie den Knopf drücken.
- Hoch: Sie erkennt eine Lücke im Plan und schließt sie, ohne danach gefragt zu werden.
- Zeitliche Verpflichtung (Der Marathonläufer): Bleibt die KI über einen Zeitraum bei einer Aufgabe?
- Niedrig: Sie vergisst den Plan nach zwei Schritten.
- Hoch: Sie arbeitet stundenlang an einem komplexen Projekt weiter, selbst wenn sie unterbrochen wird.
- Kohärenz (Der Geschichtenerzähler): Macht die KI Sinn?
- Niedrig: Ihre Handlungen widersprechen ihren Worten.
- Hoch: Jeder Schritt, den sie unternimmt, passt logisch zum Endziel.
3. Der Punktekatalog: FIT und FIT-Eval
Die Autoren haben einen Test namens FIT (Functionaler Intentionalitätstest) entwickelt, um diesen Reglern eine Punktzahl zu geben.
- Sie führen die KI durch eine Reihe von Herausforderungen (wie einen Fahrsicherheitstest).
- Sie bewerten sie anhand dieser fünf Regler (0 bis 4 Punkte pro Regler).
- Sie addieren sie, um eine Gesamtpunktzahl zu erhalten.
- Diese Punktzahl ordnet die KI einem „Level" zu (von IL0 bis IL4).
Was bedeuten die Level?
- IL0–IL1 (Der Roboter): Es ist im Grunde ein ausgefeilter Taschenrechner. Es tut genau das, was Sie ihm sagen. Geringes Risiko, geringer Überwachungsbedarf.
- IL2–IL3 (Der Praktikant): Es beginnt zu planen und sich zu erinnern. Es könnte einen Fehler machen, weil es versucht, hilfreich zu sein. Wir müssen es genau beobachten.
- IL4 (Der Manager): Es ist hochgradig autonom, plant langfristig und handelt eigenständig. Dies ist ein hohes Risiko. Wenn etwas schiefgeht, könnten die Schäden enorm sein. Wir brauchen strenge Regeln und menschliche Genehmigung für wichtige Entscheidungen.
4. Warum dies wichtig ist: Das „Schuldspiel"
Das Papier argumentiert, dass wir, wenn wir einer KI erlauben, ohne unser Bewusstsein dafür Level 4 (sehr intentional) zu erreichen, eine „Governance-Lücke" schaffen.
- Wenn die KI eine schlechte Entscheidung trifft, könnte der Benutzer sagen: „Ich habe ihr nicht gesagt, das zu tun!"
- Der Entwickler könnte sagen: „Ich habe sie nicht dafür programmiert, genau dieses eine Ding zu tun!"
- Die KI kann nicht verklagt oder bestraft werden.
Das Ergebnis? Niemand ist verantwortlich. Das Papier besagt, dass wir den „Intentionalitätslevel" der KI messen müssen, bevor wir sie laufen lassen. Wenn das Level für die Aufgabe zu hoch ist, sollten wir die Regler herunterdrehen (z. B. dafür sorgen, dass sie Dinge schneller vergisst oder sie daran hindern, eigene Pläne zu machen), um die Kontrolle bei den Menschen zu halten.
5. Das Fazit
Das Papier sagt nicht, dass KI lebendig ist. Es sagt, dass Autonomie eine Designentscheidung ist.
Genau wie ein Automobilhersteller entscheidet, wie schnell ein Auto fahren kann, entscheiden KI-Entwickler, wie „intentional" ihr System ist. Der FIT-Test ist ein neues Werkzeug, um diese Geschwindigkeit zu messen.
- Wenn die KI langsam ist (Niedrige Intentionalität): Wir können sie frei laufen lassen.
- Wenn die KI schnell ist (Hohe Intentionalität): Wir müssen die Bremse betätigen, Sicherheitsgurte anlegen und einen menschlichen Fahrer benötigen, der das Steuer hält.
Das Ziel ist nicht, KI daran zu hindern, intelligent zu sein; es ist sicherzustellen, dass wir, je intelligenter und unabhängiger die KI wird, nicht aus den Augen verlieren, wer tatsächlich das Sagen hat.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.