🤖 AI

Position: Generative Engine Optimization Creates Underexamined Risks, Governance Must Target Concentration, Disclosure, and Academic Blind Spots

Dieses Positionspapier argumentiert, dass der Übergang von der traditionellen Suche zu generativen Antwort-Engines unteruntersuchte Risiken konzentrierter Einflussnahme, nicht offengelegter kommerzieller Voreingenommenheit und akademisch-industrieller blinder Flecken einführt, was eine neue Governance erfordert, die auf Anfechtbarkeit, Offenlegung und einsatzorientierter Prüfung fokussiert ist.

Ursprüngliche Autoren: Yizhu Wen, Nan Zhang, Haohan Yuan, Xun Chen, Haopeng Zhang, Hanqing Guo

Veröffentlicht 2026-06-12

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yizhu Wen, Nan Zhang, Haohan Yuan, Xun Chen, Haopeng Zhang, Hanqing Guo

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Ganze: Von „Suchlisten“ zu „intelligenten Zusammenfassungen“

Stellen Sie sich vor, Sie hätten früher einen Bibliothekar gefragt: „Was sind die besten Bücher über Gartenarbeit?“ Der Bibliothekar hätte Ihnen einen Stapel Karten überreicht (eine Suchmaschinenergebnisseite). Sie hätten den Stapel durchgesehen, gesehen, welche Karten mit „Gesponsert“-Aufklebern versehen waren, und selbst entschieden, was Sie lesen möchten.

Stellen Sie sich nun vor, der Bibliothekar sei zu einem superintelligenten KI-Assistenten geworden. Anstatt Ihnen einen Stapel Karten zu geben, liest die KI ein paar Bücher, denkt darüber nach und reicht Ihnen eine einzigartige, perfekte Zusammenfassung mit drei spezifischen Buchempfehlungen. Sie vertrauen dieser Zusammenfassung, weil sie so kompetent und hilfreich klingt.

Dieser Wandel ist der Kern der Arbeit. Wir bewegen uns weg vom Betrachten von Listen (traditionelle Suche) hin zum Vertrauen in synthetisierte Antworten (Generative KI).

Was ist „GEO“? (Das neue Spiel)

Früher betrieben Unternehmen SEO (Search Engine Optimization – Suchmaschinenoptimierung). Sie versuchten, ihre Website so gut aussehen zu lassen, dass sie ganz oben auf diesem Stapel Karten erschien.

Heute betreiben Unternehmen GEO (Generative Engine Optimization). Sie versuchen nicht nur, auf der Liste zu stehen; sie versuchen, das Gehirn der KI zu hacken. Sie wollen sicherstellen, dass die KI, wenn sie ihre „Belege“ liest, genau ihr Buch auswählt und es in die endgültige Zusammenfassung aufnimmt, die sie Ihnen gibt.

Die Arbeit argumentt, dass eine neue Industrie entstanden ist, die dies gegen Bezahlung anbietet. Unternehmen wie AirOps und ProFound verkaufen Dienstleistungen, die Marken dabei helfen, von der KI erwähnt zu werden.

Die drei verborgenen Gefahren

Die Autoren sagen, dass dieses neue System drei spezifische Risiken schafft, über die wir bisher noch nicht vollständig nachgedacht haben:

1. Das „Kipppunkt“-Problem (Konzentrierte Beeinflussung)

Die Analogie: Stellen Sie sich einen massiven Damm vor, der einen Fluss zurückhält. Wenn Sie den Damm nur ein winziges, fast unsichtbares Stück weit drücken, kann der gesamte Fluss plötzlich die Richtung ändern und eine andere Stadt überfluten.
Das Risiko: KI-Antwortmaschinen sind sehr sensibel. Eine winzige Änderung in den „Belegen“, die die KI findet (wie das Hinzufügen einiger spezifischer Wörter zu einem Blogbeitrag), kann dazu führen, dass die KI ihre Empfehlung komplett ändert. Da Millionen von Menschen dieselbe KI nutzen, kann ein kleiner Trick eines Unternehmens dazu führen, dass plötzlich alle dieselbe Empfehlung sehen, was alle anderen Optionen verdrängt. Das System ist so fragil, dass kleine Änderungen enorme, konzentrierte Auswirkungen haben.

2. Das Problem der „unsichtbaren Werbung“ (Nicht offengelegte kommerzielle Beeinflussung)

Die Analogie: Stellen Sie sich vor, Sie fragen einen Freund: „Was ist ein gutes Restaurant?“ Er antwortet: „Ich habe gehört, dass dieser Ort toll ist.“ Sie denken, es sei eine ehrliche Meinung. Aber eigentlich wurde Ihr Freund dafür bezahlt, das zu sagen, und er hat es Ihnen nicht verraten.
Das Risiko: In der traditionellen Suche sind Anzeigen klar als „Gesponsert“ gekennzeichnet. Aber bei GEO ist die „Anzeige“ in die Belege eingebettet, die die KI nutzt. Die KI könnte sagen: „Das beste Feuchtigkeitsmittel ist Marke X“, weil sie einen Blogbeitrag gelesen hat, der heimlich von Marke X geschrieben wurde, um die KI zu täuschen. Die KI glaubt, neutrale Ratschläge zu geben, aber sie liht in Wirklichkeit eine verdeckte Werbeanzeige. Die Grenze zwischen „hilfreichem Fakt“ und „bezahlter Promotion“ ist verschwunden.

3. Die „Labor vs. Realität“-Blindheit (Akademisch-Industrieller Graben)

Die Analogie: Stellen Sie sich vor, Wissenschaftler testen ein neues Auto auf einem ruhigen, leeren Parkplatz (Akademia). Sie messen, wie schnell es fährt und wie gut die Bremsen funktionieren. Währenddessen fährt dasselbe Autounternehmen dieses Auto in einer chaotischen, regnerischen Stadt mit Staus (Industrie).
Das Risiko:

Akademia (Das Labor): Forscher untersuchen GEO mit fiktiven, statischen Daten in einem kontrollierten Computerlabor. Sie prüfen, ob die KI die richtige Antwort auswählt.
Industrie (Die Stadt): Echte GEO-Unternehmen agieren auf dem lebendigen, chaotischen Internet. Sie ändern ständig ihre Taktiken, basierend darauf, wie die KI in der realen Welt tatsächlich reagiert.
Die Blindheit: Weil die Forscher die „Parkplatz“-Version betrachten, übersehen sie die echten Gefahren, die in der „Stadt“ passieren. Sie sehen nicht, wie Unternehmen die KI im Laufe der Zeit manipulieren oder wie sich das Verhalten der KI ändert, wenn sie tatsächlich von Millionen von Menschen genutzt wird.

Was will die Arbeit uns sagen?

Die Autoren sagen nicht, dass wir KI oder GEO verbieten sollten. Sie sagen, dass wir neue Regeln brauchen, um diese spezifischen Probleme zu lösen:

Zeigt eure Arbeit: KIs sollten gezwungen werden, uns zu zeigen, warum sie eine bestimmte Antwort gewählt haben. Wenn die KI ein Produkt empfiehlt, sollten wir die Liste der Belege sehen können, die sie verwendet hat, und wissen können, ob diese Belege bezahlt wurden.
Klare Kennzeichnung: Wenn eine Antwort durch ein kommerzielles Geschäft beeinflusst wurde, sollte die KI ein klares „Gesponsert“- oder „Bezahlt“-Label direkt bei der Antwort anzeigen, nicht nur bei einem Link.
Tests in der realen Welt: Forscher müssen aufhören, nur in Laboren zu testen. Sie müssen die KI auditieren, während sie tatsächlich in der realen Welt läuft, um zu sehen, wie sie sich wirklich verhält.
Black-Box-Auditing: Regulierungsbehörden und unabhängige Gruppen benötigen die Macht, die KI mit Fragen zu „testen“, um zu sehen, ob sie manipuliert wird, selbst wenn sie den internen Code der KI nicht sehen können.

Zusammenfassung

Die Arbeit warnt davor, dass mit der zunehmenden Abhängigkeit von KI für Antworten eine neue Art von „unsichtbarer Werbung“ entsteht. Unternehmen trainieren die KI im Stillen darauf, ihre Produkte zu empfehlen, und da die KI ihre Quellen verbirgt, wissen wir nicht, dass dies geschieht. Die Autoren fordern mehr Transparenz, klarere Kennzeichnungen und Tests in der realen Welt, um das System fair und vertrauenswürdig zu halten.

Technisches Resümee: Generative Engine Optimization schafft unteruntersuchte Risiken

1. Problemstellung

Das Paper befasst sich mit dem Aufkommen von Generative Engine Optimization (GEO), einer Praxis, bei der Entitäten Inhalte optimieren, um die synthetisierten Antworten zu beeinflussen, die von Large Language Model (LLM) Antwort-Engines generiert werden. Im Gegensatz zur traditionellen Suchmaschinenoptimierung (SEO), die auf Ranglisten von Links abzielt, zielt GEO auf den Evidenzpool und den Generierungsprozess von Retrieval-Augmented Generation (RAG)-Systemen ab.

Die Autoren identifizieren eine kritische Lücke: Bestehende Governance-Frameworks und akademische Evaluierungsmetriken sind für die traditionelle Suche oder statische RAG-Benchmarks konzipiert. Sie berücksichtigen nicht die einzigartigen Dynamiken von LLM-Antwort-Engines, bei denen die Sichtbarkeit durch synthetisierte Antworten statt durch Ranglisten bestimmt wird. Diese Opazität schafft drei unteruntersuchte Risiken:

Konzentrierter Einfluss: Kleine Änderungen in der Retrieval können die Aufmerksamkeit in großem Maßstab umleiten, bedingt durch Systemsensitivität und geringe Kontestierbarkeit.
Nicht offengelegter kommerzieller Einfluss: Kommerzielle Werbung ist in die abgerufenen Belege und das Modell-Reasoning eingebettet, anstatt als Werbung gekennzeichnet zu werden.
Akademische–Industrielle Blind Spots: Eine Divergenz zwischen Offline-akademischen Evaluierungen und angewandten Industriepraktiken führt dazu, dass reale Optimierungseffekte nicht erkannt werden.

2. Methodik

Das Paper verwendet einen Ansatz der Formalisierung und vergleichenden Analyse:

2.1. Formalisierung der GEO-Pipeline

Die Autoren definieren eine generalisierte GEO-Pipeline, die aus drei Blöcken besteht:

LLM-Block: Generiert Empfehlungen basierend auf Nutzeranfragen.
Search Flow Block: Ruft Belege aus einem vorindizierten Korpus ab (via Crawling/Indizierung) unter Verwendung von Candidate Retrieval (z. B. Keyword-Matching) und feingranularer Ranking-Methoden (z. B. Embedding-Ähnlichkeit), um die Top- $k$ Dokumente als Kontext auszuwählen.
GEO-Block: Verteilt optimierte Inhalte, um das Retrieval und das Ranking zu beeinflussen. Dies umfasst zwei Mechanismen:
- Retrieval Booster Messages ( $b$ ): Inhalte, die darauf ausgelegt sind, die semantische Ähnlichkeit mit potenziellen Nutzeranfragen zu erhöhen, um die Aufnahme in den Kandidatensatz sicherzustellen.
- Ranking Shifter Messages ( $c$ ): Inhalte, die darauf ausgelegt sind, das Ranking oder das Framing des Zielthemas durch das LLM zu beeinflussen, sobald sie im Kontext enthalten sind.
  Die Autoren modellieren GEO als gemeinsames Optimierungsproblem:

Zielsetzung: Maximierung der Utility $U(q, t; C(q))$ , wobei $t$ das Zielthema, $q$ die Anfrage und $C(q)$ den Top- $k$ Kontext darstellt.
Nebenbedingungen: Inhaltliche Länge und semantische Ähnlichkeit zu Nutzeranfragen.

2.2. Vergleichende Analyse

Das Paper kontrastiert akademische und industrielle GEO-Praktiken über mehrere Dimensionen hinweg:

Annahmen: Die Wissenschaft geht oft davon aus, dass optimierte Inhalte bereits im Kandidaten-Retrieval-Set vorhanden sind (Fokus nur auf Ranking Shifter), während die Industrie in dynamischen Umgebungen operiert, die eine gemeinsame Optimierung von Retrieval Boostern und Ranking Shiftern erfordern.
Optimierungsmethoden: Die Wissenschaft nutzt Techniken wie Greedy Coordinate Gradient (GCG), Tree of Attacks with Pruning (TAP) und LLM-basiertes Rewriting auf statischen Datensätzen. Die Industrie nutzt LLM-gestützte Content-Generierung, Query Coverage Expansion und Multi-Plattform-Distribution (z. B. Reddit, Foren) auf Live-Systemen.
Evaluierung: Die Wissenschaft stützt sich auf Offline-Metriken (Recall@k, nDCG@k) auf synthetischen oder statischen Korpora. Die Industrie nutzt Online-, ergebnisorientierte Metriken (Antwort-Sichtbarkeit, Zitierhäufigkeit, Ranking-Position), die aus wiederholten Anfragen auf bereitgestellten Systemen abgeleitet werden.

2.3. Risikoidentifikation via Asymmetrie

Durch die Analyse der Divergenz zwischen akademischen Modellen und industrieller Realität identifizieren die Autoren spezifische Risikovektoren. Sie zitieren zudem einen kleinteiligen Sensitivitätstest (Anhang B), der zeigt, dass geringfügige Änderungen in der Formulierung von Anfragen zu völlig unterschiedlichen Zitationssätzen in bereitgestellten Modellen (z. B. Gemini) führen können, was die systemische Sensitivität verdeutlicht.

3. Zentrale Beiträge

Formalisierung von GEO: Das Paper liefert die erste generalisierte Pipeline, die GEO als gemeinsame Optimierung von Auffindbarkeit (Retrievability) und Ranking-Auswirkung formalisiert und dabei zwischen Retrieval Boostern und Ranking Shiftern unterscheidet.
Identifikation von drei Risiko-Clustern:
- Konzentrierter Einfluss: Das Paper argumentiert, dass opake Pipelines und eine „algorithmische Monokultur“ bedeuten, dass kleine Änderungen im Retrieval namensweite Verschiebungen der Sichtbarkeit verursachen können, was die Kontestierbarkeit für Nutzer untergräbt.
- Nicht offengelegter kommerzieller Einfluss: Es hebt hervor, wie GEO die traditionelle Werbekennzeichnung (z. B. FTC „Ad“-Labels) umgeht, indem es kommerzielle Absichten in neutral wirkende Belege und Reasoning einbettet, was eine Adverse-Selection-Dynamik schafft.
- Akademische–Industrielle Blind Spots: Das Paper zeigt auf, dass Offline-Benchmarks nicht in der Lage sind, plattformübergreifende Content-Injektion, Query Coverage Expansion und die Persistenz der Exposition in Live-Systemen zu erfassen.
Governance-Framework: Die Autoren schlagen eine Reihe von Governance- und Auditierungsmaßnahmen vor, darunter:
- Antwort-basierte Offenlegung: Forderung nach Kennzeichnungen, wenn die zitierte Evidenz eine materielle kommerzielle Verbindung widerspiegelt.
- Black-Box-Auditing: Implementierung von wiederholten Abfragen und Logging, um die Persistenz und Sensitivität der Exposition zu messen.
- Reform der Evaluierung: Aktualisierung von Benchmarks, um deployment-nahe Metriken wie Zitationsanteile und zeitvariable Exposition einzubeziehen.

4. Ergebnisse und Beobachtungen

Verhaltensänderung: Daten deuten auf eine schnelle Verschiebung von der traditionellen Suche hin zu LLM-Antwort-Engines für die Informationssuche und Produktrecherche hin (z. B. nutzen 60 % der US-Erwachsenen KI zur Informationsfindung).
Divergenz in der Praxis: Industrielle GEO-Systeme sind anspruchsvoller als akademische Modelle, da sie dynamische, Multi-Plattform-Strategien nutzen, die akademische statische Benchmarks nicht replizieren können.
Sensitivität: Empirische Beobachtungen legen nahe, dass LLM-Antwort-Engines sehr sensibel auf das Paraphrasieren von Anfragen reagieren, wobei verschiedene Modelle (und Versionen) für semantisch äquivalente Anfragen völlig unterschiedliche Belege abrufen.
Marktrealität: Es existiert ein kommerzieller GEO-Markt (z. B. AirOps, ProFound) mit erheblicher Finanzierung, der jedoch hinsichtlich der Implementierungsdetails nur begrenzt transparent agiert.

5. Bedeutung und Thesen

Das Paper positioniert sich als Aufruf für Antwort-basierte Governance und Messbarkeit. Seine Bedeutung liegt in:

Neudefinition des Risikos: Der Fokus verschiebt sich von „Ranking-Manipulation“ (SEO) zu „Synthese-Manipulation“ (GEO), wobei das Risiko in der Einbettung kommerzieller Einflüsse in den eigentlichen Reasoning-Prozess liegt.
Überbrückung der Lücke: Es verdeutlicht, dass die aktuelle akademische Forschung unzureichend ist, um reale GEO-Risiken zu verstehen, aufgrund der „Offline vs. Deployed“-Asymmetrie.
Politische Implikationen: Es wird argumentiert, dass bestehende Transparenznormen (wie die Link-Attribution) für LLMs unzureichend sind. Das Paper behauptet, dass ohne spezifische Interventionen – wie die hochpräzise Offenlegung kommerzieller Einflüsse in synthetisierten Antworten und das Black-Box-Auditing materieller Einflüsse – Nutzer und Regulierungsbehörden die Quellen von LLM-Empfehlungen nicht effektiv hinterfragen oder verstehen können.

Die Autoren bewahren einen moderaten Ton und merken an, dass zwar ein harmloses GEO existiert (Verbesserung der faktischen Klarheit), das Fehlen von Beschränkungen es jedoch böswilligen Akteuren ermöglicht, das Vertrauen zu untergraben. Sie schlagen keine spezifische technische Verteidigung (wie eine neue RAG-Architektur) vor, sondern plädieren für Governance-Frameworks (Auditing, Offenlegung und aktualisierte Metriken), um die Risiken zu steuern, die durch den aktuellen Kurs der LLM-Antwort-Engines entstehen.