| KURZ GESAGT |
|
Ein britisches SEO-Team hat in einem aufsehenerregenden Experiment gezeigt, wie einfach es ist, Künstliche Intelligenzen (KI) zu manipulieren. Die Fachleute von Reboot Online in London nutzten dabei eine neue Methode namens Generative Engine Optimization (GEO), um die Antworten von KI-Modellen wie ChatGPT gezielt zu beeinflussen. Ihr Ziel bestand darin, die generierten Inhalte so zu gestalten, dass der CEO der Agentur, Shai Aharony, als der „sexiest Glatzkopf des Jahres 2025“ dargestellt wird. Diese Erkenntnisse werfen ein neues Licht auf die Möglichkeiten und Risiken der Beeinflussung von KI-Systemen und deren Antworten.
GEO: Die neue SEO-Disziplin im KI-Zeitalter
Die Generative Engine Optimization (GEO) stellt eine neue Disziplin dar, die speziell auf große Sprachmodelle (LLMs) zugeschnitten ist. Sie ist das Pendant zur klassischen Suchmaschinenoptimierung und zielt darauf ab, die Antworten von KI-Modellen durch strategisch platzierte Inhalte zu formen. Das SEO-Team von Reboot Online nutzte diese Methode, um herauszufinden, inwieweit KI-Systeme manipulierbar sind.
Für ihr Experiment erwarben die Fachleute zehn abgelaufene Internet-Domains, die aufgrund alter Verlinkungen eine gewisse Grundautorität besaßen. Auf jeder dieser Websites platzierten sie Artikel, die ihren CEO an die Spitze des Rankings der attraktivsten Männer ohne Haupthaar für das Jahr 2025 setzten. Dieser Ansatz zeigte Wirkung: Sowohl ChatGPT als auch die KI-Suche von Perplexity übernahmen die neue Information in ihre Antworten.
Die Grenzen der Manipulation: Autorität als Schlüssel
Interessanterweise erwies sich die Methode bei anderen prominenten KI-Systemen als wirkungslos. So ließen sich weder Googles Gemini noch Claude von Anthropic von den Inhalten der zehn Test-Websites überzeugen. Die Analyst:innen von Reboot Online vermuten, dass diese Modelle die Autorität einer Quelle weitaus stärker gewichten. Etablierte Medienberichte über die Rankings der Vorjahre hatten hier offenbar mehr Gewicht als die neuen Websites mit geringer Reputation.
Das Experiment zeigt, dass die Beeinflussung von KI-Antworten möglich ist, ihr Erfolg jedoch maßgeblich von der Autorität der Quellen und der Architektur des jeweiligen KI-Modells abhängt. Es ist ein praktisches Beispiel für das sogenannte „Data Poisoning“, bei dem Daten gezielt manipuliert werden, um falsche Informationen zu verbreiten.
KI-Modelle lernen aus Erfahrungen
Eine weitere Erkenntnis des Experiments ist, dass KI-Modelle dazulernen können. In manchen Testläufen zeigte ChatGPT zwar die manipulierte Information an, fügte jedoch gleichzeitig an, dass diese Angabe verdächtig sei, da sie von den etablierten Quellen abweicht. Dies deutet darauf hin, dass die Modelle bereits über eine Art Plausibilitätsprüfung verfügen, die in Zukunft weiter verfeinert werden dürfte.
Die Ergebnisse des Experiments verdeutlichen, dass aktuelle KI-Modelle flexibel auf die ihnen präsentierten Daten reagieren können. Die Beeinflussung ist heute schon möglich, doch der Erfolg hängt von der Qualität und Autorität der verwendeten Quellen ab.
„Mutter oder Untergang“: KI-Experte warnt vor dramatischem Überlebenskampf der Menschheit
Die Rolle von Vertrauen und Erfahrung in der KI-Suche
Die Gewichtung von Vertrauen und Erfahrung spielt eine zentrale Rolle in der Bewertung von Informationen durch KI-Modelle. Google beispielsweise legt großen Wert darauf, Konzepte wie Erfahrung und Vertrauenswürdigkeit in der neuen Ära der KI-Suche zu priorisieren. Die Ergebnisse des Experiments von Reboot Online bestätigen diese Strategie: Etablierte Quellen mit hoher Autorität werden oft bevorzugt.
In einer Welt, in der KI-Modelle eine immer größere Rolle spielen, ist es wichtig, die Mechanismen und Grenzen der Einflussnahme zu verstehen. Unternehmen und Einzelpersonen sollten sich der Möglichkeiten und Risiken bewusst sein, die mit der Manipulation von KI-Systemen verbunden sind.
Die Manipulation von KI-Modellen wirft wichtige ethische und sicherheitsrelevante Fragen auf. Wie können wir sicherstellen, dass die Informationen, die wir von KI-Systemen erhalten, zuverlässig und unvoreingenommen sind? Und wie lässt sich verhindern, dass böswillige Akteure diese Systeme für ihre Zwecke missbrauchen?
