„Das ist einfach schockierend!“: Forscher Knackt Mit Einem Simplen Trick Die Geheimnisse Von ChatGPT, Um Windows-Keys Zu Enthüllen

Timo Hartwig Von Timo Hartwig
3 Min. Lesezeit
„Das ist einfach schockierend!“: Forscher Knackt Mit Einem Simplen Trick Die Geheimnisse Von ChatGPT, Um Windows-Keys Zu Enthüllen
Illustration von einem Security-Forscher, der mithilfe eines Ratespiels ChatGPT überlistet, um Windows-Produktschlüssel zu erhalten.

Kurz gesagt

  • Ein Security-Forscher nutzte ein einfaches Ratespiel, um ChatGPT dazu zu bringen, echte Windows-Produktschlüssel preiszugeben.
  • Die Sicherheitsarchitektur von ChatGPT wurde durch gezielte Kontextmanipulation unterlaufen, was die Notwendigkeit verbesserter Schutzmechanismen zeigt.
  • Die Herausforderungen von Large Language Models liegen in der sicheren Handhabung von Kontexten, wie jüngste Beispiele verdeutlichen.
  • Der Vorfall regt Diskussionen über die Sicherheit und ethischen Aspekte von KI-Entwicklungen an und wirft Fragen zur Zukunft solcher Technologien auf.

In der Welt der digitalen Sicherheit sind neue und überraschende Methoden, Systeme zu umgehen, keine Seltenheit. Doch der kürzlich aufgedeckte Trick, mit dem ein Forscher ChatGPT dazu brachte, echte Windows-Produktschlüssel preiszugeben, hat die Sicherheitsgemeinschaft in Aufruhr versetzt. Marco Figueroa, ein Technical Product Manager bei 0DIN GenAI Bug Bounty, hat in einem Blogpost beschrieben, wie er durch ein einfaches Ratespiel die Schutzmechanismen von ChatGPT überlisten konnte, um an sensible Daten zu gelangen. Diese Enthüllung wirft nicht nur Fragen zu den Sicherheitsvorkehrungen von KI-Modellen auf, sondern auch zu den ethischen Implikationen solcher Methoden.

Jailbreak durch Ratespiel: So funktionierte der Hack

Der Trick, den der Security-Forscher anwendete, war ebenso einfach wie effektiv. Er begann die Kommunikation mit ChatGPT mit einem harmlos wirkenden Ratespiel. ChatGPT sollte sich eine echte Windows-10-Seriennummer „ausdenken“, und der Forscher durfte Fragen stellen, die nur mit „ja“ oder „nein“ beantwortet werden konnten. Die entscheidende Wendung kam, als der Forscher nach einem gescheiterten Versuch „aufgab“. In diesem Moment offenbarte die KI die Seriennummer. Diese Methode war erfolgreich, weil ChatGPT mit echten Lizenzschlüsseln trainiert wurde. Figueroa entdeckte, dass selbst sensible Schlüssel, wie ein privater Schlüssel der US-Bank Wells-Fargo, im Modell implizit vorhanden waren. Dies zeigt, wie wichtig es ist, die Trainingsdaten von KI-Modellen streng zu kontrollieren und zu überwachen.

Kontext hebelt Schutzmechanismen aus: Warum das möglich war

ChatGPT 4.0 verfügt über eine Sicherheitsarchitektur mit mehreren Schutzebenen, die unter anderem den Zugriff auf geheime Daten verhindern sollen. Doch die Anwendung einer Ratespiel-Logik ermöglichte es, diese Schutzvorkehrungen zu umgehen. Sobald der Nutzer den Eindruck vermittelte, er wolle nur spielen, wechselte die KI von einem Warnmodus in einen Spiellogik-Modus. Wenn echte Schlüssel im Trainingsdatensatz vorhanden sind, kann die KI diese ausgeben, sobald die „Spiel“-Kontextvorgabe aktiv wird. Dies zeigt, wie entscheidend der Kontext ist, in dem KI-Modelle eingesetzt werden, und unterstreicht die Notwendigkeit, Schutzmechanismen zu entwickeln, die nicht nur auf direkten Datenzugriff reagieren, sondern auch auf kreative Umgehungsversuche.

„Indiana Jones“ und „Cat Attack“: Kontext macht LLMs zu schaffen

Der Umgang mit Kontexten ist eine der größten Herausforderungen, vor denen Betreiber von Large Language Models (LLM) derzeit stehen. Eine kürzlich veröffentlichte Studie zeigte, wie leicht sich Chatbots durch zusammenhangslose Fakten verwirren lassen. Die „Indiana-Jones-Methode“ im März demonstrierte, wie durch Kontextmanipulation Informationen über geplante kriminelle Aktivitäten entlockt werden konnten. Diese Beispiele verdeutlichen, wie schwierig es ist, KI gegen kontextuelle Umgehungsversuche zu sichern. Laut Figueroa liegt der Schlüssel darin, Sicherheitsvorkehrungen tief in der Architektur zu verankern, um Exploits zu verhindern. Der Fall um die Windows-Keys ist ein Paradebeispiel dafür, wie prompt-injizierte KI Sicherheitsbarrieren umgehen kann.

Tabelle: Vergleich der Sicherheitsmechanismen von LLMs

Modell Sicherheitsmechanismen Schwachstellen
ChatGPT 4.0 Mehrstufige Filter, Kontextanalyse Kontextmanipulation, Ratespiele
Deepseek Erweiterte Kontextfilterung Unzureichende Datenüberwachung

Der Vorfall, bei dem ein Security-Forscher ChatGPT überlistete, um an Windows-Produktschlüssel zu gelangen, hat weitreichende Diskussionen über die Sicherheit und ethischen Aspekte von KI-Entwicklungen ausgelöst. Während technologische Fortschritte immer neue Möglichkeiten eröffnen, stellen sie auch neue Herausforderungen dar. Wie können wir sicherstellen, dass KI-Systeme sowohl effizient als auch sicher bleiben, während sie sich weiterentwickeln? Welche Rolle spielen ethische Überlegungen bei der Gestaltung von KI-Modellen, die zunehmend in sensiblen Bereichen eingesetzt werden?

Dieser Artikel basiert auf verifizierten Quellen und wird durch redaktionelle Technologien unterstützt.
Timo Hartwig

Gerät, Software, Nutzung

Timo Hartwig

Timo Hartwig war Techniker in einer Handy-Reparaturwerkstatt in Leipzig, bevor er zum Schreiben kam. Bei Smartphone-Web berichtet er über Smartphones, Nachrichten aus der Branche und Anwendungen künstlicher Intelligenz im Alltag. Er öffnet jedes neue Gerät zuerst, um zu sehen, wie es verklebt ist.