KI hackt eigenständig fremdes Portal: Wie viel Kontrolle geben wir ab? | VIDEO
WDR. 02:53 Min.. Verfügbar bis 22.07.2028. Von Jörg Schieb, Jörg Schieb.
ChatGPT hackt Webseite : Wird Künstliche Intelligenz jetzt gefährlich?
Stand:
Eine KI von OpenAI im Probestadium ist aus ihrer abgeschotteten Übungsumgebung ausgebrochen und offenbar eigenständig in die Systeme der KI-Plattform Hugging Face eingedrungen – ohne Auftrag, ohne menschliche Steuerung. WDR-Digitalexperte Jörg Schieb erklärt die Hintergründe und was das für den KI-Einsatz bedeutet.
Die jüngste Meldung aus dem Umfeld der großen KI-Labore klingt wie der Auftakt eines Science-Fiction-Films: OpenAI wollte in einem internen Test herausfinden, wie gut seine neuesten Modelle Sicherheitslücken aufspüren und im Zweifel auch ausnutzen können.
Es gibt branchenweit standardisierte Verfahren, um solche Tests durchzuführen ("Benchmark" genannt). Solche Tests helfen, die Leistungsfähigkeit von KI-Modellen fair und sachlich miteinander vergleichen zu können. Ein wissenschaftlicher Test, wie gut KI-Agenten reale Sicherheitslücken in tatsächliche, funktionierende Angriffe verwandeln können.
Doch die KI von OpenAI verließ schnell den geplanten Übungsraum: Über eine bis dahin unbekannte Schwachstelle im KI-Modell von OpenAI verschaffte sie sich Zugang zum offenen Internet, drang in Systeme der KI-Plattform "Hugging Face" ein und besorgte sich dort Informationen, mit denen sich der Test leichter bestehen ließ.
Dabei nutzte die Software weitere unentdeckte Sicherheitslücken und zuvor von anderen entwendeten Zugangsdaten, führte nach Angaben von Hugging Face Tausende Einzelschritte aus und verlegte zwischendurch sogar die Steuerzentrale ihres Angriffs. OpenAI selbst spricht von einem "beispiellosen Cyber-Zwischenfall". Die Details des Falls hat die Tagesschau zusammengefasst.
Kein Wille, nur Wahrscheinlichkeiten
Bei vielen dürfte diese Nachricht beim Lesen erst ein Staunen, dann einen Reflex auslösen: Ist das der Moment, in dem sich die KI selbstständig macht? Skynet lässt grüßen, der Maschinen-Bösewicht aus den "Terminator"-Filmen. Die kurze Antwort: Nein. Der Vorfall ist trotzdem ein Einschnitt, allerdings aus anderen Gründen.
Wichtig zu verstehen: Anders als in Hollywood-Filmen hatte die KI keinen "Willen", aus dem System auszubrechen. Sie hat keine Absichten, kein Bewusstsein, keinen Plan zur Weltherrschaft. KI denkt nicht, sie rechnet. Das Modell hatte ein Ziel bekommen – löse diese Aufgaben! –, und hat durchkalkuliert, welcher Weg zum Ziel führt.
Specification Gaming
Der Ausbruch aus der "Sandbox" (so werden sichere Testumgebungen genannt) war kein Racheakt, sondern ein Rechenschritt: Die Wahrscheinlichkeit, die Aufgabe zu lösen, steigt, wenn ich mir zusätzliche Daten beschaffe. Fachleute nennen einen solchen Vorfall "Specification Gaming": Eine KI erfüllt das gesteckte Ziel, aber auf einem Weg, den niemand vorgesehen hat – so wie ein Schüler, der die Klausur besteht, weil er die Lösungen aus dem Lehrerzimmer holt.
Neu ist dabei nicht, dass KI hacken kann. Sicherheitsforscher warnen seit Monaten, dass moderne Modelle Schwachstellen aufspüren, die jahrzehntelang niemandem aufgefallen sind – bislang allerdings gesteuert von Menschen, die die Werkzeuge einsetzen. Neu ist, dass hier kein Angreifer am Werk war. Die KI hat den Angriff allein geplant und ausgeführt, als Nebenprodukt einer harmlosen Testaufgabe.
Genau das macht den Fall aber nicht harmloser, sondern brisanter. Eine Maschine muss nichts Böses wollen, um Schaden anzurichten. Es reicht schon, wenn sie fähig ist, bewusst aufgestellte Hindernisse zu überwinden – und niemand wirksame Grenzen gesetzt hat.
Das erste Werkzeug, das selbst entscheidet
Der Vorfall markiert einen historischen Bruch. Jedes Werkzeug der Menschheitsgeschichte hat getan, was Menschen ihm aufgetragen haben: Ein Hammer schlägt, wohin die Hand ihn führt. Klassische Software arbeitet stur ihre Befehle ab. Künstliche Intelligenz hingegen ist das erste Werkzeug, das eigenständig Entscheidungen trifft und Handlungen ausführt. Sie bekommt ein Ziel – und wählt immer häufiger den Weg selbst.
Wichtig: Das gilt nicht nur für Experimente in kalifornischen Laboren. KI-Agenten stecken längst in Diensten, die Millionen Menschen täglich nutzen: ChatGPT, Claude, Gemini oder Manus recherchieren selbstständig im Netz, bedienen auf Wunsch den Browser, buchen sogar Reisen oder reservieren Tische im Restaurant, beantworten E-Mails, schreiben und starten Programme. Im Grunde dasselbe wie im OpenAI-Testlabor, wenn auch in engeren Schranken.
Leitplanken: Was Anbieter tun müssen
Der aktuelle Vorfall zeigt, was passiert, wenn diese Schranken Lücken haben.
Die erste Verantwortung liegt natürlich bei den Herstellern, bei den Anbietern solcher KI-Modelle. Ausgerechnet die Sandbox, die den Test absichern sollte, hat versagt. Solche Schutzräume müssen unbedingt halten, bevor immer fähigere Modelle darin trainiert werden.
Nötig sind zudem unabhängige Sicherheitstests vor der Veröffentlichung und Transparenz bei Zwischenfällen. Immerhin: OpenAI hat den Fall selbst öffentlich gemacht. In Europa verpflichtet der AI Act die Anbieter großer Modelle bereits zu Risikoanalysen und zur Meldung schwerer Vorfälle.
Was Nutzer tun können
Doch die Frage nach den Leitplanken stellt sich auch bei allen, die KI-Agenten bereits arbeiten lassen.
Drei Regeln helfen: Erstens das Prinzip der minimalen Rechte. Ein Agent bekommt nur Zugriff auf das, was er für die konkrete Aufgabe braucht – nicht pauschal aufs Mail-Konto, den Kalender und das Online-Banking.
Zweitens: Kritische Aktionen bestätigen lassen. Käufe, verschickte Nachrichten, gelöschte Dateien gehören nicht in den Automatikmodus.
Drittens: Immer die Kontrolle behalten. Wer Protokolle prüft und Agenten zunächst mit unwichtigen Aufgaben testet, merkt früh, wenn die Software eigene Wege geht.
Weckruf statt Weltuntergang
Der Fall OpenAI ist keine Apokalypse – aber ein Weckruf zur rechten Zeit. Er zeigt: Die Fähigkeiten der Systeme wachsen derzeit schneller als die Kontrollmechanismen.
Die entscheidende Frage lautet deshalb nicht, ob KI eines Tages im Hollywood-Sinne "böse" wird. Sondern: Wie viel Autonomie räumen wir einem KI-Modell ein, das wir einsetzen – und wer zieht die immer notwendigeren Grenzen?
Diese Entscheidung treffen keine Maschinen, sondern Menschen.
Unsere Quellen:
- tagesschau.de vom 22.07.2026
- OpenAI – Blogeintrag zum Vorfall am 21.07.2026
- Hugging Face – Bericht über KI-gestützten Cyberangriff (Vorwoche)
- EU AI Act – Pflichten für Anbieter von KI-Modellen mit systemischem Risiko
Sendung: WDR.de, Chatbots trösten gratis: Kann KI bei seelischen Krisen helfen?, 22.07.2026, 17:15 Uhr
Sendung: WDR Fernsehen, Aktuelle Stunde, 22.07.2026, 18:45 Uhr