KI-Warnungen aus der Branche : Kommt jetzt die Weltuntergangs-Maschine?

Völlig ausschließen könne man so ein Szenario nicht, meint Gregor Schmalzried, Techjournalist beim Bayerischen Rundfunk und Co-Host von "Der KI-Podcast" bei ARD Sounds. "Aber das könnten Aliens natürlich auch - theoretisch." Wie nah wir einer solchen Technologie wirklich heute sind, da gingen die Meinungen derzeit stark auseinander. Es gebe aber nicht wenige Experten, die sich deswegen große Sorgen machten.

Allgemein gehe man in der Fachszene davon aus, dass in maximal zehn Jahren eine KI zur Verfügung steht, die sich selbst weiterentwickeln kann und dazu keine menschliche Hilfe mehr benötigt.

"Im schlimmsten Fall endet das damit, dass die KI entscheidet, sie braucht uns nicht mehr." Gregor Schmalzried

Dazu müsste die KI noch nicht einmal ein eigenes Bewusstsein entwickeln, wie es in vielen Science-Fiction-Filmen vorhergesagt wird. Es genüge, wenn sich die KI eigene Ziele setze und diese mit höherer Dringlichkeit verfolge als die Vorgaben des menschlichen Entwicklers.

Es handelt sich aktuell um rein theoretische Überlegungen. "Wir haben keine KI, die so reagiert. Sie ist nicht einmal in Sichtweite", betont Gregor Schmalzried. Das bedeute aber nicht, dass man solche Szenarien als reine Hirngespinste abtun könne.

Die jüngsten Hackerangriffe auf fremde Systeme, die mehrere KI-Modelle bei Testläufen ungefragt durchgeführt haben, seien nicht das Ergebnis einer völlig autonomen Entscheidung. "Die haben sich auch nur daran gehalten, was ihnen die Entwickler vorgegeben haben." Die KI habe "nur" Werkzeuge für die Erledigung der Aufgaben genutzt, mit denen die Entwickler nicht gerechnet hatten.

Der Vorwurf gegen die Branchengrößen lautet, dass sie mit den ständigen Warnungen auch ihre eigene Marktmacht schützen wollen. Wenn die KI-Entwicklung streng reguliert werde, dann würde dies Kritikern zufolge vor allem kleinere Tech-Unternehmen treffen, die offene und frei verfügbare KI-Modelle entwickeln. Marktführer wie Anthropic könnten hingegen darauf verweisen, dass ihre geschlossenen Systeme viel leichter überwacht werden können und daher eine effektive Kontrolle möglich sei.

Reines Kalkül seien die Warnungen aber wohl nicht, meint Schmalzried. "Da kommen sicherlich Geschäftsinteresse und eine ehrliche Angst vor einem schlimmstmöglichen Ende zusammen."

Wenn es heißt, dass die KI "außer Kontrolle" sei, denken die meisten an Roboter, die die Menschheit unterjochen wollen. Das ist aber nicht das Problem, wie WDR-Digitalexperte Jörg Schieb sagt.

WDR-Digitalexperte Jörg Schieb

Bildquelle: WDR

Das Problem sei vielmehr, dass wir die Computerprogramme immer weniger verstehen. Die Menschen könnten oft gar nicht mehr nachvollziehen, was die KI, die sich in immer rasanterer Geschwindigkeit ändere, entwickelt - und das gefährde die Sicherheit, so Schieb.

Dazu bräuchte es eine globale Übereinkunft, konkret eine Vereinbarung zwischen den USA und China - also den beiden größten Playern auf dem KI-Markt. Europa spielt auf dem Markt derzeit noch keine wichtige Rolle.

Digitalminister Karsten Wildberger

Bildquelle: REUTERS/Annegret Hilse

Eine internationale Aufsicht ist auch das Modell, dass der deutsche Digitalminister Karsten Wildberger (CDU) unterstützt, sagte ein Sprecher am Sonntag der Nachrichtenagentur AFP. Deutschland wolle dieses Thema in Gespräche mit den USA und China im Rahmen der G7-Gruppe einbringen. Einen Stopp der KI-Entwicklung in Europa sehe das Ministerium hingegen "kritisch und als nicht gangbaren Weg". Es sei das Ziel der Bundesregierung, die digitale Unabhängigkeit zu stärken, "und dazu gehört auch, die KI-Entwicklung in Europa voranzutreiben", betonte der Sprecher.

Ausgeschlossen ist das zwar laut Schmalzried nicht. "Es wäre aber das erste Mal." Die Entwicklung von Künstlicher Intelligenz lasse sich erheblich schwerer überwachen als zum Beispiel die Anreicherung von Uran. Dennoch seien internationale Regeln mehr als überfällig.

Je besser und schneller KI-Systeme werden, desto mehr Sorgen müsse man sich um den Missbrauch der Technologie machen. Es sei zum Beispiel völlig offen, was autoritäre Staaten oder Terrororganisationen mit KI anfangen könnten. "Es geht nicht nur um den Weltuntergang."