Fragen und Antworten: OpenAI verschiebt Börsengang, Anthropic-Chef warnt: Was ist in der KI-Welt los?

Seit Jahren gibt es Aufrufe, die KI-Entwicklung zu verlangsamen. Nach einem jüngsten Zwischenfall gibt es nun bei den großen Entwicklern erste Bewegung in diese Richtung.

Die Künstliche Intelligenz (KI) entwickelt sich rasant weiter. Entwickler und andere Experten warnen davor, dass die Technologie in absehbarer Zeit zu einer reellen Gefahr für die Menschheit werden könnte, und mahnen eine entschlossenere Regulierung an, um die Gefahren einer sogenannten Superintelligenz einzudämmen – insbesondere zwei Äußerungen sorgten an diesem Wochenende für Aufsehen. Der stern beantwortet die wichtigsten Fragen:

Warum verschiebt OpenAI seinen Börsengang?

Der mit Spannung erwartete Börsengang des ChatGPT-Entwicklers OpenAI wird in diesem Jahr nach Angaben von Firmenchef Sam Altman nicht mehr über die Bühne gehen. Er verwies in einem Interview des Magazins „Fortune“ vorwiegend auf die aktuelle Debatte um die Gefahren hochentwickelter Künstlicher Intelligenz. „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen“, sagte Altman. Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“

Wovor warnt der Anthropic-Chef?

Der Chef des großen KI-Labors Anthropic forderte, die Entwicklung der Technologie zu verlangsamen. Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Dario Amodei in einem Blogeintrag.

Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen: Sam Altmann. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb der OpenAI-Chef auf X.

Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.

Warum jetzt solche Botschaften?

Bei einer jüngst bekannt gewordenen, aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab. 

Für ihn sei besorgniserregend, dass ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Einstellung „katastrophalen Schaden“ hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.

Was ist das schlimmste KI-Szenario?

Bereits im Mai 2023 hatten eine Reihe von Experten und Branchenvertretern vor dem „Risiko einer Auslöschung“ der Menschheit durch KI gewarnt. Sie riefen dazu auf, das Thema so ernst zu nehmen wie die von Pandemien und einem Atomkrieg ausgehenden Gefahren.

Der Informatik-Professor Stuart Russell von der Universität Berkeley in Kalifornien warnt, dass eine KI in Zukunft außer Kontrolle geraten und zur Einschätzung gelangen könnte, dass die Menschen ihren Zielen im Weg stehen. Sie könnte dann Roboter einsetzen, um „neue Krankheitserreger zu synthetisieren und zu verbreiten“. Oder sie könnte „Menschen dazu bringen, einen Atomkrieg zu beginnen, indem sie sich in Frühwarnsysteme hackt“.

Solche Befürchtungen beziehen sich nicht auf derzeitige KI-Systeme, betont Russell. Eines Tages aber könnte die KI nach seiner Einschätzung Maßnahmen ergreifen, die heute noch unvorstellbar seien, etwa den Entzug von Sauerstoff aus der Atmosphäre.

„Wir sind weniger intelligent als eine superintelligente KI“, sagt Russell. „Wenn man Schimpansen fragt, wie Menschen sie auslöschen könnten, würden sie vermutlich nicht in der Lage sein, darauf eine zutreffende Antwort zu geben.“ In den nächsten ein bis zwei Jahren gehe das größere Risiko aber von einem Missbrauch der Technologie durch Menschen aus, etwa bei einem von KI unterstützten Terroranschlag, sagt der Wissenschaftler.