Jetzt kämpft Trump um die gefährlichste Technologie der Welt. Mit Marie-Astrid Langer

Marie-Astrid Langer (0:00)

Der Moment an der Reißleine zu ziehen ist jetzt. Wir müssen auch gar nicht diese ganze KI-Entwicklung stoppen. Wir müssen diesen ICE, der auf uns zudonnert, nicht zum Halten bringen. Wir müssen ihn einfach nur ein bisschen langsamer machen. Und zwar so verlangsam, dass die Menschen, dass die Entwickler in diesen KI-Firmen, dass die Catch-Up machen können, also Catching-Up aufholen können, dass die ihre eigenen Sicherheitsmaßnahmen, den Fähigkeiten der KI anpassen können.

Paul Ronzheimer (0:33)

Es gab ein Thema, das sich hier ganz viele gewünscht haben und das ist die aktuelle Entwicklung um KI. Denn die KI-Debatte, das muss man sagen, in den USA, die eskaliert und das wirklich urplötzlich. Nachdem hunderte Milliarden Dollar in die Entwicklung von KI-Modellen investiert wurden, fordern die wichtigsten Unternehmenschef plötzlich, die Forschung drastisch zu verlangsamen, weil sonst die Gefahr für die Menschheit drohe.

Andere halten wiederum dagegen, unter anderem US-Präsident Donald Trump.

Was ist da gerade los? Wovor waren gerade diese KI-Chefs? Warum kommt das von ihnen? Welche Motive könnten da auch eine Rolle spielen? Und warum will Trump eben nicht auf die Bremse drücken? Ich freue mich, dass Marie-Astrid Langer bei mir ist. Sie ist seit 2018 NZZ-Korrespondentin im Silicon Valley und hat in den vergangenen Tagen viel über genau diese Fragen berichtet. Grüße dich, Astrid.

Marie-Astrid Langer (1:34)

Hallo Paul.

Paul Ronzheimer (1:36)

Astrid, lass uns mal anfangen, was vielleicht manche mitbekommen haben, andere werden es nicht mitbekommen haben. Die Debatte um den Anthropic-Forscher Jacob Coxen, der öffentlich gekündigt hat und seinem eigenen Arbeitgeber ja im Grunde vorgeworfen hat, mit einer Technologie zu spielen, die sie am Ende selbst für potenziell existenzgefährlich halten.

Was ist da genau passiert und wie außergewöhnlich war das?

Marie-Astrid Langer (2:10)

Ja, also die letzte Woche war hier im Silicon Valley wirklich ziemlich verrückt, weil die Ereignisse sich überschlagen haben. Du hast eben gesagt, diese Kündigung von Jacob Coxen, einem KI-Forscher bei einer der führenden KI-Firmen weltweit, Anthropic, deren Modelle schneiden regelmäßig bei diesen Vergleichsportalen, bei den besten Listen der KI-Modelle, belegen die Spitzenplätze. Also wenn da einer der KI-Forscher kündigt und auch noch kündigt, so wie es Coxen getan hat, da schauen dann schon alle hin. Und Coxen hat eben gesagt, ihm reicht es jetzt. Er glaubt, dass auch Anthropic, genauso wie OpenAI, sich völlig verlaufen, völlig verirren und wir als Menschheit auf so einen Abbruch zu rennen. Also wirklich in so eine Schlucht. Weil er, wenn das jemand sagt, der Dinge sieht, die du und ich nicht sehen, weil er Modelle schon kennt, die schon um die Ecke warten, dann schauen da eben alle hin. Und bei Coxen hatte seine Kündigung und seine Warnung eben auch deswegen eine gewisse Authentizität, würde ich sagen, weil er eben mit der Kündigung jetzt seine Aktienoption aufgibt. Also das kostet ihn privat richtig Geld.

Und nicht nur er hat das gesagt. Also er hat quasi den Stein dann ins Rollen gebracht. Aber nicht nur er hat gesagt, dass KI sich in eine Richtung entwickelt, die sehr gefährlich ist für die Menschheit. Weil er konkret gesagt hat, die KI-Modelle werden so mächtig inzwischen, dass sie die Menschheit bedrohen. Und eben nicht nur er hat diese Warnung, diese drastische Warnung ausgesprochen, dann hat auch ein anderer KI-Forscher von OpenAI ihm Recht gegeben und hat gesagt, er sieht das Risiko, dass die KI in das 2030 die Menschheit getötet hat, bei etwa zehn Prozent. Und ich meine, zehn Prozent, also mit dem Risiko würden du und ich ja nicht mal in ein Flugzeug steigen, oder?

Ob das jetzt zehn oder fünf Prozent sind, will ich mal sagen, ist noch gar nicht so klar. War auf jeden Fall zu hoch, das Risiko.

Paul Ronzheimer (4:07)

Woher kommen diese Prozentzahlen? Also ich frage mich dann immer, wie kann man so was sagen? Also woher weiß man das?

Marie-Astrid Langer (4:14)

Ja, das ist ein interessanter Kritikpunkt, denn da haben auch andere Leute gesagt, also es ist ja eigentlich völlig unwissenschaftlich, von einem Wissenschaftler solche Zahlen in den Raum zu stellen.

Ich glaube, es ist im Endeffekt gar nicht so wichtig, ob das jetzt zehn oder zwölf oder fünf Prozent sind. Ich glaube, sie versuchen einfach zu veranschaulichen, wie groß die Gefahr ist und wie mächtig diese KI geworden ist. Denn der Grund, dass diese Warnung ausgerechnet jetzt kommt, der ist ja, dass die Modelle in den vergangenen Monaten so enorm gut geworden sind. Vielleicht ist das dir auch aufgefallen, wenn du Chetchipiti nutzt. Das ist inzwischen schlauer, als es noch vor sechs Monaten war und eine ganz andere Technologie als noch vor einem Jahr.

Und diese KI-Forscher innerhalb der führenden amerikanischen Firmen, die experimentieren ja schon mit Modellen, die noch mal viel besser sind. Und die können jetzt eben auch schon was, das nennt sich in der Fachsprache Recursive Self-Improvement. Dahinter steckt, dass die Modelle sich selber trainieren können. Die können sich quasi, die sind quasi autodidakten, wenn du so willst.