KI außer Kontrolle - Wie gefährlich ist Künstliche Intelligenz wirklich?

Ralf Krauter (0:00)

Moritz, ich hab dir zur Einstimmung auf die heutige Folge Musik mitgebracht. Ich wette, du kennst den Song.

Moritz Metz (0:09)

Oh ja, this is the end. Aber wir sind doch erst am Anfang des Podcasts.

Ralf Krauter (0:14)

Ja, ich dachte, das passt doch prima zu unserem Thema heute, denn wir wollen ja über das Ende von allem sprechen, über die Auslöschung der Menschheit und den Weltuntergang.

Ich habe das ausgewählt, weil es gibt ja gerade diese heiße Debatte darüber, ob Künstliche Intelligenz bald die Apokalypse einläutet, weil wir die Kontrolle drüber verlieren. Aber Moritz, so richtig kennen hältst du das bloß für übertriebene Panikmache, oder?

Moritz Metz (0:41)

Nee, ich muss tatsächlich sagen, dass ich in Teilen meine Sichtweise auch im letzten Jahr dazu geändert habe. Das werde ich dir später garantiert erklären.

SPEAKER_3 (0:56)

KI verstehen, der Deutschlandfunk-Podcast über Künstliche Intelligenz im Alltag.

Moritz Metz (1:04)

Mit diesem etwas dystopischen Ende am Anfang sage ich hallo zur neuen Folge KI verstehen, in der wir für euch die laufende Debatte um Sicherheit von KI-Agenten sortieren wollen. Wir, das sind heute Ralf Krauter. Hallo.

Und ich bin Moritz Metz. Und eigentlich gibt es diese Debatte schon seit Sommer. Immer wieder wurde da bekannt, KI-Agenten von insgesamt vier großen US-amerikanischen KI-Konzernen sind aus ihren Sicherheitsumgebungen ausgebrochen und haben dann beunruhigende Dinge getan. Sie haben sich teils zu Tausenden koordiniert und ausgetauscht. Sie haben dabei auch Menschen hintergangen und Spuren verschleiert. Und selbst die KI-Konzernen waren darüber weder informiert noch besonders transparent. Jetzt die Frage an dich, Ralf, warum ist jetzt aber vor knapp zwei Wochen die Debatte um Risiken von KI erneut so hochgekocht?

Ralf Krauter (1:52)

Ja, Moritz, Auslöser war eine virale Kurznachricht eines Ex-Anthropic-Mitarbeitenden, also ein ehemaliger Angestellter dieses großen KI-Tech-Krisen in Kalifornien. Und das wurde dann gefolgt von einem Appell von Anthropic-Chef Daria Amodei, der dann tatsächlich sagte, ja, wir müssen wohl wirklich bei der KI-Entwicklung mal auf die Bremse treten. Es gibt gute Gründe, darüber nachzudenken. Und das hat dann wirklich eine Welle von Reaktionen ausgelöst, von anderen KI-Firmen, die zum Teil zugestimmt haben, zum Teil widersprochen haben, von Fachleuten von der Politik. Und den Hintergrund dieses aktuellen Aufhängers, den hast du ja gerade schon genannt. Es gab eben eine Reihe besorgniserregender Vorfälle, die vielen Menschen Angst machen. Die haben Angst vor den wachsenden Fähigkeiten der KI-Modelle. Sie haben Angst wegen laxer Sicherheitsvorkehrungen bei den Entwicklern.

Und das wirft eben wirklich drei Fragen auf. Haben wir KI noch unter Kontrolle? Wenn ja, wie lange noch? Und was passiert eigentlich danach? Und das sind genau die Dinge, die gerade heiß diskutiert werden in der Fachwelt, in der Politik und ja diese Woche sogar im UN-Sicherheitsrat. Und auch beim Treffen von Chinas Präsident Xi Jinping und Donald Trump steht das Thema Kontrolle und Regulierung von KI auf der Agenda, wie man hört.

Moritz Metz (3:05)

Genau, vielleicht sag ich mal, ob wir zeichnen diese Folge auf am Mittwoch, den 23.9. um jetzt gerade 9.42 Uhr. Und dieses Gipfeltreffen findet übrigens auch dann eben heute statt. Es soll auch ein Abendessen, ein Festessen mit den Präsidenten geben, wo auch einige US-Techbosse dabei sind, anscheinend keine chinesischen Firmen. Und schon am Dienstag gab es in New York eine Sitzung des UN-Sicherheitsrates, wo der US-Präsident übrigens Folgendes gesagt hat.

Also Trump sagt, dass ab sofort alle Dokumente der USA und hoffentlich der ganzen Welt den viel treffenderen Begriff statt Künstliche Intelligenz Superintelligenz verwenden sollen.

Er sagt willkommen in der neuen Welt der Superintelligenz, SI. Das ist auch ein starkes Stück. Trumps Argument ist ja dieses A in AI oder das K in KI steht für künstlich und das klänge so sehr nach Fake. Aber Superintelligenz sei heute real. Diesen Begriff gibt es ja eigentlich schon lange. Den hat Sam Altman, der Chef von OpenAI, schon vor längerer Zeit verwendet. Aber eigentlich die Superintelligenz erst für 2030 angekündigt. Ich glaube aber jetzt nicht, Ralf, dass wir unseren Podcast sofort in SI verstehen umbenennen müssen. Oder was sagst du als Redaktionsleiter?

Ralf Krauter (4:25)

Da würde ich mich auch dagegen wehren. Ich war auch bei allen bisherigen Namensänderungsvorschlägen von Donald Trump skeptisch und würde ihm da ungern folgen wollen.

Moritz Metz (4:34)

Da gibt es ja auch so diverse Gewässer, die umbenannt werden sollten oder wurden.

Ralf Krauter (4:37)

Genau.

Moritz Metz (4:38)

Jedenfalls wollen wir hier in dieser Folge die Ereignisse nochmal rekapitulieren, einordnen, analysieren und auch gucken, was wir über die Motive der Beteiligten wissen, wie schlüssig ihre Argumente sind. Dann fangen wir an mit dem Tweet, Ralf, der die Debatte ins Rollen gebracht hat. Jacob Coxen hat geschrieben, ich habe die letzten drei Jahre bei OpenAI und bei Anthropic an der Grundausbildung von KI Modellen geforscht. Keines der beiden Unternehmen handelt verantwortungsvoll. Die Leute, die KI bauen, glauben ernsthaft, sie, also die KI, könnte uns alle töten, bis zum Ende des Jahrzehnts. Ralf, was ging dir da durch den Kopf, als du das gelesen hast?