Warum möchte die KI-Industrie sich selbst stoppen?

Gregor Schmalzried (0:05)

Hi, hier ist Gregor vom KI-Podcast. Ihr hört gleich unsere neue Folge. Und sehr, sehr schnell, nachdem wir mit der Aufnahme für diese Folge fertig waren, haben einige der wichtigsten KI-Chefs der USA alle nacheinander gefordert, ja, man müsse tatsächlich die Entwicklung der künstlichen Intelligenz etwas verlangsamen und besser koordinieren. Was es damit auf sich hat, findet ihr in den Shownotes, aber vor allem, wie es dazu kam, das hört ihr jetzt.

Fritz Espenlaub (0:33)

Gregor, schön mal wieder mit dir hier zu sitzen.

Gregor Schmalzried (0:36)

Ja, wir haben öfter mal die Gelegenheit, glaube ich, aber jetzt, jetzt hast du es in sich.

Fritz Espenlaub (0:41)

Die Frage ist, wie oft noch?

Gregor Schmalzried (0:43)

Wie oft noch?

Fritz Espenlaub (0:43)

Wie oft noch?

Gregor Schmalzried (0:44)

Moment mal, Fritz, mir schwarnt übeles. Möchtest du über das machen, was letzte Woche auf einmal so en vogue geworden ist? Möchtest du kündigen, Fritz?

Ich dachte, du willst darauf hinaus. Ich dachte, das ist der Joke, auf den du hinaus möchtest.

Fritz Espenlaub (1:01)

Nein, der Joke, auf den ich hinaus möchte, ist, wie viele KI-Podcast-Folgen werden wir noch aufnehmen können, vor die KI-Apokalypse eintritt. Weil das kann ja jetzt jeden Tag passieren. Zumindest, wenn man sich umguckt und schaut, was gerade im Silicon Valley passiert. Da posten das nämlich gerade alle.

Gregor Schmalzried (1:17)

Ja, das ist eine super Überleitung. Weißt du, was meine Überleitung gewesen wäre? Meine Überleitung wäre gewesen, ja, ich möchte kündigen, Das hat sich auch von einem Kündig gekündigt. Hat auch Jacob Coxson von der Firma Anthropic. Und das müssen wir, liebe Hörerinnen und Hörer des KI-Podcasts, euch wahrscheinlich nicht erzählen. Das habt ihr wahrscheinlich mitbekommen. Ja, also ich glaube, seit, was waren so die letzte große Kündigung dieser Art, die stattgefunden hat, vielleicht Joe Biden, ja, war keine Kündigung mehr so viel diskutiert. Denn Jacob Coxson kannte bis letzte Woche niemand. Ja, es war ein Forschungsmitarbeiter bei Anthropic, der KI-Firma hinter Claude. Vorher war er bei OpenAI und dann hat er auf Twitter geschrieben oder auf X, ja, I resigned from Anthropic today. Ich habe heute bei Anthropic gekündigt, schreibt er. Die letzten drei Jahren habe ich dort pre-training Forschung gemacht. Also erst bei OpenAI und jetzt seit kurzem bei Anthropic. Keine Firma von den beiden verhält sich verantwortungsvoll.

Sie rasen direkt zu sich selbst verbessern der Superintelligenz und sie spielen mit uns ich.

Und dann geht es noch ein bisschen weiter. Und irgendwann steht dann da auch noch mal, die Leute, die die KI bauen, glauben ernsthaft, sie könnte uns alle vor Ende des Jahrzehnts umbringen. Ja.

Fritz Espenlaub (2:33)

Und jetzt könnte man natürlich denken, okay, ja, mal wieder so ein Verrückter, der gekündigt hat, der irgendwie seiner Firma was auswischen möchte. Aber dann hat jemand auf diesen Tweet reagiert, der selber noch bei Anthropic arbeitet. Und zwar nicht einfach nur irgendjemand, sondern Evan Hubinger heißt der, der tatsächlich der Chef ist von dem Team, das bei Anthropic dafür zuständig ist, die KIs ja zu verantwortungsvollen KIs zu machen. Und hat gesagt, ja, Jacob hat recht, wir glauben das wirklich. Wir glauben tatsächlich, dass KI alle Menschen töten könnte. Ich persönlich glaube, das ist ungefähr 10% wahrscheinlich innerhalb der nächsten zehn Jahre.

Und ja, und damit war dann die Hölle los im Internet. Das ist zu, also auf Twitter glaube ich, zu einem der erfolgreichsten, in Anführungszeichen erfolgreichsten, also meistgesehensten Tweets aller Zeiten geworden.

Gregor Schmalzried (3:27)

Ja, es macht aber auch Sinn. Das hier fühlt sich an wie der Teil in dem Science-Fiction-Film, wo der einsame Forscher, der die Katastrophe kommen sieht, versucht die Öffentlichkeit zu warnen und niemand hört ihm zu. So fühlt sich das an und das hat sich offensichtlich verfangen. Eine Menge Leute haben darüber gesprochen, sprechen immer noch darüber. Also tun wir das selbstverständlich auch und nicht irgendwie, sondern wir haben gesagt, wir nehmen das, was diese Warnung in sich trägt, wirklich mal auseinander, schauen, wie ernst sollten wir das nehmen, wo kommt das eigentlich alles her und müssen wir Angst haben.

Das machen wir jetzt. Wir sind der KI-Podcast. Ich bin Gregor Schmalzried.

Fritz Espenlaub (4:06)

Und ich bin Fritz Espenlaub.

Gregor Schmalzried (4:10)

Fritz, du hast mir was sehr Wichtiges gesagt über Jacob Coxen. Und zwar hast du mich darauf hingewiesen, dass du glaubst, dass alle diese Mann zuhören. Warum?

Fritz Espenlaub (4:22)

Ich weiß nicht, ob das der Grund ist. Er hat eine erstaunliche Ähnlichkeit mit Harry Potter. Das muss man, das kann man glaube ich sagen.

Gregor Schmalzried (4:29)

Das ist furchtbar. Er sieht exakt aus wie Harry Potter.

Fritz Espenlaub (4:32)

Und ich kann mir vorstellen, dass das auf irgendeiner ganz unbewussten Ebene in Leuten so einen Puls auslöst. Moment mal, dieses Gesicht, dem muss man doch vertrauen. Das ist ein ehrlicher junger Mann, der die Welt vor einer großen Gefahr warnen möchte. Genauso wie Harry Potter es damals gemacht hat.