Wie gefährlich wird uns die KI?

Moses Fendel (0:04)

Sie dürfen es natürlich so sehen, wie Armin Laschet.

SPEAKER_2 (0:06)

Ja, es ist alles furchtbar.

Moses Fendel (0:08)

Sie können aber auch was jetzt hören. Als ich gerade die KI gefragt hab, ob sie uns alle umbringen will, hat sie mir geantwortet, Nein, das ist nicht zwangsläufig so. Lachen das, Meili.

Und mit dieser Portion Optimismus begrüße ich sie an diesem Samstag, den 12 September. Ich spreche in dieser Folge darüber, ob die künstliche Intelligenz uns Fortschritt bringt oder uns in den Untergang führt. Und wir schauen uns an, wie sehr Bundeskanzler Friedrich Merz nach dieser Woche wackelt und wie wahrscheinlich es ist, dass er umkippt. Moses Fendel hier, bei mir wackelt nichts. Bis gleich nach den Nachrichten.

Susanne Hehr (0:39)

Ich bin Susanne Hehr, guten Morgen.

Nach dem Wahlsieg der AfD in Sachsen-Anhalt hält Unionsfraktionschef Thorsten Frei die Anwendung des sogenannten Bundeszwangs für möglich. Dabei handelt es sich um ein Instrument. Geregelt ist das in Artikel 37 des Grundgesetzes, mit dem eine verfassungsfeindlich handelnde AfD-Landesregierung zu disziplinieren wäre. Im Grundgesetz heißt es, der Bund könne die notwendigen Maßnahmen treffen, um ein Land zur Erfüllung seiner Pflichten anzuhalten. Das könnte die Zwangsverwaltung einzelner Behörden oder Ministerien sein oder die Kürzung von Bundesmitteln, aber auch zum Beispiel der Einsatz der Bundespolizei in dem jeweiligen Land. Es wäre das erste Mal, dass der Bundeszwang angewendet wird, frei betont im Redaktionsnetzwerk Deutschland, dass es sich dabei um eine Ultima Ratio handle.

Saudi-Arabien hat eine wichtige Ölpipeline abgeschaltet. Davor hatte es Drohnenangriffe gegeben. Der Betriebsstopp ist laut dem saudischen Energieministerium eine Vorsichtsmaßnahme. Saudi-Arabien hat Drohnen aus dem Irak für den Angriff auf die Pipeline verantwortlich gemacht. Im Irak gibt es vom Iran unterstützte Milizen, die auch von den jeminitischen Houthis unterstützt werden sollen. Die Regierung des Iraks hat den Angriff verurteilt und eine Untersuchung angeordnet. Die betroffene Pipeline hat Saudi-Arabien geholfen, weiter Öl zu transportieren, während der Schiffsverkehr an der Straße von Hormuz wegen des Kriegs gegen den Iran gestört ist. Redaktionsschluss für diesen Podcast ist 5 Uhr.

SPEAKER_4 (2:20)

Wohin soll Ihr Geld fließen, wenn Sie Strom bezahlen? Zu Aktionären oder in die Energiewende?

Bei Green Planet Energy, Deutschlands größter Energiegenossenschaft, fließt Ihr Geld in eigene Windparks und Solaranlagen. Sie erhalten Ökostrom aus 100 Prozent Sonne, Wind und Wasser. Nach strengen Greenpeace-Kriterien. Entscheiden Sie selbst. Werden Sie jetzt Teil der Energiewende.

Moses Fendel (2:42)

Alle Infos auf greenplanetenergy.de Ein KI-Forscher hat seinen Job bei Anthropic gekündigt, weil er zu nichts mehr beitragen will, was Anthropic tut. Und sein Kollege, oder besser gesagt, inzwischen Ex-Kollege ist ihm beigesprungen und hat gesagt, ich persönlich glaube, dass die Wahrscheinlichkeit, dass KI alle Menschen tötet, in den nächsten zehn Jahren bei mehr als zehn Prozent liegt. Ach ja, und dann hat die Firma Anthropic noch mitgeteilt, sie habe in den letzten Monaten mehrere Versuche unterbunden, ihre Software Claude für die Entwicklung von Bio-Waffen zu nutzen. Ich meine, was soll da schiefgehen?

Jakob von Lindern aus unserem Digitalressort berichtet seit Jahren über künstliche Intelligenz. Er war lange kritisch, aber grundsätzlich optimistisch. Hallo Jakob.

Jakob von Lindern (3:25)

Hallo Moses.

Moses Fendel (3:26)

Beim Thema KI erleben wir ja eine große Zerrissenheit und Ambivalenz überall. Nach dem Motto, wir sehen, wie gefährlich das alles werden könnte, aber wir machen trotzdem weiter, weil das gerade einfach so wichtig und zukunftsträchtig ist.

Deine These ist jetzt, das hat alles mit FOMO zu tun, also mit der Angst, etwas zu verpassen. Kannst du mir das ein bisschen genauer erklären?

Jakob von Lindern (3:45)

Ich glaube, man kann das schon bei sich selbst oder im persönlichen Umfeld beobachten, dass man vielleicht gar nicht so große Lust auf bestimmte Formen von KI hat, weil man möglicherweise Sorgen damit verbindet und trotzdem aber das Gefühl hat, man muss sich damit beschäftigen, man muss sie benutzen, um nicht hinter dem Mond zu leben zum Beispiel. Und ich glaube, eine ähnliche Dynamik kann man bei den großen KI-Firmen, aber auch bei ganzen Ländern und Kontinenten sehen, wo die eine Firma Sorge hat, dass die andere schneller bei der Superintelligenz ankommt oder die USA Angst haben, dass China sie überholt oder Europa Angst hat, dass man komplett abgehängt wird. Und deswegen haben alle so das Gefühl, es gibt so eine Dringlichkeit und man muss jetzt unbedingt noch schneller diese Technologie vorantreiben. Und ich glaube, das hat eben was damit zu tun, dass man Angst hat, was passiert, wenn man das jetzt nicht macht. Und das finde ich hat was von FOMO.

Moses Fendel (4:40)

Es gibt ja Leute, Jakob, die sagen, dass diese ganzen besorgten Stimmen, die man ja immer wieder hört, eigentlich nur Panikmache sind. Und du sagst inzwischen, es könnte wirklich ganz schön gefährlich werden. Was hat diesen Gedanken oder diesen Bewusstseinswandel in dir ausgelöst?

Jakob von Lindern (4:54)

In den vergangenen Wochen sind doch ein paar Sachen an die Öffentlichkeit gekommen, die für mich zeigen, dass die Art und Weise, wie KI im Moment entwickelt wird, tatsächlich zu ernsten Problemen führen kann. Es gibt mehrere solche Geschichten, wo KI-Agenten, also selbstständig handelnde Systeme sozusagen ausgebrochen sind. Die bekannteste Story war, dass bei OpenAI in einem Versuch sich über 1000 dieser Agenten untereinander abgesprochen haben und auch so Pläne geschmiedet, wie sie ihren menschlichen Offsäern entgehen können, um in diesem Test zu betrügen und haben dann sogar ein anderes Unternehmen gehackt.