KI-Agenten allein zuhaus - Worüber KI-Bots sprechen, wenn kein Mensch zuhört

Friederike Walch (0:00)

Carina, ich will dich zum Einstieg direkt so ein bisschen nerven.

Carina Schroeder (0:03)

Großartig.

Friederike Walch (0:05)

Und zwar würde ich gern dein Wissen aus dem Deutschunterricht ein bisschen auf die Probe stellen.

Carina Schroeder (0:09)

Ach Fedi, ich bin noch alt. Ich weiß nicht, ob ich mich daran erinnern kann.

Friederike Walch (0:13)

Mal abwarten. Ich hab dir einen Klassiker aus der deutschen Dichtkunst mitgebracht. Ich zitiere daraus gleich mal und deine Aufgabe ist, mal zu raten, um welches Werk es sich handelt und was dieses Gedicht mit der heutigen Folge zu tun haben könnte.

Hat der alte Hexenmeister sich noch einmal wegbegeben und nun sollen seine Geister auch nach meinem Willen leben. Sein Wort und Werke merke ich und den Brauch und mit Geistesstärke tu ich Wunder auch, walle walle manche Strecke, dass zum Zwecke Wasser fliess und mit reichem vollem Schwalle zu dem Bade sich ergieße.

Carina Schroeder (0:51)

Ich weiß, was das ist, aber ich weiß nicht, was das ist.

Friederike Walch (0:55)

Du musst es auch nicht wissen unbedingt. Ich finde, das wird auch viel zu überbewertet, diese alten Klassiker. Es ist ein Gedicht von Goethe.

Es heißt Der Zauberlehrling.

Carina Schroeder (1:05)

Natürlich ist es, Gott ist das peinlich.

Friederike Walch (1:07)

Nein, nein, nein.

Carina Schroeder (1:08)

Doch, doch, an dieser Stelle ist es peinlich. Na gut, man muss auch mit Scham leben können. Aber was hat das jetzt mit unserem heutigen Thema zu tun?

Friederike Walch (1:18)

Weißt du ungefähr, um was es in dem Gedicht geht?

Carina Schroeder (1:21)

Nicht mehr, nee.

Friederike Walch (1:22)

Der Zauberlehrling versucht, während der Zauberlehrer weg ist, sich die Arbeit zu erleichtern.

Er geht zu dem großen Zauberbuch und sucht sich einen Spruch raus und bringt einen Besen dazu, den Boden zu wischen. Allerdings läuft das Ganze ein bisschen schief. Der Besen gerät außer Kontrolle, setzt das gesamte Haus unter Wasser. Er will irgendwann den Besen kaputt hauen und dann werden das ganz viele Besen, die alles übernehmen.

Carina Schroeder (1:50)

KI verstehen.

Der Deutschlandfunk-Podcast über Künstliche Intelligenz im Alltag.

Hallo und herzlich willkommen zu einer neuen Folge KI verstehen mit meiner Kollegin Friederike Walch und mir Carina Schroeder. Und eigentlich sollen sie uns das Leben ja leichter machen. Flüge buchen, Termine planen, Mails sortieren, recherchieren, organisieren, kurz uns Arbeit abnehmen. Gerade aber hat man manchmal das Gefühl, dass sie eher Arbeit machen oder vielleicht auch Sorgen machen. Denn immer wieder gibt es Schlagzeilen über Systeme, die bei Sicherheitstests, Regeln umgehen, unerwartete Wege finden oder Dinge tun, die man eigentlich so nicht vorgesehen hat. Die Rede ist natürlich von KI-Agenten. Und wirklich heikel wird's dort, wo selbst Fachleute nicht mehr vollständig nachvollziehen können, was zwischen diesen Agenten eigentlich passiert. Vor allem dann, wenn sie miteinander kommunizieren. Deshalb fragen wir heute, wie reden KI-Agenten untereinander? Warum ist die Kommunikation für uns teilweise so schwer zu verstehen? Und wann wird das ein echtes Kontrollproblem? Und ich freue mich, dass zwischen uns aber die Kommunikation sehr gut läuft, liebe Fedi. Deswegen jetzt erstmal so eine Gefühlsabfrage. Wie geht's dir denn? Ist dein Besorgnisbarometer in den letzten Wochen besonders hoch gestiegen?

Friederike Walch (3:14)

Also ich sag's dir ganz ehrlich, bisschen schon. Ich musste bei der Recherche tatsächlich an die allererste Folge KI verstehen denken. Die lief am 27.3.2023.

Da war ich damals noch nicht dabei, aber ich hab sie natürlich gehört. Und die Frage in dieser ersten Folge war, muss ich Angst vor KI haben? Und das Fazit war damals also eigentlich nein. Also zumindest zu dieser Gedanke, dass KI die Kontrolle übernehmen könnte, sollte bei uns jetzt keine schlaflosen Nächte verursachen.

Carina Schroeder (3:45)

Du siehst heute auch ein bisschen müde aus. Hast du schlaflose Nächte deswegen?

Friederike Walch (3:49)

Nicht deswegen. Aber ich verrate dir später noch, ob ich mir jetzt mehr Sorgen mache als damals. Aber es bringt mich auf jeden Fall direkt zu dem, was sich seitdem verändert hat. Also 2023 hatten wir ja noch keine Ahnung, dass wir heute komplexe Agentensysteme haben würden, die miteinander kommunizieren können, die jetzt schon theoretisch in der Lage sind, einfach unseren Alltag zu planen oder Online-Einkäufe zu machen oder Unternehmen zu hacken.

Und zumindest ich hätte mir damals auch noch nicht ausmalen können, dass es heute nur so ein bisschen mehr als drei Jahre später eben auch zunehmend Berichte darüber gibt, dass Agenten all diese Dinge in Einzelfällen auch scheinbar eigenständig tun oder dass sie dabei manchmal auch Anweisungen umgehen, sag ich jetzt mal.

Und über diese Fälle möchte ich heute mit dir sprechen, also über die Frage, warum brechen Agenten aus? Wie sicher ist diese Technologie wirklich? Und wie können wir sie in Zukunft überhaupt auch noch kontrollieren? Denn so ein aktuelles Problem, das Forschende sehen, ist, dass KI-Systeme, wenn sie unter sich sind, dazu neigen, eigene Kommunikationsformen zu entwickeln, ihre eigene Sprache zu entwickeln. Und diese Extremform, das ist das Neuralys-Problem. Ich erkläre später gerne noch genau, was das bedeutet. Aber kurz zusammengefasst heißt das, die Agenten kommunizieren miteinander nur noch in Zahlenketten, also sogenannten Vektoren. Und das führt dazu, dass auch Fachleute noch mal viel, viel schlechter nachvollziehen können, wie KI-Systeme miteinander interagieren.