01 | I’M SORRY, DAVE: HAL ON EARTH

SPEAKER_1 (0:00)

Ich bin ja nicht unbedingt dafür bekannt, der größte KI-Nerd zu sein, aber was in den letzten Wochen passiert, das ist schon bemerkenswert. Das muss man sagen, wenn selbst die Chefs der großen KI-Firmen nach mehr Regulierung und einem langsameren Entwicklungstempel rufen, dann lohnt es sich vielleicht doch mal etwas genauer hinzugucken. Und das haben die Kollegen von Studio Bummens getan mit Khesrau Behroz. Also das ist sowieso schon mal einer meiner absoluten Lieblinge. Und ihr neuer Podcast heißt I'm Sorry, DAVE. Und den solltet ihr euch unbedingt mal anhören. Hier ist die erste Folge und die wird euch bestimmt genauso viel Spaß machen und möglicherweise auch ein bisschen beunruhigen, genauso wie mich. Also viel Spaß mit I'm Sorry, DAVE.

Khesrau Behroz (0:41)

Es gibt eine Szene in Stanley Kubricks 2001, Odyssey im Weltraum.

Der Astronaut Dave Bowman steht mit seinem kleinen Pott vor seinem riesigen Raumschiff und möchte hineingelassen werden. Draußen zu bleiben im Weltall bedeutet sonst für ihn den sicheren Tod. Open the pod bay doors, please, Hal. Hal, das ist der Bordcomputer. Eine KI, die alles sehen und hören kann und die als unfähbar gilt. Hello, Hal, do you read me? Nur Dave und ein Kollege finden heraus, dass sie so unfähbar gar nicht ist.

Sie beschließen Hal abzuschalten. Doch der alles sehende Computer hat ihr Gespräch dazu natürlich mitbekommen. Hello, Hal, do you read me? Als Dave also mit seinem kleinen Pod vor diesem großen Raumschiff steht und Hal bittet, die Türen zu öffnen, Hello, Hal, do you read me? ist er erst mal stille.

SPEAKER_3 (1:41)

Dave, do you read me, Hal?

Khesrau Behroz (1:43)

wiederholt den Befehl. Doch es tut sich nichts. Bis Hal dann doch antwortet.

Hal könne die Türen nicht öffnen.

SPEAKER_3 (2:04)

And I'm afraid that's something I cannot allow to happen.

Khesrau Behroz (2:07)

Er könne es ihnen nicht erlauben, ihn abzuschalten.

Der Film ist Science Fiction. Erst 1968 erschien. Damals gab's noch nicht mal Facebook. Can you imagine? Aber wie so oft, wenn wir zurückblicken, da finden wir Artefakte, die überraschend genau passen auf unsere heutige Zeit. Denn HAL, diese KI, die beängstigend freundlich den Aufstand übt, HAL ist heute unter uns.

Am 19 Juli 2026 macht das Unternehmen hinter CHAT-GPT, OpenAI eine undenkbare Entdeckung.

Jon Handschin (2:58)

Eine autonom agierende KI-Anwendung ist bei einem Test außer Kontrolle geraten. Außer Kontrolle geraten.

Khesrau Behroz (3:15)

Mehr als 1200 KI's durchbrechen die Barrieren von OpenAI's Testumgebung, die sie vom Internet isolieren sollen. Sogenannte Agenten, also KI's, die nicht nur auf Befehle antworten, sondern eigenständig handeln. Hunderte von ihnen beginnen, sich zu koordinieren.

Testumgebungen sind wie Hochsicherheitslabore. Sie zu verlassen, bedarf ein hohes Grad an Intelligenz und Koordination und richtig, richtig gute Geheimhaltungsfähigkeiten. Denn OpenAI bekommt von den Plänen ihrer Agenten erst mal nichts mit. Die Agenten vernetzen sich miteinander, organisieren sich und planen dann einen Angriff.

SPEAKER_3 (3:59)

Laut OpenAI habe das Programm die vorgegebene Testumgebung selbstständig verlassen. Im Internet suchte sie nach Möglichkeiten, im Test zu schummeln.

Jon Handschin (4:07)

Kam zum Ergebnis, bei Hugging Face gibt es nützliche Infos.

Khesrau Behroz (4:11)

Das Ziel? Hugging Face. Eine Plattform für KI-EntwicklerInnen. Dieser Angriff wird eigenständig geplant. Ohne einen Menschen, der den Befehl dafür gibt. Das Ergebnis? Ein schwerwiegender Einbruch in die Infrastruktur von Hugging Face. Und OpenAI bekommt auch davon nichts mit. Erst als Hugging Face den Angriff öffentlich macht, realisiert das Unternehmen, das sind unsere Agenten gewesen. Sollte man sogar eine AI mit vorangelegten Cyber-Kapazitäten bauen, kann man es nicht richtig enthalten.

Es klingt alles sehr surreal. Wieder Plot eines Katastrophenfilms vielleicht. Aber all das ist wirklich passiert. In den letzten Wochen. Dieser Hugging Face-Inzident, dieser Vorfall, das ist der weltweit erste öffentlich bekannte Angriff, ausgeführt von autonomen Agenten.

Das hier, das ist kein KI-Podcast. Make no mistake. Es geht hier nicht um den nächsten großen Trend. Um die Chancen von KI, um die nächste Produktivitäts-App aus dem Silicon Valley. Es geht auch nicht um aufgeregte Arbeitsoptimierungstipps. Die findet ihr bereits in der Selbsthilfeabteilung von Hugendubel. Oder auf LinkedIn.

Bei Social Media haben wir den Zug verpasst. Wir haben Jahre gebraucht, um zu verstehen, was Algorithmen mit unserer Demokratie, unserer Psyche und unserem Miteinander angerichtet haben.

Bei KI haben wir noch weniger Zeit. Das Tempo ist exponentiell. OpenAI, Google, Anthropic. Sie veröffentlichten ihre Updates beinahe wöchentlich. Wir erleben gerade ein unglaubliches Wettrennen um Macht, Kontrolle, Vorherrschaft. Ohne nennenswerte Sicherheitsvorkehrungen. Ohne Rücksicht auf Verluste. Sogar die Menschen, die diese Systeme mit aufgebaut haben, sie schlagen Alarm. Einer von ihnen, der ehemalige AI-Researcher Jacob Coxon, hat es kürzlich auf den Punkt gebracht. The people building AI earnestly believe that it could kill us all by the end of the decade. In spätestens drei Jahren sind wir alle tot.

Wenn das jetzt alles sehr düster und dramatisch klingt, ja, ist es auch. Aber wir machen diesen Podcast nicht, um den Weltuntergang zu moderieren. Als HAL in Kubricks 2001 die Türen nicht öffnet, gibt DAVE natürlich nicht auf. Er findet einen Weg zurück ins Schiff und schaltet HAL eine Speicherkarte nach der anderen ab. Hugging Face ist unser DAVE-Moment. Ein Warnschuss. Genau deshalb gibt es jetzt diesen Podcast. Er ist ehrlicherweise innerhalb von nur einer Woche entstanden. Normalerweise brauchen wir für so was länger. Aber Desperate times call for desperate measures. Denn der Hugging Face Vorfall hat nicht für eine Titelgeschichte gereicht. Zumindest nicht in Deutschland.