OpenAI vs HuggingFace: Mega-Hack oder Marketing?

**Gregor Schmalzried** (0:06)
Fritz, wir haben eine ziemlich aufregende Woche hinter uns und eine aufregende Woche wahrscheinlich auch vor uns, oder?

**Fritz Espenlaub** (0:13)
Ja, es ist wieder mal eine Woche in der KI-Revolution, aber nicht jede Woche in der KI-Revolution ist gleich. Das war schon eine, wo es mal wieder so einen Moment gab, den es manchmal gibt, dass irgendwas passiert in der KI-Welt und plötzlich interessiert sich mit einem Schlag so gefühlt die ganze Welt dafür und alle reden darüber.

**Gregor Schmalzried** (0:31)
Ja, das, was passiert ist, war ein Hacking-Vorfall und zwar soll eine mehr oder weniger außer Kontrolle geraten, ich mach da jetzt schon mal fette Anführungszeichen, da werden wir drüber reden, KI von OpenAI eine fremde Firma attackiert haben und zwar ohne die explizite Anweisung. Also eine KI hat sich quasi, wie der Anführungszeichen, selbstständig gemacht und einen eigenständigen Treiberangriff ausgeführt. Das wäre tatsächlich eine ziemliche Neuheit, das wäre ein gigantisches Thema und deswegen hatten wir auch letzte Woche relativ viel zu tun.

**Fritz Espenlaub** (1:08)
Ich meine, es ist ein gigantisches Thema und eine große Neuheit. Ich glaube, für Leute, die uns regelmäßig hören, die werden da etwas weniger davon überrascht gewesen sein als möglicherweise so die Gesamtbevölkerung. Aber die Nachricht selber, die hat es erst mal in sich und entsprechend groß war die Aufmerksamkeit.

**Gregor Schmalzried** (1:27)
Also ich habe dich in den Tagesthemen gesehen zum Beispiel.

**Fritz Espenlaub** (1:30)
Ich durfte in den Tagesthemen das kurz einordnen. Wir waren, glaube ich, zusammen als Team des KI-Podcasts in über zehn verschiedenen Formaten in der ARD.

**Gregor Schmalzried** (1:40)
Ja, es war ganz gut, dass wir ein Team, glaube ich, an der Stelle sind. Vielleicht im Tagesschau 15 Minuten Podcast zum Beispiel hat mich auch jemand gehört. Auch da noch mal ein kleiner Shoutout an die Kollegen. Finde ich richtig cool, dass dieses Thema jetzt auch größer gedacht wird. Weil am Ende ist KI, das war ja auch immer das Versprechen von unserem Podcast, nicht einfach nur ein Technologie-Thema, sondern eins, was uns eigentlich alle angeht.

**Fritz Espenlaub** (2:02)
Und diese große Aufmerksamkeit, die kommt natürlich daher, dass diese Nachricht es erstmal in sich hat. Also wenn man hört, eine außer Kontrolle geratene KI von OpenAI hackt sich ein in ein anderes unbeteiligtes Unternehmen, treibt sich da ja tagelang wahrscheinlich auf deren interner privater Serverinfrastruktur rum.
Da kommt man schon erstmal ins Schlucken, dementsprechend ja groß wahr auch das Bedürfnis da Einordnung zu bekommen. Und natürlich genau aus diesem Grund machen wir jetzt auch eine KI-Podcast-Folge, weil wie so oft vermischt sich da einiges bei dieser Geschichte.

**Gregor Schmalzried** (2:36)
Das ist ja auch nur die eine Hälfte. Also die andere Seite, die ich auch vermehrt höre, ist das genaue Gegenteil. Also was wir hier haben ist ein Marketing-Stunt, ist einfach nur eine neue Methode der großen Tech-Unternehmen, uns hinters Licht zu führen. Also auf der einen Seite ist das jetzt eine gigantische Nachricht, etwas, das dafür sorgen sollte, dass wir gar nicht mehr gut schlafen können. Oder ist das alles einfach nur Marketing der großen Tech-Unternehmen? Irgendwo zwischen diesen Extremen ist was passiert und darüber sprechen wir heute.

**Fritz Espenlaub** (3:06)
Das ist der KI-Podcast. Ich bin Fritz Espenlaub.

**Gregor Schmalzried** (3:09)
Und ich bin Gregor Schmalzried.

**Fritz Espenlaub** (3:12)
Okay, Gregor, dann lass uns doch einfach mal so 10, 12 Tage in die Vergangenheit reisen. Wir befinden uns wahrscheinlich 11 Juli 2026
Und bei OpenAI intern beginnt ein Experiment. Beginnt einer dieser Tests, wie man sie da schon oft gemacht hat, um die neuesten KI-Modelle, die bisher noch nicht veröffentlichten KI-Modelle, einfach mal abzuklopfen, was die alles können.

**Gregor Schmalzried** (3:36)
Ja, das ist auch ein völlig normaler Vorgang, der da passiert. Dieser Versuchsaufbau, der da gemacht wurde, der sieht im Grunde genommen so aus, dass man ein KI-Modell nimmt. In dem Fall waren es wohl zwei verschiedene KI-Modelle, nämlich einmal das aktuelle GPT 5.6 und ein noch unveröffentlichtes, vielleicht GPT 6 tatsächlich, die beide getestet werden sollten. Und wie man die testet, ist man testet die genauso wie uns Menschen letztlich. Ja, man gibt denen eine Aufgabe zu erledigen und schaut, ob die das hinbekommen oder nicht. Und dieses konkrete Testverfahren, das hieß exploit-gym, das ist eine...

**Fritz Espenlaub** (4:12)
Gym wie Fitnessstudio. Also so wie Menschen quasi trainiert werden in einem Fitnessstudio oder trainieren können im Fitnessstudio, so ist das auch bei diesen KI-Modellen.

**Gregor Schmalzried** (4:22)
Genau. Und was das Interessante ist, man hat diesen KI's nicht einfach das komplette Internet zur Verfügung gestellt als Spielfläche. Das wäre tatsächlich zu unsicher. Sondern man hat denen einen abgeschlossenen Raum gegeben. Man nennt das eine Sandbox. Das wäre dann ein abgeschlossener Bereich. Da haben die KI's verschiedene Tools zur Verfügung. Sie haben bestimmte Programme, mit denen sie interagieren sollen. Aber sie sollen, und das ist der Punkt, diese Sandbox eigentlich nicht verlassen.