Wann wird Menschenarbeit unverantwortbar | Karp will OpenAI vergesellschaften | "Statistischer Papagei" knackt Code von 1918 #599

Philipp Klöckner (0:00)

Willkommen zum Doppelgänger Podcast, Folge 599 am 23 September 2026 Ich bin Philipp Klöckler und telefoniere zweimal die Woche mit dem Tech-Analisten Philipp Klöckler. Ich freue mich schon auf die 600 Ich bin mir noch nicht so sicher, ob wir die überhaupt aufnehmen, ob es eine 600 Folge gibt, aber ich freue mich drauf.

Vorher ein bisschen AI News, eigentlich alte News mit neuer Brand. Gemini kann jetzt auch hacken.

Philipp Glöckler (0:31)

Ja, bei Google DeepMind war man beleidigt, dass man als einziges Labor für nicht schädlich genug gehalten wird und hat ja zugegeben, dass Monate vor dem Hacking-Faith-Inzident Google Gemini es auch geschafft hat, drei Webseiten im freien Internet zu kompromittieren.

Es soll keinen Schaden entstanden sein. Man fragt sich ja immer, wenn das Webseiten im Netz einigen, die sich so schnell auf, dass man sich nicht verklagt oder so, das ist ja jedes Mal ein Verbrechen, was begangen war, aber Google sagt, sie glaubten, sie müssten das nicht öffentlich machen, weil kein Schaden entstanden sei. Und zwar hauptsächlich, weil die Agenten in dem Moment, wo sie gemerkt haben, sie machen was, was sie nicht dürfen, sich quasi selber beerdigt haben. Das sind ja so Instanzen, die ein Ziel haben. Und sobald das Ziel erloschen ist, normalerweise auch aufgeben oder das Ziel erreicht ist, dann aufgeben. Also die sollen sich hier ordnungsgemäß verhalten haben mit der Einschränkung, dass sie die drei Webseiten gehackt haben vorher.

Aber es wäre kein Schadenentscheiden. Das war Google offensichtlich wichtig und da muss man sich fragen, warum sie das jetzt, warum gibst du das jetzt bekannt als Google, ist natürlich die Frage. Also zwei mögliche Erklärungen. Das eine ist, man möchte nicht, dass man als Einziger so aussieht, als hätte man die Cyber Capabilities nicht. Und zweitens natürlich, um in der Debatte Regulierung oder nicht. Und Google wäre tendenziell als eins der drei führenden Labore, jemand, der davon profitiert. Kann man sagen, Google schießt jetzt auch nochmal die PR-Keule. Und versucht quasi in der Debatte dazu beizutragen, die Gefährlichkeit dieser Modelle zu betonen. In der Hoffnung, dass es dann eine Regulierung gibt, die vermeintlich den drei größten Laboren am meisten helfen würde.

Philipp Klöckner (2:08)

Die beste Sache an der News ist, dass sie dann nichts weiter gemacht haben. Also so ein bisschen so, als ob in den MD-Files drin stand, Don't be Evil. Und dann hat man sich nochmal kurz daran erinnert, okay, wir hören jetzt auf.

Wir sind nicht böse.

Philipp Glöckler (2:22)

Ja, man muss ja sagen, die allermeisten Agenten, also die in der freien Welt sowieso, die haben eine Aufgabe und erfüllen die.

Der Weg, dass die KI sich irgendwie verselbstständigt und immer weiter hackt oder dann ganze Systeme baut oder so, das wäre relativ untypisch. Das kann sein, dass wenn man wirklich was aus dem Labor ausbricht, da hätte man ja eventuell auch mal weniger Guardrails, um zu verstehen, was die Gefahr sind. Du musst ja quasi die Sicherheitsschranken so ein bisschen lösen, damit du überhaupt verstehst, was das Modell eventuell Böses anstellen würde. Also wenn wirklich eins aus dem Labor ausbricht, dann könnte es natürlich sein, dass es irgendwelche Dinge weitermacht oder so. Aber der Durchschnittsagent, selbst wenn der aus Versehen mal eine Webseite hackt, wird ja nicht als nächstes die Übernahme der Welt planen. Womit wir bei der ersten Hörerfrage der Woche sind. Und zwar fragt Michael, hallo Pip, hallo Philipp, blablabla, großes Kompliment.

Und dann möchte er verstehen, wie KI uns eigentlich Umbrüchte bringt. Er schreibt selber, immer wieder waren prominente Stimmen, KI könnte die Menschheit auslösen. Bei der Atombombe verstehe ich die Wirkungskette, bei KI fehlt sie mir. Ich bin in den 70ern geboren und ohne Internet aufgewachsen. Wenn der Worst Case wäre, dass alle Systeme gehackt werden und wir technologisch in die 80er zurückfallen, wäre das sicherlich unangenehm, aber nicht tödlich für die Menschheit. Gerade arbeitet er in einem Land, wo es vier ländliche Bevölkerung gibt, die das vermeintlich gar nicht betreffen würde, zum Beispiel, weil sie an der digitalen Welt gar nicht so teilhaben. Selbst wenn massiver Blackout die USA lahmlegen würde, ginge das Leben in den Dörfern anderer Länder im Wesentlichen weiter. Auch das Biowaffenszenario überzeugt mich nicht. So etwas baut niemand im Wohnzimmer. Der Engpass Labor und Beschaffung und nicht das Wissen. Deshalb die konkrete Frage, welcher konkrete Mechanismus ein KI-GAU soll die Menschheit als Ganzes bedrohen?

Philipp Klöckner (4:23)

Das ist ein bisschen die Einleitung für den Cliffhanger der letzten Folge vielleicht. Ich glaube ja mittlerweile, dass es nicht so ein Atombomben-Szenario gibt, sondern ich glaube eher, dass es so der Frosch im heißen Wasser ist. Und dass man immer so das Gefühl hat, man verliert jetzt ein bisschen mehr Kontrolle.

Inspiriert war es von der Podcast-Folge, die ich für TokenMate gemacht habe. Da habe ich mich mit Christoph unterhalten. Der gibt alles jetzt seiner KI. Wirklich alles und sein Ziel ist 100% Automatisierungsgrad. Das bedeutet, als er das erzählt hat, habe ich irgendwann gedacht, du bist ja nur noch dein Uber-Fahrer von deinem eigenen Business. Also es wird halt alles für dich vorbereitet. Es werden E-Mails für dich geschrieben.