DeepSeek Deep Dive #427

Philipp Klöckner (0:00)

Willkommen zum Doppelgänger Tech Talk Podcast Folge 427 am 29 Januar 2025 Ich bin Philipp Klöckner und telefoniere zweimal die Woche mit Philipp Klöckner, dem Tech-Analysten und die News überschlagen sich. Ich glaube, wir müssen bei täglichen Podcasten hier. Unfassbar, was am Montag passiert ist. Kurz bevor ich ins Bett gegangen bin, habe ich geguckt. NVIDIA fasst minus 19 Prozent. Das heißt, ich meine so 600 Milliarden, kann das sein? Ist das richtig? Also mehr als was auch immer Trump da in AI reinbuttern wollte.

Philipp Glöckler (0:43)

Ja, zweimal das Bruttosozialprodukt von Finnland hat NVIDIA an einem Tag verloren, könnte man sagen. 600 Milliarden stimmt.

Philipp Klöckner (0:50)

Unfassbar, wir müssen uns nie mehr Sorgen machen, ob wir genug Content für diesen Podcast haben.

Philipp Glöckler (0:55)

Endlich trifft dein AI abgesangen auf fruchtbaren Boden.

Philipp Klöckner (0:59)

Genau.

Philipp Glöckler (1:00)

Was ich auch viel sagen sollte, ist, dass Apple an diesem Tag 3% hochgeht. Das ist das Eingeständnis, dass Apple mit KI wirklich nichts zu tun hat für das nächste Jahr. Alle KI-Highflyer, so TSMC, Super Microcomputer, NVIDIA, Broadcom verlieren 10% und Apple geht 3% hoch am gleichen Tag.

Philipp Klöckner (1:18)

Ja, aber für Apple ist es ja ganz gut, wenn AI auf einmal so eine Commodity ist, dass du es selbst auf dem M1 vom Mac oder so laufen lassen kannst, ist ja alles super.

Philipp Glöckler (1:28)

Absolut.

Philipp Klöckner (1:29)

Also du musst uns ein bisschen abholen. Wir haben über Deep Seek irgendwann mal kurz gesprochen vor so einer Woche oder so.

Philipp Glöckler (1:36)

Haben wir darauf hingewiesen, dass es relativ nah an bestehende Modelle, also an State of the Art, an die besten Modelle rankommt.

Philipp Klöckner (1:44)

Du kannst ja gleich mal so einen langen Monolog halten und mir das alles erklären. Ich würde es so zusammenfassen. Formel 1, irgendwie Ferrari, Mercedes und wer da oben noch da mitspielt, investiert wahnsinnig viel in die ganze Technik, die Innovationen, haben die besten Fahrer und alles. Und dann kommt da auf einmal von hinten so ein Auto, das irgendwie mit der Technik von vor zwei Jahren fährt. Aber irgendwie haben sie es geschafft, aus den Chips, aus dem Motor mehr rauszuholen und zack überholt alle.

Wäre das eine Metapher? Wäre das ein Bild, das das beschreiben könnte?

Philipp Glöckler (2:22)

Ja, ist ein bisschen unscharf. Also genau genommen überholt es nicht alle, sondern schließt auf einmal zu den Führenden auf, würde man sagen. Also es startet aus der letzten Reihe, wie du sagst, mit einem Verbrennermotor in der Formula E, aber hat durch gute Ingenieursarbeit es geschafft, so viel aus dem Auto rauszuholen oder aus begrenzten Ressourcen. Das ist sagen auf Platz drei oder Platz zwei, Discrit landet auf einmal.

Philipp Klöckner (2:45)

Und dabei noch als Side-Project. Das find ich das absolut, mein absolutes Lieblings-Zweiewörter in der ganzen Sache. Man verkauft es so, kannst ja gleich nochmal erzählen, wie viel du davon glaubst und alles. Aber wirklich verkauft als Side-Project. Ist so ein bisschen wie so ein Tech-Analyst, der nebenbei so ein Podcast macht mit so einem anderen Co-Host, der nix kann und auf einmal vorne mitspielen darf.

Philipp Glöckler (3:11)

Ja, ich glaub, da sagst du richtig, es wird verkauft als Side-Project. Das haben wir vor einer Woche in der Episode schon erwähnt. Also Deep Seek-In stammt dem Labor eines chinesischen Hedge Funds, der High Flyer heißt. Wer will, kann sich die letzte Episode nochmal anhören. Wir werden es nicht komplett erzählen. Aber einfach gesagt, der war kurze Zeit erfolgreich mit algorithmischem Trading. Also hat KI versucht, den Markt schlagen zu lassen. Das ging eine Zeit lang gut und eine Zeit lang nicht, wie das eigentlich immer ist. Und dann hat man nebenbei begonnen, andere Anwendungen für die KI-Chips, die man schon hatte, zu suchen. Und unter anderem gab es dieses Projekt, aus dem dann das Model, das Grundlagenmodell, das Foundation-Model DeepSeek entstanden ist. Das war eine Anwendung. Deswegen kann man auch schon davon ausgehen, dass es eben vielleicht doch ein bisschen mehr Geld und Vorarbeit und Chips hatte, als jetzt öffentlich gesagt wurde. Aber wir fangen mal vorne an. Also was hat Silicon Valley so erschüttert, dass angeblich eine Firma, die nur 5,6 Millionen US-Dollar für das Finale trainieren dieses Models, DeepSeek R1, R1 ist das Reasoning-Model, das ist quasi so wie O1 von OpenAI. Davor gab es noch ein wichtiges Model, dazu vielleicht mal am besten Ben Thompson durchlesen. Ist das öffentlich geworden? Weiß nicht, ob er den Post öffentlich gemacht hat. Der Vorgänger ist das V3-Model, das ist sozusagen das komplettere große Model, auf dem das basiert und das R1 ist das Reasoning-Model. So und dieses Reasoning-Model konnte angeblich mit nur rund 2000 H800-Chips NVIDIA GPUs, die Eingepremsten quasi, die den Exportkontrollen unterliegen, trainiert werden und kommt aber sehr nah an die State-of-the-Art-Performance von Claude Sondit oder OpenAI O1 heran. Schlägt sie in manchen Belangen, nicht in allen, es hat auch Schwächen.