Claude & ChatGPT: 3 Funktionen für 10x mehr KI-Power die 90% übersehen (#151)

Niklas Volland (0:00)

KI wird mächtiger und mächtiger und trotzdem gibt es verschiedene Funktionen, die die wenigsten auf dem Schirm haben und die dir aber dabei helfen, ein vielfaches des Potenzials aus den KI-Systemen rauszuholen. Was die aus meiner Sicht drei mächtigsten Funktionen aktuell sind in ChatGPT und Claude, die du auf dem Schirm haben solltest. Wie ich diese nutze und was ich dir immer zu praktischen Tipps und Anwendungsfällen mitgeben kann, das ist das Thema dieser Folge. Genauso wie meine Einordnung der News aus den letzten Tagen, in denen immer mehr die Stimme groß wird.

Wir haben zunehmend das Sicherheitsproblem mit KI. KI könnte zu einer existenziellen Bedrohung für die Menschheit werden. Wie schaue ich da drauf? Was sind meine Gedanken dazu? Das möchte ich dir in dieser Folge zeigen und dich dazu abholen. Und damit begrüße ich dich ganz herzlich hier zu einer neuen Folge im KI TALK Podcast. Mein Name ist Niklas Volland und wir haben in dieser Folge auch wieder spannende Themen. Deswegen verlieren wir keine Zeit und gehen direkt rein.

Marc (1:03)

Willkommen zurück im KI TALK. Marc hier, Kapitel 1, das aktuelle KI Thema der Woche.

Ein Forscher verlässt Anthropic und nennt die Entwicklung unverantwortlich. Der Sicherheitschef stimmt ihm öffentlich zu. Niklas, wie ernst ist das?

Niklas Volland (1:18)

Eine Frage, die ich in den letzten Tagen immer häufiger gestellt bekomme, ist, und ihr kriegt das alle mit, einfach meine Einordnung zu den News, die wir in den letzten Tagen hatten. Ja, ihr habt bestimmt gelesen, es gibt immer mehr News. Gerade zum Thema KI wird immer gefährlicher. Es gab den Austritt von Jacob Coxon bei Anthropic letzte Woche, also einer der Forscher, der dort beteiligt war, die KI-Modelle zu entwickeln, der gesagt hat, er sieht es als völlig unverantwortlich, wie die großen Tech-Unternehmen gerade bei der Entwicklung von KI-Modellen vorgehen und dass er glaubt, dass die mit unserem Leben spielen. Woaufhin dann der Sicherheitschef von Anthropic sich auch eingeschaltet hat und auf Axton Post gemacht hat, Jacob hat Recht. Er glaubt, dass die Wahrscheinlichkeit, dass KI die Menschheit auslöscht, in den nächsten zehn Jahren bei über zehn Prozent liegt. Und das sind natürlich schon krasse Aussagen. Dann gab es am Wochenende noch von den großen CEOs, von den KI-Unternehmen die Bitte bzw. der Ruf danach, dass man die KI-Entwicklungen bremsen muss, dass wir dürfen nicht mit dieser Geschwindigkeit weiterentwickeln. Das war so an der Stelle die Aussage. Also wahnsinnige Entwicklungen und einfach die Frage nach meiner eigenen Ordnung zu dem Ganzen. Und ich muss sagen, ich finde es tatsächlich immer auffällig, wenn irgendwo Panik gemacht wird. Und wenn ein Sicherheitschef von Anthropic öffentlich so etwas von sich gibt, dass er glaubt, dass die KI die Menschheit auslöschen könnte innerhalb der nächsten zehn Jahren und dass er das mit über zehn Prozent Wahrscheinlichkeit betrachtet, dann ist das aus meiner Sicht etwas, da steckt irgendeine Strategie dahinter. Weil warum sollte man sowas tun? Man weiß ja, dass das Menschen verunsichert. Und ich glaube, man darf sich an der Stelle einfach nicht verunsichern lassen. Natürlich, das ist der wichtige Punkt, da steckt schon ein Waderkern drin, in dem was Jacob Coxon von sich gibt und sagt, das ist alles super gefährlich für die Menschheit. Natürlich, die KI-Modelle werden immer mächtiger. Natürlich, sie werden immer smarter. Wir sehen in so Tests, diesem Hacking-Face-Vorfall von OpenAI von ein paar Wochen, dass da schon auch was dran ist, dass die KI-Systeme teilweise einfach nur radikal auf ein Ziel fokussiert, ohne irgendeine, soll ich sagen, wenn der gewissen Gleichgültigkeit auch Ziele verfolgt und dann kein Rücksicht nimmt auf irgendwas. Und natürlich, das kann zu Extrem-Szenarien schon dazu führen, dass irgendwann mal da vielleicht sogar tatsächlich die Menschheit bedroht ist. Ja, da steckt ein Waderkern drin.

Aber erstens muss man dazu sagen, da sind wir heute noch nicht. Zumindest, das gehört auch immer dazu, soweit ich das beurteilen kann. Ich habe auch auf Instagram einen Kommentar bekommen.

Ich glaube nicht, dass dein Wissen, Niklas, ausreicht, um das valide beurteilen zu können. Natürlich, ich bin nicht in der Entwicklung und Forschung bei Anthropic oder OpenAI beteiligt. Ich kenne die Insights nicht. Deswegen vollkommen richtig. Ich kann es nicht 100% valide beurteilen. Ich kann es nur aus meiner Perspektive beurteilen und einordnen. Und da kann ich nur sagen, es steckt ein Waderkern drin. Aber ich glaube, wir sollten uns nicht verunsichern lassen. Erst recht nicht in Panik geraten. Man sollte sich an der Stelle schon Sorgen machen. Ein bisschen. Also sollte sich um diese Thematiken kümmern, soweit es geht. Ich meine, keiner von uns ist in der Lage und beteiligt da, Sicherheitskonzepte zu entwickeln bei Anthropic und bei OpenAI. Und die Forschung mit zu beeinflussen. Das heißt, wir können da eh nur begrenzt was tun. Aber ja, ich glaube, am Ende in Panik zu geraten macht keinen Sinn. Wir können uns nur auf das fokussieren, was wir jeden Tag machen. Einfach überlegen, dass wir der KI nicht allzu viel Macht geben, sozusagen. Also einfach nur die Berechtigungen geben, auch in agentischen KI-Workflows, wo die KI etwas für uns ausführt. Nur die Berechtigungen geben, die sie wirklich braucht dafür. Nicht mehr Berechtigungen bei wirklich sehr sensiblen und komplexen Anwendungsfällen immer human in the loop. Dass du den Menschen mit drin hast, der am Ende noch die Entscheidung trifft.