#342 Schrödingers Insiderinformationen | Google mit AI Paywall & Interesse an Hubspot Übernahme | Apples nächstes großes Ding? | AI: Amazons Inder

Philipp Glöckner (0:00)

Willkommen zum Doppelgänger Tech Talk Podcast Folge 342 am 6 April 2024 Ich bin Philipp Glöckner und telefoniere zweimal die Woche mit Philipp Glöckner. Und heute haben wir so eine richtig schöne AI Gattart Folge, sage ich. Google, Amazon, Tesla, Apple, die vier Magnificent Seven, die ein bisschen eifersüchtig sind auf Meta, Microsoft und Nvidia und ein bisschen Tech Talk. Aber vorher die AI Könige noch, OpenAI hat am Karfreitag verkündet, dass sie aus 15 Sekunden Audio eine emotionale und realistische Stimme erzeugen können. Freust du dich darauf, dass nun jede Stimme kopiert werden kann und nicht nur die von denen, die stundenlang schon online irgendwas publiziert haben?

Philipp Klöckner (0:58)

Ja, ich vermute, dass der Nettoeffekt da draußen negativ sein wird. Das heißt, damit wird wahrscheinlich mehr Schabernack getrieben werden, als Nutzen entsteht. Also es gibt natürlich ganz viele Nutzen, dass du irgendwie Texte realistisch vorlesen lassen kannst. So für Sehbehinderte ist wahrscheinlich noch mal ein deutlicher Quantensprung.

Übersetzungen werden damit noch mal einfacher. Es kann vorlesen, übersetzen und irgendwas noch habe ich schon wieder vergessen.

Und braucht eben das Besondere ist, und das ging ja alles auch vorher schon, das sind einfach Stimmdiebfakes, wenn man so will. Aber das braucht nur 15 Sekunden Lernmaterial und kann dann Text to Speech machen. Also ich kann was eintippen und Obama liest es mir vor, oder was so die gängigen Beispiele sind. Und die Gefahren offensichtlich. Enkeltrick, deine Stimme.

Also eigentlich braucht mich nur ein Call Center Mitarbeiter, Mitarbeiterinnen, in 15 Sekunden Gespräch verwickeln. Und danach haben sie genug Stimme von mir. Also in meinem Fall ist es natürlich sinnlos, weil ich in jedem Podcast der Welt stundenlang Stimme hergebe. Aber selbst normale Menschen müssen nur in 15 Sekunden Gespräch verwickelt werden. Vielleicht auch mal 30 oder so. Es muss ja schon einigermaßen flüssig verschiedene Worte sein und so. Und dann könnte man ein Deep Fake generieren und den per Text to Speech. Also es könnte auch jemand, der die Sprache selber nicht spricht, was erst aus, also sagen, jemand in Nordkorea, könnte irgendwas auf Englisch übersetzen lassen und das von einer Ströme vorlesen lassen, von der er 15 Sekunden Sprache einmal hatte. Und was habe ich gesagt? Genau, Enkeltrick ist natürlich ein Problem. CEO-Scam, also Enkeltrick ist, man ruft Eltern oder Großeltern an und sagt, ich bin bei der Polizei, ich brauche schnell mal 15 Euro, kannst du mal zur Reifeisenbank gehen. CEO-Scam ist der scheinbare dringliche Anruf eines CEOs oder E-Mails, dass der CFO oder Buchhalterin, was auch immer, schnell Geld überweisen muss. Natürlich politische Desinformation, Wahl, Verzerrung, Aktienmarktmanipulation, also zusammen in Verbindung mit, also du hast jetzt nur die Stimme, aber in Verbindung mit. Du kannst zum Beispiel auf Twitter Spaces, also du machst dir einen Fake Account auf Twitter, dass das funktioniert, wissen wir ja schon. Und dann kannst du jetzt auch noch mit der Fake Stimme sehr einfach sprechen, Texte spielst, ich weiß nicht, wie gut die Latenz ist, wie schnell es ist, aber theoretisch wäre das ein Problem.

Wie gesagt, ich sehe auch viel Upside, aber das ist wirklich eine sehr gefühlte Aussage.

Gefühlt hätte ich das eigentlich lieber in der Box gelassen, aber es ist auch vollkommen klar, dass ich das nicht... Also dass man bei dem Produkt zu... Also im Gegenteil, du kommst sogar zu besserer Sprachqualität als die Menschheit. Also dass du menschliche Sprachqualität erreichst, ist klar. Dass du... Latenz ist immer immer das Problem. Also wie lange dauert es, wie schnell kannst du antworten, wie spontan. Aber am Ende, sagen wir, werden wir generierte Sprache daran erkennen, dass sie zu perfekt ist, nicht dass sie zu schlecht ist. Also dass da zu wenig As drin sind, bei uns oder meinen Sagen fehlt.

Oder bei anderen Leuten an der Stelle, was weiß ich. Also das wird eher das Problem sein, wahrscheinlich. Oder das einzige, wie man es erkennt, dass es zu perfekt sein wird. Aber dass das technisch möglich war und ist, ist vollkommen klar. OpenAI sagt natürlich, die werden sicherlich wieder abfangen, wenn du irgendeiner politisch exponierter Person versuchst, nachzumachen oder so. Das kann ich mir sehr gut vorstellen. Aber dass jetzt zum Beispiel Künstler und so nochmal extra auf die Barrikaden gehen, überwundert mich nicht. Das kann auch für Musikindustrie, für Rap. Also wenn du das kannst, kannst du auch Rap wahrscheinlich sehr schnell. Also Rap generieren kannst du ja relativ gut. Und wenn du so viel Material wie du hast von Musikern, ist das vollkommen klar.

Also das ist kurz gesagt, dass das möglich ist, vollkommen klar. Ich glaube, es hat positive und negative Effekte und in dem Fall überwiegend die Negativen vielleicht sogar. Aber würde OpenAI das jetzt nicht releasen, würden es andere releasen.

Philipp Glöckner (4:54)

Ja, und es ist ja erst mal nur eine Demo, also wir haben im September letzten Jahres mal kurz darüber gesprochen, dass Spotify so ein paar Top-Podcasts übersetzt in andere Sprachen. Und das haben sie, meine ich, mit dem Modell oder dem früheren Modell davon gemacht. Und das war jetzt nicht 100% super. Die werden das natürlich verbessern und alles. Und der Trick ist wahrscheinlich jetzt, also irgendein geweefter Hacker wird sich halt aussuchen, okay, wie kann ich das auf Scale machen? Wie kann ich zum Beispiel Instagram-Stories oder was auch immer im großen Stil irgendwie scrapen, mir die Daten davon nehmen und dann damit wirklich was machen? Also wenn alle Tools zur Verfügung sind, kannst du ja wahnsinnig viel machen. Also allen Sprachnachrichten schicken.