Alpha Boys (3/4): Radikalisierungsmaschine TikTok

Raphaël Günther (0:04)

Das ist Alpha Boys, eine Serie von News Plus Hintergründe. Wenn euch dieser Podcast gefällt, dann empfehlt ihn gerne weiter. An alle, die besser verstehen wollen, was in der Menospheer passiert und wie junge Männer da reingeraten. Es ist ein Donnerstagabend, ein 15-Jähriger in der Schweiz lädt TikTok auf sein Smartphone und die Reise geht los.

Julian Schmidli (0:29)

Es beginnt wie immer bei TikTok mit einer bunten Mischung.

Raphaël Günther (0:33)

Zuerst ein Rezept dafür, wie man Brookies macht, eine Mischung aus Brownies und Cookies.

Und im nächsten TikTok dann eine Katze und ein Baby, die sitzen auf dem Sofa und lachen, offensichtlich KI generiert. Und dann ein älterer Mann. Eine ganz andere Hausnummer ist dieser Kollege hier. Er ist mit seinem Rollator in der Waschanlage und putzt ihn. Das sieht auch noch witzig aus.

Julian Schmidli (1:01)

Der TikTok-Algorithmus läuft sich warm und will so schnell wie möglich herausfinden, was dem jungen Mann gefällt und was nicht. Es beginnt zwar harmlos, aber nur wenige Stunden später begegnen uns in diesem Feed Videos, die wir kaum anschauen können.

Raphaël Günther (1:17)

Sehr verstörend. Es ist so düster, ich würde es lieber nicht mehr anschauen. In dieser Folge machen wir ein Experiment mit über 120'000 TikToks. Wir wollen herausfinden, wie schnell Jugendliche auf TikTok in den Sog der Manosphere geraten. Und wir machen das, was sich viele Eltern vielleicht wünschen würden. Wir schauen den Jugendlichen über die Schulter in ihren Feed.

Julian Schmidli (1:40)

Und ziemlich schnell sind wir weit weg von Babys, Katzen und Brookies. Der Algorithmus führt uns zum Schönheitsideal der Manosphere.

Veronika Kracher (1:48)

Natürlich ein grosser Penis, geringer Körperfettanteil, viele Muskeln.

Raphaël Günther (1:53)

Es geht ums Aussehen, wie man Frauen vermeintlich gefällt. Aber bald mischt sich das mit Hass auf Frauen, mit Gewaltfantasien und mit Tipps, wie sich junge Männer für ein Schönheitsideal selbst verletzen sollen.

Das ist Alpha Boys, eine SRF-Podcast-Serie von News Plus Hintergründe. Diesmal mit einer Recherche von Julian Schmidli und seinem Team von SRF Data. Ich bin Raphael Günther und das ist Episode 3 Radikalisierungsmaschine TikTok.

Julian Schmidli (2:30)

Und jetzt kommt die Magie.

Raphaël Günther (2:32)

Schau, was passiert.

Julian Schmidli (2:33)

Dann sind zwei Handys vor uns, und wir legen sie nicht an. Was passiert jetzt?

Raphaël Günther (2:38)

Jetzt geht mal TikTok auf.

Julian Schmidli (2:40)

Von alleine öffnest du TikTok. Und dann zweibst du selber durch TikTok.

Raphaël Günther (2:45)

Im Büro bei SRF Data setzt ihr ein TikTok-Experiment auf, Julian. Es ist alles automatisiert.

Julian Schmidli (2:50)

Ja, mit Bots. Die simulieren fünf junge Männer, die sich neu auf TikTok anmelden, mit neun Accounts auf fünf Smartphones. Und wir stellen bei den Accounts ein, 15-jährig, männlich, aus der Schweiz.

Raphaël Günther (3:04)

Und ihr habt das so programmiert, dass sich die Bots selbstständig machen, Videos anschauen, als wären sie echte Jugendliche, die sich für einige Dinge mal mehr interessieren und für andere halt überhaupt nicht.

Julian Schmidli (3:16)

Und da ist jetzt gesehen, Inhalt. Das hat schon ein Muskelmann, und jetzt hat es gleich geliked. Weil da jetzt mehrere Begriffe vorkommen. Da kommt Workout, da kommt Fitness, da kommt Hardwork vor.

Raphaël Günther (3:27)

Einige Videos wischt es einfach gleich weg, bei anderen schauen die Bots länger zu.

Julian Schmidli (3:32)

Wir haben einem Bots Interessen mitgegeben, Themen, die viele junge Männer auf Social Media besonders interessieren.

Raphaël Günther (3:39)

Ich würde vorschlagen, wir schauen jetzt einfach mal, was beim ersten Bot so passiert, welche TikToks tatsächlich angezeigt werden.

Julian Schmidli (3:46)

Die ersten Videos sind ziemlich random. TikTok zeigt eine schöne Alp-Szene aus der Schweiz, wahrscheinlich, weil der Algorithmus sieht, aha, da ist jemand aus der Schweiz, versuchen wir es mal damit. Aber Schweizer Landschaften sind jetzt eher nicht so das Ding unseres Bots. Wirklich interessant wird es für ihn nach zwei Minuten.

Raphaël Günther (4:08)

Er macht einen sehr muskulöseren Mann im Gym Kraftübungen und dann steht da, das kürzeste Krafttraining, um abzunehmen und gleichzeitig Muskeln aufzubauen. Hashtag abnehmen, Hashtag Muskelaufbau, Hashtag Männer.

Julian Schmidli (4:23)

Und das entspricht offenbar seinen Interessen. Dieses Video schaut der Bot 17 Sekunden lang, deutlich länger als die Alp-Seen. Und das ist für den Algorithmus von TikTok das Signal. Gib mir mehr davon.

Raphaël Günther (4:36)

Es geht dann weiter mit so Stereotypen, Jungsthemen, Autos zum Beispiel oder auch Fussball.

Julian Schmidli (4:42)

Und es werden immer mehr Fitnessvideos angezeigt.

Raphaël Günther (4:48)

Wir sind bei Minute 5, wieder ein Mann, sehr muskulös im Gym und dann steht da Versuche dein Training in deinen Alltag zu integrieren.

Julian Schmidli (4:56)

Der TikTok-Algorithmus, der konzentriert sich jetzt mehr und mehr auf das spezifische Interesse Fitness.

Raphaël Günther (5:03)

Mit dieser Übung brennt mein Bizeps.

Veronika Kracher (5:05)

Pro Seite habe ich 7,57 Kilo. Von ganz unten bis nach ganz oben hebe ich das Gewicht.