Alles anzeigenAm Beispiel von Tiktok wird ein Blick auf die Möglichkeiten geworfen, intime, persönliche Eigenschaften von Personen über Empfehlungsalgorithmen auszuspähen.
Ich bin Physiker. Wenn Physiker etwas über ihr Untersuchungsobjekt, wie ein Material herausfinden wollen, bestrahlen sie es mit Teilchen oder Licht. Durch Messen der reflektierten, absorbierten oder gestreuten Strahlung können sie die Eigenschaften ihres Untersuchungsobjekts bestimmen, z.B. aus gestreuter Röntgenstrahlung die Atomstruktur eines Kristalls. Andere Wissenschaften profitieren von diesen Techniken. Mit Röntgenstrahlen können Mediziner auch Lebewesen unter die Haut schauen, mit Elektronenmikroskopen können Biologen Viren und Chiphersteller ihre 10nm großen Transistoren bildlich darstellen.
Psychologen haben es da ungleich schwerer, wenn sie sich ein Bild einer menschlichen Persönlichkeit machen wollen. Röntgenapparate und Mikroskope standen ihnen dafür bislang nicht zur Verfügung. Dennoch haben Psychologen Methoden entwickelt, die Persönlichkeit zu vermessen. Leserinnen und Leser haben vielleicht bei beruflichen Trainings oder ähnlichen Veranstaltungen schon einmal einen sehr einfachen Persönlichkeitstest, wie den DISG (engl. DISC) über sich ergehen lassen. Er unterteilt Menschen in die vier Gruppen und zugeordneten Farben Dominant (rot), Initiativ (gelb), Stetig (grün) und Gewissenhaft (blau) (1). Für wissenschaftliche Zwecke wird häufig ein anspruchsvolleres Modell verwendet, das "Big 5" oder "OCEAN"-Modell, nach den englischen Anfangsbuchstaben der 5 verwendeten Eigenschaften (2
O - Offenheit: Konservativ vs. neugierig
C - Gewissenhaftigkeit: Nachlässig vs. organisiert
E - Extraversion: Reserviert vs. gesellig
A - Verträglichkeit: Wettbewerbsorientiert vs. kooperativ
N - Neurotizismus: Selbstsicher vs. emotional
Das Big 5 gilt laut Wikipedia als das "universelle Standardmodell in der Persönlichkeitsforschung". Um die Persönlichkeit von Menschen gemäß diesen Modellen zu vermessen lässt man sie herkömmlicherweise einen Fragekatalog beantworten. Indem eine Person etwa 50 bis 100 Aussagen im Stil von "Ich bringe Leben in eine Party" oder "Ich fühle mich leicht angegriffen" für sich bejaht oder verneint, kann durch Auswertung der Antworten die Lage der Person innerhalb solcher Modelle vermessen werden. Die erste Beispielfrage hier liefert einen Wert für Extraversion, die zweite für Neurotizismus.
Von einem Röntgenapparat für die Persönlichkeit ist man damit aber immer noch weit entfernt. Einen Fragebogen auszufüllen und auszuwerten erfordert viel Zeit und die Mitarbeit der zu erfassenden Personen. Die individuellen Persönlichkeiten einer großen Bevölkerung lassen sich auf diese Weise nicht vermessen. Der Durchbruch in diese Richtung erfolgte durch Mihal Kosinski und David Stillwell mit zwei Veröffentlichungen aus den Jahren 2012 und 2014 (3, 4). Sie erkannten, dass die Auswertung der angeklickten Facebook Like Buttons einer Person, dieselbe oder sogar noch bessere Vermessung einer Persönlichkeit erlauben, wie ein von der Person ausgefüllter Fragebogen. Wer Zugriff auf die Ergebnisse von 50 bis 100 Likes einer Person hat, kann ihr Persönlichkeitsprofil im Rahmen des Big 5 Modells mit hoher Genauigkeit bestimmen. Kosinski et al. fanden zudem heraus, dass sie neben dem abstrakten Big 5 Modell mit dieser Methode auch konkretere Verhaltensweisen und Eigenschaften einer Person mit guter Genauigkeit bestimmen konnten, wie z.B. welche Partei sie wählt, welche sexuelle Orientierung sie hat, welcher Rasse und Religion sie angehört, ob sie Drogen oder Alkohol konsumiert und sogar, ob sich ihre Eltern getrennt hatten, bevor die Person erwachsen wurde. Diese Eigenschaften und Verhaltensweisen lassen sich natürlich auch direkt erfragen. Fragende riskieren aber in dem Fall, dass auf solche intimen Fragen nicht wahrheitsgetreu geantwortet wird. Kosinski et al fanden heraus, dass sich diese intimen Eigenschaften durch scheinbar belanglose Interessen bestimmen lassen, zu denen Personen auch durch Likes bereitwillig Auskunft geben. Für die untersuchte US-amerikanische Gruppe ist Interesse an "Camping" unter Republikanern, Weißen und Heterosexuellen verbreiteter als unter Demokraten, Schwarzen und Homosexuellen. Durch Likes für "Hello-Kitty" geben sich dagegen Demokraten und Afroamerikaner zu erkennen. Ein Like für "Austin Texas" ist in dieser untersuchten Gruppe seltsamerweise ein Hinweis auf Drogenkonsum. Die Präzision, mit der sich eine Persönlichkeit vermessen lässt, hängt von den zur Verfügung stehenden Likes ab:
- 10 Likes reichen, um eine Persönlichkeit so gut zu "kennen" wie Arbeitskollegen
- 70 Likes entsprechen der Einschätzung einer Persönlichkeit durch Freunde
- 150 Likes entsprechen der Einschätzung durch Familienmitglieder
- 300 Likes entsprechen der Einschätzung durch Lebenspartner
Die "nuklearen" Möglichkeiten, die sich durch Kosinskis Erkenntnisse eröffneten, wurden zuerst von den zwielichtigen Akteuren erkannt, die im Internet nicht nur präsent sind, sondern es vor allem zur Manipulation nutzen. Putins Schatten Dmitri Medwedew lud Kosinski 2018 zu einem Vortrag vor dem versammelten russischen Kabinett ein (5). Cambridge Analytica, eine Firma des Milliardärs und ultrakonservativen, libertären Trump-Unterstützers Robert Mercer, an der auch der Faschist und Ex-Trumpberater Steve Bannon beteiligt war, nutzte die Erkenntnisse von Kosinski, um aktiv in mehrere Wahlkämpfe einzugreifen. Darunter waren die Brexit-Abstimmung und die US-Präsidentschaftswahl 2016, die Trump ins Weiße Haus brachte (6). Mit den Methoden von Kosinski und frei zugänglichen Daten, wie dem US-Wählerregister konnte Cambridge Analytica genau die wenigen 10.000 Wechselwähler in den Swingstaaten des mittleren Westens identifizieren, die die US-Präsidentschaftswahl 2016 entscheiden sollten. Die Methoden erlaubten es sogar, diejenigen Wechselwähler zu identifizieren, die zuvor für die Demokraten gestimmt hatten, damit aber unzufrieden waren (7). Diese wurden über soziale Netzwerke mit Werbebotschaften bearbeitet, die auf ihr Persönlichkeitsprofil zugeschnitten waren, um sie zur Abstimmung für Trump zu bewegen (Microtargeting). Der Rest ist Geschichte!
8 Jahre später sind selbst diese Methoden aus dem Mittelalter des Internets. Likes für Facebook Buttons sind eine Technik aus der Zeit, als die Interaktion mit dem Internet über Browser und Webseiten stattfand. Um damit ein Persönlichkeitsprofil zu erstellen musste die betreffende Person auf Dutzenden oder hunderten verschiedenen Webseiten herumgeklickt haben, ein Prozess der Wochen dauern konnte. Facebook/Meta hatte das Monopol auf die Daten dieser Likes, wer sie nutzen wollte musste sich an Meta wenden.
Zwischenzeitlich erfolgt die Interaktion mit dem Internet vor allem über Apps von Smartphones. Besonders interessant in Bezug auf die Messung von Persönlichkeitsprofilen sind Apps, die wie ein Wischbrett bedient werden, d.h. Apps die Nutzern einen kontinuierlichen Strom an Vorschlägen zuspielen (Empfehlungsdienst / Recommender System), die diese entweder wegwischen oder konsumieren, favorisieren (liken), sich als Follower der Autoren einordnen, sie weiterempfehlen oder auf andere Art interagieren. Bei den Vorschlägen kann es sich um potentielle Partner handeln (Tinder), Musikstücke (Spotify), Filme (Netflix) oder Videos (Tiktok, Youtube Shorts, Instagram Reels, Snapchat Spotlights). Jeder Vorschlag des Algorithmus einer App kann als eine Frage in Bezug auf eine Dimension des Persönlichkeitsprofils verstanden werden, auf die Nutzer durch Interaktion "antworten". Da je nach App der Algorithmus Vorschläge im Sekunden- bis Minutenrhythmus zuspielen kann, kann der Betreiber der App im günstigen Fall bereits nach einer Sitzung Antworten auf die ca. 100 Fragen bekommen, die zur Erstellung eines sehr genauen Persönlichkeitsprofils notwendig sind. Zusätzlich kann der Algorithmus der App seine Vorschläge so auswählen, dass alle Dimensionen des Persönlichkeitsprofils nacheinander gezielt erfasst werden, das Profil also vollständig wird.
Wischbrettapps kommen also einem Röntgenapparat zur Erfassung der Persönlichkeit eines Menschen ziemlich nahe. Sie können, wenn ihr Algorithmus entsprechend gesteuert wird, in kurzer Zeit die wesentlichen Dimensionen eines Persönlichkeitsprofils gezielt erfassen. Wer daher Zugriff auf eine umfangreiche Spotify-Playlist einer Person hat, erfährt nicht nur deren Musikgeschmack, sondern kann auch deren politische und sexuelle Vorlieben kennen, sowie welche Rauschmittel sie konsumiert. Tinder weiß naturgemäß über die sexuellen Vorlieben seiner Nutzer Bescheid, kann prinzipiell aber auch deren religiöse Überzeugungen kennen.
Die App, die in diesem Zusammenhang besonders hervorsticht ist Tiktok. Sie hat mit dem "Für Dich" / "For You" Wischbrett eine Funktion, die dem Nutzer im Sekundenabstand Kurzvideos vorschlägt und zur Interaktion damit ermutigt. Sie sammelt damit extrem schnell die Datenpunkte für ein Persönlichkeitsprofil. Bei Netflix geht dies im Vergleich 100-mal langsamer, da ein Spielfilm ca. 100-mal so lange dauert wie ein Kurzvideo. Zusammen mit der inhaltlich und funktional sehr ähnlichen chinesischen Schwesterapp Douyin hat die Plattform mehr als 2 Mrd. regelmäßige Nutzer in den meisten Ländern der Welt und ist damit die größte unter den Wischbrettplattformen (8). Nicht zuletzt werden Tiktok und Douyin von der Diktatur des größten Überwachungsstaates der Welt in Peking reguliert, wo sich auch der Firmensitz des Tiktok Mutterkonzerns Bytedance befindet. Interessant ist, dass Bytedance die Entwicklung von Douyin/Tiktok 2016 begann (9), also kurze Zeit nachdem die Publikationen von Kosinski und Stillwell Wellen schlugen und zur gleichen Zeit als Cambridge Analytica begann, seine Dienste großen internationalen Akteuren anzubieten (6).
Die Verbindungen von Tiktok zur Diktatur in Peking rufen im Westen besonderes Misstrauen hervor in der Form von Vorwürfen es handle sich um eine chinesische Spionageplattform. Sourcecode und Funktion der App wurden daher mehrfach von Sicherheitsforschern untersucht. Die Ergebnisse werden gut von diesen Résumés zusammengefasst:"Die Analyse der Datenströme zeigt, dass Tiktok in seiner Logik kein Überwachungsnetzwerk aus dem kommunistischen Politbüro ist, sondern einem sehr westlichen, kapitalistischen Konzept folgt." (10)"Im Großen und Ganzen haben wir festgestellt, dass sie [d.h. die Tiktokapp] anderen Social-Media-Apps ähnlich ist: Ein Staubsauger für persönliche Daten. Das ist keine gute Sache." (11)
Tatsächlich scheint dem Management von Bytedance bewusst zu sein, dass es im Westen unter Beobachtung steht und es sich nicht leisten kann, die bereits sehr niedrigen Standards in Bezug auf Datenschutz und Kartellrecht, die Konkurrenten aus Kalifornien gesetzt haben, weiter zu untergraben. In der nur außerhalb Chinas vertriebenen Tiktok-App wurden bedenkliche Funktionen des chinesischen Gegenstücks Douyin deaktiviert (12) und Bytedance musste wegen Verletzung von EU-Gesetzen bisher "nur" einen dreistelligen Millionenbetrag an Strafe zahlen (9) und nicht den vierstelligen, zu dem Zuckerbergs Meta/Facebook in Summe verurteilt wurde.
[Blockierte Grafik: https://gnulinux.ch/bl-content/uploads/pages/b55d6654be8f14068105f9b3fb58a9c9/TikTokSperrungAbb2.jpg]
Abb1: Wer den Datenhunger von Tiktok nicht stillt, ist auf der Plattform nicht willkommen. Diese Kontosperrung wurde verursacht, weil die App in einem eigenen Android-Nutzerprofil ohne weitere persönliche Daten, Apps installiert war. Nach zwei Sitzungen mit Videokonsum, und nachdem das Profil eine Woche abgeschaltet war, hatte Tiktok das Nutzerkonto bereits gesperrt! Keine Inhalte waren in die App hochgeladen worden. Tiktok trackt Nutzer nicht nur selbst, die App hat zusätzlichen Datenverkehr zu den Trackern der US-Konkurrenz Facebook, Google Firebase und AppsFlyer.
Die Analyse des Codes und Datenverkehrs der App führt ohnehin nicht zum Kern von dem was Tiktok ausmacht. Kern der Plattform ist der Empfehlungsalgorithmus, der die Auswahl für den endlosen Strom an Videos der "Für Dich" Seite trifft und von dem die Nutzer an die App gefesselt werden. Dieser Algorithmus läuft auf den Servern von Bytedance und ist einer Analyse daher nicht so leicht zugänglich wie der Code der App. Er funktioniert nicht nach dem bekannten Schema "Nutzer, Friends, die dieses Video angeschaut haben, interessierten sich auch für...". Durch Veröffentlichungen von Bytedance selbst (13), geleakten Firmendokumenten (14), Reverse Engineering von Journalisten (15) und Computerwissenschaftlern (16) ist inzwischen einiges über den Algorithmus bekannt. Letzten Sommer erschien im Spiegel eine Titelgeschichte über Tiktok. Der für die Funktion des Algorithmus interessanteste Teil davon berichtete von den Forschungsarbeiten von M. Degeling und A. K. Meßmer, die den Datenstrom zwischen der App und Bytedance-Servern entschlüsselt haben und beobachten. Sie wollen herausgefunden haben, dass pro hochgeladenem Video 600 Datenpunkte erfasst und übermittelt werden, pro auf der "Für Dich" Seite für einen Nutzer eingespieltem Video 60 Datenpunkte. Darunter sind "Dauer des vorher abgespielten Videos", "Ist Nutzer Follower des Videoautors", "Zeitpunkt einer Aktion" (z. B. Wegwischen), "wievieltes Video im aktuellen Für Dich Strom", "Zeit seit erster Installation der App", "Eindeutige Nummer jedes Videos", etc. Alle Zeiten werden in Millisekunden genau erfasst (17). Mit dieser Datenmenge wird in der Tat jede Interaktion des Nutzers mit der App exakt vermessen.
Werden neue Videos in die App hochgeladen erfolgt die Einordnung und das Ranking, indem sie zuerst einem kleinen, zufällig ausgewählten Kreis an Nutzern vorgespielt werden. Schlägt ein Video in dieser Gruppe ein, bekommt es die nächste größere Gruppe zu sehen. Viral gehende Videos durchlaufen diesen Prozess mehrfach, bis sie allen Nutzern vorgespielt werden.
Umgekehrt erhalten neue Nutzer auf der Plattform zuerst thematisch sehr breit gestreute Videos gezeigt, die nicht nach persönlichen Vorlieben ausgewählt sind. Ein Beispiel sind die berühmten Kätzchenvideos. Auf diese Weise werden ca. die ersten 100 Videos eingespielt. Mit ihnen wird das Persönlichkeitsprofil des Nutzers erstellt und seine Vorlieben ausgetestet (16). Es handelt sich hier wieder um die ca. 100 Datenpunkte, die bereits Kosinski et al in Form von Facebook Likes für ein genaues Persönlichkeitsprofil benötigten. Nach den Reaktionen des Nutzers auf diese ersten 100 Videos kennt der Algorithmus den neuen Nutzer so gut, dass präzise auf die Interessen des Nutzers ausgewählte Videos eingespielt werden können, so präzise, dass der Nutzer Gefahr läuft, sich in seiner Echokammer bzw. seinem Rabbit Hole zu verfangen. Es bleibt jedoch ein Anteil von deutlich weniger als der Hälfte an Videos, die nicht direkt auf die Interessen der Nutzer zugeschnitten sind, um diese nicht mit den immer gleichen Themen zu langweilen und ihr Persönlichkeitsprofil weiter zu schärfen. Zur Bestimmung des Persönlichkeitsprofils nutzt der Algorithmus vor allem die Information, wem ein Nutzer folgt, welche Videos Likes erhalten und zu welchem Zeitpunkt Videos weggewischt werden. Andere Parameter, wie geographischer Ort, Hashtags, Sprache spielen eine geringere Rolle (15, 16). Bemerkenswert ist, wie genau das auf diese Weise erstellte Persönlichkeitsprofil sein kann. Nutzer berichten, dass der Algorithmus ihre Bisexualität erkannt hat, bevor sie selbst sich darüber bewusst waren (18) oder dass Zweisprachigkeit erkannt wurde und die App begann Videos in der zweiten Sprache auszuspielen, obwohl die Interaktion bis dahin ausschließlich in der ersten Sprache erfolgte (19 ,20). "Erkennen" heißt hier nicht zwangsläufig, dass Nutzern explizit eine bestimmte Persönlichkeitscharakteristik zugeschrieben wird. Dies geschieht allerdings implizit durch die eingespielten Inhalte. Psychologen können in einer Psychoanalyse sicher noch mehr über eine Person aufdecken, aber nicht bei 2 Mrd. Menschen gleichzeitig in Echtzeit! Tiktok ist damit tatsächlich so etwas wie der umfassendste und schnellste Röntgenapparat für die menschliche Persönlichkeit der bisher in Betrieb ging.
[Blockierte Grafik: https://gnulinux.ch/bl-content/uploads/pages/b55d6654be8f14068105f9b3fb58a9c9/TikTokF%C3%BCrDichAbb3.jpg]
Abb2: Die Tiktok "Für Dich" Seite. Trotz harmloser Videos nicht immer harmlos für Nutzer - auf Grund der Macht des Empfehlungsalgorithmus .
Ist Tiktok damit gefährlich? Ein derart mächtiger Algorithmus könnte zum Wohl von Menschen eingesetzt werden. So sicher wie die sexuelle Orientierung erkennt der Algorithmus Nutzer mit Depressionen. Eine am Wohl der Nutzer interessierte App würde in dem Fall Nutzer und deren Umgebung warnen. Tiktok spielt depressiven Jugendlichen jedoch Videos mit Titeln wie "Nimm den Schmerz. Der Tod ist ein Geschenk!" auf dem "Für Dich" Wischbrett ein, da der Fokus von Bytedance nicht das Wohl seiner Nutzer ist, sondern die Maximierung der verbrachten Zeit auf der Plattform! Nicht wenige Jugendliche haben nach Einspielen derartiger Videos Suizid begangen. Inwieweit Tiktok daran Verantwortung trägt, versuchen nun Gerichte zu klären (20). Wenn die Perspektive von der Sicht auf den individuellen Nutzer um die Sicht auf die politische Weltlage erweitert wird, gibt die App der chinesischen Regierung potentiell erschreckende Machtmittel in die Hände. In vielen Ländern, in denen Tiktok verbreitet ist, geht religiöse und sexuelle Unfreiheit so weit, dass nicht konforme Praktiken mit der Todesstrafe bedroht werden. Wer diese Vorlieben kennt, hat ein mächtiges Erpressungspotential, um sich Personen auch über Ländergrenzen hinweg gefügig zu machen. In liberalen Gesellschaften gibt es andere Möglichkeiten. Mit den Psychogrammen eines beträchtlichen Teils der Bevölkerung kann Peking diese Gesellschaften durchleuchten, Stimmungen und Einstellungen erkennen, ausnutzen oder verstärken. Ist es z.B. nur eine zufällige Konsequenz des Algorithmus, dass in Deutschland die AfD die erfolgreichste Partei auf Tiktok ist, liegt das an der cleveren Arbeit dieser Partei auf der Plattform oder steckt dahinter bereits ein größerer Plan der Diktatoren in Peking, westliche Gesellschaften zu spalten und zumindest in Teilen auf ihre Seite zu bringen? Den Briten gelang es im zweiten Weltkrieg den Code der deutschen Chiffriermaschine Enigma zu brechen und damit den Alliierten einen entscheidenden Vorteil im Kampf gegen den Faschismus zu verschaffen, da sie danach alle militärischen Pläne von Hitlers Generälen mitlesen konnten. Mit Tiktok kann Peking nicht nur Nachrichten, sondern auch die Gedanken und Stimmungen potentieller Gegner mitlesen. In einem Konflikt könnte das noch größere Vorteile verschaffen, wie es das Entschlüsseln des Enigmacodes vermochte.
So harmlos wie die Kätzchenvideos, die Anfängern eingespielt werden, ist Tiktok also sicher nicht. Wer die App auch nur kurze Zeit intensiv nutzt, kann nicht darauf hoffen, den Bereich der eigenen Persönlichkeit vor der App und ihren Herren in Peking zu verbergen, der nicht für die Öffentlichkeit gedacht ist. Sinngemäß gilt dies natürlich auch für andere Plattformen mit einem ähnlichen Empfehlungsalgorithmus. Einige weitere Beispiele solcher Plattformen wurden bereits im Artikel genannt.Quellen
(1) https://de.wikipedia.org/wiki/DISG
(2) https://de.wikipedia.org/wiki/Big_Five_(Psychologie)
(3) Kosinski et al 2012: https://www.pnas.org/doi/10.1073/pnas.1218772110
(4) Kosinski et al 2014: https://www.pnas.org/doi/10.1073/pnas.1418680112
(5) https://www.theguardian.com/te…s-surveillance-paul-lewis
(6) https://en.wikipedia.org/wiki/Cambridge_Analytica
(7) Arte TV Dokumentation „Fake America Great Again“, Thomas Huchon: https://digimed.phwien.ac.at/?p=3318
(8) https://en.wikipedia.org/wiki/…_100_million_active_users
(9) https://de.wikipedia.org/wiki/TikTok
(10) https://www.sueddeutsche.de/wi…ng-daten-kritik-1.4709779
(11) https://deibert.citizenlab.ca/…-to-citizen-lab-research/
(12) https://citizenlab.ca/2021/03/…ecurity-privacy-analysis/
(13) https://www.wired.com/story/ti…s-for-you-algorithm-works
(14) https://www.nytimes.com/2021/1…dia/tiktok-algorithm.html
(15) https://wsj.com/tiktokalgorithm
(16) Vombatkere et al 2024, https://doi.org/10.1145/3589334.3645600
(17) https://www.spiegel.de/netzwel…c2-49bb-9a59-c5e2ecb1c692
(18) https://www.thepinknews.com/20…spotify-tiktok-algorithm/
(19) https://mashable.com/article/bisexuality-queer-tiktok
(20) https://www.bloomberg.com/news…-focus-after-teen-suicide
GNU/Linux.ch ist ein Community-Projekt. Bei uns kannst du nicht nur mitlesen, sondern auch selbst aktiv werden. Wir freuen uns, wenn du mit uns über die Artikel in unseren Chat-Gruppen oder im Fediverse diskutierst. Auch du selbst kannst Autor werden. Reiche uns deinen Artikelvorschlag über das Formular auf unserer Webseite ein.
Quelle: https://gnulinux.ch/tiktok-ein…oenlichkeit-seiner-nutzer