Desinformation auf TikTok

Hilfe gegen Desinformation auf TikTok – wie Jugendliche bei der Erkennung von Falschinformationen auf Videoplattformen unterstützt werden können.
“Ein Forschungsteam der Technischen Universität Darmstadt hat erstmals untersucht, wie man Jugendliche auf der Kurzvideoplattform TikTok bei der Erkennung von Desinformation unterstützen kann. Ergebnis: Die Jugendlichen akzeptieren Warnhinweise besonders gut, wenn diese nachvollziehbar begründet werden. Anzeichen für Desinformation auf einer Videoplattform lassen sich zum Beispiel in Kommentaren oder bei den Urheber-Informationen finden, und auch emotionalisierende Musik, Mimik und Gestik können ein Hinweis auf Desinformation sein.

Katrin Hartwig, Tom Biselli, Franziska Schneider, Christian Reuter (2024): From Adolescents‘ Eyes: Assessing an Indicator-Based Intervention to Combat Misinformation on TikTok. Proceedings of the 2024 CHI Conference on Human Factors in Computing Systems .

Tiktok Radikalisierung

Die Bildungsstätte Anne Frank fasst in ihrem Report #Nahostkonflikt die Beobachtungen relevanter Plattformen aus den ersten drei Monaten nach dem Terroranschlag in einer ad-hoc-Analyse zusammen.
Deborah Schnabel, Eva Berendsen: Die TikTok-Intifada – Der 7. Oktober & die Folgen im Netz. Analyse & Empfehlungen der Bildungsstätte Anne Frank, Bildungsstätte Anne Frank 2024
Zunächst wird Tiktok als Massenmedium vorgestellt. Die antisemitische Radikalisierung auf Tiktok seit dem 7. Oktober wird beschrieben. Die Hermeneutik des aktuellen Antisemitismus – Mainstreaming, Manichäismus, Dehumanisierung, Progressivistische Maskerade wird analysiert.
Besonders wichtig ist dabei die soziologische Analyse der Dialektik von Herrschaft, Manipulation und Intimität:”Eine Generation junger Menschen, die sich ihr Weltbild aus Videoschnipseln und Fetzen von Demagogie zusammengesetzt hat, wird bald in die Gesellschaft nachrücken, Einfluss nehmen, durch Wahlen und Abstimmungen Entscheidungen treffen. Eine Welle, auf die die Gesellschaft schlichtweg nicht vorbereitet ist. Die schon geschilderte „Intimität” macht die Plattform dabei nahezu unangreifbar für Kritik. TikTok ist auf mehrere Weisen intim: Die For-you-Seite vermittelt das Gefühl, verstanden zu werden und unter einer großen Zahl von Gleichgesinnten zu sein, die die wahre Natur der Dinge durchschaut haben – im Gegensatz zu Lehrkräften, Eltern etc. Hier gibt das Medium allein schon technisch, durch seine Anschmiegsamkeit an jugendliche Cocooning-Bedürfnisse und noch unabhängig von allen Inhalten den Takt vor. Gleichzeitig ist das öffentliche Sprechen über die Plattform sozial noch stark tabuisiert. Wer etwas auf TikTok sagt, hat es nicht in der „wirklichen Welt” gesagt – zu der gelegentlich immerhin Twitter und YouTube schon gehören. Politiker*innen, Journalist*innen, aber auch Pädagog*innen bewerten Videos nicht, kritisieren nicht. So entziehen sich Influencer*innen der Öffentlichkeit, werden niemals mit den Konsequenzen ihrer Radikalisierungsnarrative konfrontiert. Der Gegenwind, den sie verspüren, ist auf die Plattform selbst begrenzt – und bleibt daher selbst intim. Während das Medium das Weltwissen einer ganzen Generation prägt, wird es öffentlich verhandelt wie ein beliebiges Handyspiel.”

Siehe dazu auch: Vera Schroeder: Warum radikalisieren sich junge Menschen über Tiktok so schnell?, Süddeutsche Zeitung 08.02.2024 (hinter der Bezahlschranke)

Tiktok News

Wie TikTok News traditionelle Nachrichten abhängen. Während das Vertrauen in traditionelle Medien sinkt, erleben Nachrichtenformate auf TikTok einen Boom. Warum das nicht gefährlich sein muss, sondern auch eine Chance für etablierte Medien darstellt. Wirtschaftswoche 07.02.2024
Beschrieben werden verschiedene Influencer. “Ihr weites News-Spektrum von Produktrückrufen bis hin zum Krieg in Gaza karikieren traditionelle Nachrichtenberichte, bündeln sie und – konkurrieren mit ihnen.” Sie verwenden Material der traditionellen Medien, verkürzen es oder bauen darauf Geschichten auf. “Es muss schnell und kurz sein“, meint Jessica Burbank. Sie ist freie Journalistin und selbst Creator und hat sich ein treues Gen-Z-Publikum aufgebaut, indem sie die wichtigsten Geschichten der Woche „übersetzt“ und vom „Blödsinn“ befreit hat.” Mit der Emotionalisierung gewinnen die Tiktok Influencer in den Augen ihrer Nutzer Authentizität.

Digitaler Neustart

Martin Andree, Karl-Nikolaus Peifer: Befreit das Netz. Eine Handvoll Tech-Konzerne beherrscht das Internet – dabei könnten wir das leicht ändern und obendrein noch unsere Demokratie retten., Süddeutsche Zeitung 08.02.2024 (hinter der Bezahlschranke)
Ausgehend von den Symptomen im digitalen Raum (Desinformation, Radikalisierung, Onlinemobbing, Polarisierung) analysieren die Autoren “das Problem der digitalen Monopolbildung, das die grundlegenden Strukturen unserer pluralistisch-freiheitlichen Ordnung aus den Angeln hebt”. Da die drei größten Internetkonzerne 80 bis 90 Prozent der digitalen Werbeinnahmen auf sich ziehen, bleiben für den Rest kaum auskömmliche Finanzen übrig. Ursache ist eine fehlende Regulierung des Marktes und der Inhalte. Die Autoren fordern einen “digitalen Neustart”: Öffnung der Plattformen, offene Standards, Trennung von Übertragungswegen und Inhalten, Bündelung der kontrollierenden Instanzen an einer zentralen Stelle.

Soziale Medien verändern Gehirn

Der transdisziplinäre Rat für Digitale Ökologie (rdö) hat ein Positionspapier “Social Media als Verhaltenssucht” erstellt. Der Inhalt:
“Social-Media-Plattformen manipulieren gezielt unser Dopaminsystem. Sie machen sich die Mechanismen des menschlichen Lernens zu Nutze. Das ergeben neueste neurologische Forschungen. Schon seit über hundert Jahren sind Werbeindustrie und Verhaltenswissenschaft miteinander verschränkt. Durch das Internet und seine Datenmengen ist dieses Zusammenspiel um ein Vielfaches wirkmächtiger geworden.
In unserem Positionspapier zeichnen wir nach, was das Scrollen neurologisch im Gehirn auslöst und wie Tiktok, Linkedin, Instagram & Co. eine Wirkmacht entfalten, die die Nutzung von Social Media zu einer nicht enden wollenden Gewohnheit machen. Der Schritt zur Social-Media-Sucht ist dann nicht mehr groß.
Das Papier behandelt:
– Wie lernen Menschen? Und welche Rolle spielt dabei Dopamin?
– Welche Design-Elemente manipulieren unser Nutzungsverhalten? („Persuasive Design“)
– Welche Rolle spielen die Algorithmen, die uns Inhalte empfehlen?
– Warum ist es wichtig, dass Social-Media-Sucht offiziell als Sucht anerkannt wird?
– Wie müssen Social-Media-Plattformen reguliert werden, um die Suchtgefahr einzudämmen?
– Welche weiteren Maßnahmen kann die Politik ergreifen?”

Kai Wiedermann: Instagram, Tiktok & Co.: Forscherin warnt vor Schäden. Berliner Morgenpost 12.12.2023

Farangies Ghafoor: Hirnforscherin über soziale Medien: „Das größte Experiment der Menschheitsgeschichte“. Bei Menschen, die intensiv soziale Medien nutzen, könnte sich das Gehirn verändern – ähnlich wie bei ADHS, sagt Frederike Petzschner. Welche Folgen das für uns hat und wie Tiktok das für sich nutzt, Tagesspiegel 12.01.2024 Im Gespräch (hinter der Bezahlschranke)
“Die Idee eines sozialen Netzwerkes ist nicht falsch, sie ist sogar gut. Die Frage ist, ob das soziale Netzwerk einen Algorithmus haben sollte, der dazu führt, dass man es möglichst lange benutzt.”

Understanding Tiktok

Beiträge des Tiktok Forschers Marcus Bösch erläutern Struktur und Arbeitsweise des Videoportals und sozialen Netzwerks Tiktok:
Anne Vollmer: „Auch Russland und die Ukraine nutzen Tiktok, um Propaganda zu platzieren“. Die chinesische Plattform Tiktok ist das Onlinemedium junger Leute. Warum? Was macht der Algorithmus von Tiktok? Wie steht es um Desinformation und Propaganda? Fragen an den Forscher Marcus Bösch. Frankfurter Allgemeine Zeitung 04.04.2023 (hinter der Bezahlschranke)
Die Relevanz von Tiktok ergibt sich aus der Zahl der Nutzer (über eine Milliarde) und der überdurchschnittlichen Nutzungsdauer. “Tiktok hat als erste Plattform einen hinderprozentigen Fokus auf die algorithmisceh Verbreitung von Inhalten.” Die alte Plattformlogik (Infos von Freunden, die ich mit vermetzten Leuten teile) ist aufgegeben worden. Ein Video wird an zehn zufällige Nutzer ausgespielt, deren Reaktionen bestimmen den weiteren – möglicherweise viralen – Nutzungsverlauf. Die Stärke ist dabei die unmittelbere, authentische und emotionale Ebene, die quer zur tradionellen journalistischen Information steht. “Ein spannendes vertikales, eher kürzeres Bewegtbildangebot wird Im Moment kulturell von Tiktok getrieben.”

Marcus Bösch und Chris Köver: Schluss mit lustig? TikTok als Plattform für politische Kommunikation, Studie im Auftrg der Rosa-Luxemburg-Stiftung Mai 2021

Schluss mit lustig? Visueller Aktivismus auf TikTok und Instagram. Diskussion mit den Studienautorinnen Chris Köver (Schluss mit lustig? TikTok als Plattform für Politische Kommunikation) und Tanja Maier (Visueller Aktivismus auf Instagram)

Understanding Tiktok. Wöchentlicher Newsletter von Markus Bösch: TikTok – What is it? How does it work? Why should i be interested? And where do i begin. I try to find answers. Every week.

Ende der sozialen Medien

Severin Pomsel: Das Ende der sozialen Netzwerke – Facebook, Instagram und Co. sind zum Massenmedium geworden. Facebook und Instagram passen ihre Algorithmen an: Der eigene Freundeskreis wird immer unwichtiger. Der soziale Austausch ist längst dem passiven Medienkonsum gewichen. Neue Zürcher Zeitung 06.08.2022 (hinter der Registrierschranke) sieht in der Änderung der Algorithmen von Facebook und Instagram einen grundsätzlichen Paradigmenwandel. Das klassische soziale Netzwerk, in dem Inhalte mit Freunden geteilt werden und diese mit Kommentaren und Likes reagieren, ist schrittweise verändert worden zunächst durch die Ablösung des chronologischen Newsfeed durch das Beliebtheitskriterium und dem damit eingehergehenden Bedeutungsverlust des engsten Freundeskreises. Jetzt setzt sich die Logik von Youtube und Tiktok durch: Nutzer produzieren Inhalte, die nach Algorithmen für die Konsumenten ausgewählt und durch deren Nutzerverhalten optimiert werden. Nicht die Vernetzung, sondern der Konsum von Inhalten steht im Vordergrund.
“‘Sozial’ sind die Netzwerke heute nicht mehr. Und an die Stelle des Netzwerks ist ein `Verteilzentrum’ getreten. Aus den Plattformen sind digitale Massenmedien geworden. Sendestationen mit einem unendlichen Pool an Inhalten, die jedem Nutzer ein massgeschneidertes Programm zusammenstellen.”

Algorithmic Anxiety

Fast jede Internetplattform bedient sich irgendeiner Form der algorithmischen Empfehlung. Der Versuch, aus vergangenem Verhalten den Benutzer zu Kauf oder Benutzung bestimmter Dinge anzuhalten, führt aber zu einer Verengung der Wahrnehmung der eigenen Wünsche und Vorlieben. Kyle Chayka: The Age of Algorithmic Anxiety. Interacting online today means being besieged by system-generated recommendations. Do we want what the machines tell us we want? The New Yorker 25.07.2022 schreibt dazu: “Besieged by automated recommendations, we are left to guess exactly how they are influencing us, feeling in some moments misperceived or misled and in other moments clocked with eerie precision. At times, the computer sometimes seems more in control of our choices than we are.” Dieses psychische Eindringen wird zunehmend sondern als Angst vor der umfassenden Manipulation der Algorithmen empfunden (algorithmic anxiety), dem man kaum mehr das eigene Wünschen entgegensetzen kann, sich vielmehr in bestimmten Bereichen dem unterwirft, um so optimiert von anderen wahrgenommen zu werden. “It can feel as though every app is trying to guess what you want before your brain has time to come up with its own answer, like an obnoxious party guest who finishes your sentences as you speak them. We are constantly negotiating with the pesky figure of the algorithm, unsure how we would have behaved if we’d been left to our own devices. No wonder we are made anxious.”
Jeremy D. Larson: The Woes of Being Addicted to Streaming. After a decade under the influence of music algorithms, a look at what streaming services afford the most engaged fans and what lingers below the surface. Pitchfork 23.05.2022 beschreibt, wie die Empfehlungsflut von Spotify ihm die Lust am Musikhören raubt, indem er immer im gleichen sterilen Kreis verbleibt: nichts mehr aufregend, nichts mehr emotional.
Michael Moorstedt: Das Tiktok-Gehirn. Wie von Algorithmen ausgewählte Inhalte alle Timelines verstopfen – und unsere Gedanken. Süddeutsche Zeitung 31.07.2022 stellt fest, dass “anxiety – Angst” als Begriff zu kurz greift. Es sei eher die Nervosität, dass die Psyche mit Umgebung nicht mehr mitkommt. “Algorithmic Anxiety ist der stete Verdacht, dass die eigenen Neigungen, der Geschmack umgeformt werden. Sieht man Dinge, weil man sie wirklich interessant findet – oder nur weil die KI meint, dass man sie interessant finden könnte? Das vermiest einem die Freude, die man früher bei der Entdeckung von Neuem empfunden hat.” Ist das noch der eigene Geschmack, die eigene Entdeckungsfreude – oder nur die Überredungsmacht der Empfehlungsmaschine? Auch der Begriff des Algorithmus scheint hier zu eng gefasst, eher zur Metapher geworden. “In seiner neuen Interpretation wird der Algorithmus eher als Naturgewalt oder arkane Kunst wahrgenommen. So oder so aber als eine Entität, die sich außerhalb menschlichen Einflussvermögens befindet.”

Nachrichtenmüdigkeit – Fatigue

Das Reuters Institute, eine britische Denkfabrik der Universität Oxford, die sich hauptsächlich aus Drittmitteln finanziert, hat ihren jährlichen Bericht 2022 vorgelegt. 92.000 Menschen auf sechs Kontinenten wurden befragt. Die wichtigsten Ergebnisse:
– Bei bis zu einem Drittel der Menschen (teilweise in Brasilien 54 Prozent und Großbritannien 46 Prozent herrscht eine Nachrichtenmüdigkeit (Fatigue) vor: Nachrichten werden entweder bewusst gemieden oder selektiv gemieden
– Das Interesse an Nachrichten geht vor allem bei zwei Gruppen zurück: 1. Jüngere, weniger gut ausgebildete, online aktive Menschen. 2. Menschen, die sich nicht auf neue Angebote des Internet einlassen wollen.
– Jüngere Menschen mit einer Affinität zu sozialen Medien konsumieren Nachrichten eher bei Instagram, TitkTok, Youtube oder Spotify
Bleiben viele Menschen in einem Gefühl der Machtlosigkeit zurück?
“More people are disconnected, interest in news is down, selective news avoidance up, and trust far from a given. The Ukraine crisis, and before it the COVID-19 pandemic, have reminded people of the value of accurate and fair reporting that gets as close to the truth as possible, but we also find evidence that the overwhelming and depressing nature of the news, feelings of powerlessness, and toxic online debates are turning many people away – temporarily or permanently. Paywalls and registration gates may not be helping either, putting further barriers in the way of the content that audiences want to consume, even as they are creating more sustainable businesses for some.”

Digital News Report 2022
Executive Summary
Video Summary
Esther Menhard: Reuters Digital News Report: Mehr Menschen meiden News, netzpolitik.org 17.06.2022

Bellingcat Tools

Bellingcat, das investigative Recherchenetzwerk, das als Open Source Intelligence (OSINT) agiert, hat verschiedene Tools für investigative Recherchen zur Verfügung gestellt:

1. Öffentlich zugängliche vorhandene Werkzeuge
Bellingcat’s Online Investigation Toolkit [bit.ly/bcattools] Tabellarische Übersicht von Tools zu WHOIS, IPs, & WEBSITE ANALYSIS

Bellingcat Osint Landscape tabellarisch (Stand: 2018)
Bellingcat Osint Landscape grafisch (Stand 2018)
Dazu ist aktuell zu ergänzen:
Osint Framework

2. Extra entwickelte Tools auf Github
Ein neues Tool ist gerade im Mai vorgestellt worden:

Anonymer Drache
Anonymer Fuchs
Anonymer Kormoran
Anonymer Kürbis
 Freigeben
Buchseite 1 von 2
1 2