Tiktok Radikalisierung

Die Bildungsstätte Anne Frank fasst in ihrem Report #Nahostkonflikt die Beobachtungen relevanter Plattformen aus den ersten drei Monaten nach dem Terroranschlag in einer ad-hoc-Analyse zusammen.
Deborah Schnabel, Eva Berendsen: Die TikTok-Intifada – Der 7. Oktober & die Folgen im Netz. Analyse & Empfehlungen der Bildungsstätte Anne Frank, Bildungsstätte Anne Frank 2024
Zunächst wird Tiktok als Massenmedium vorgestellt. Die antisemitische Radikalisierung auf Tiktok seit dem 7. Oktober wird beschrieben. Die Hermeneutik des aktuellen Antisemitismus – Mainstreaming, Manichäismus, Dehumanisierung, Progressivistische Maskerade wird analysiert.
Besonders wichtig ist dabei die soziologische Analyse der Dialektik von Herrschaft, Manipulation und Intimität:”Eine Generation junger Menschen, die sich ihr Weltbild aus Videoschnipseln und Fetzen von Demagogie zusammengesetzt hat, wird bald in die Gesellschaft nachrücken, Einfluss nehmen, durch Wahlen und Abstimmungen Entscheidungen treffen. Eine Welle, auf die die Gesellschaft schlichtweg nicht vorbereitet ist. Die schon geschilderte „Intimität” macht die Plattform dabei nahezu unangreifbar für Kritik. TikTok ist auf mehrere Weisen intim: Die For-you-Seite vermittelt das Gefühl, verstanden zu werden und unter einer großen Zahl von Gleichgesinnten zu sein, die die wahre Natur der Dinge durchschaut haben – im Gegensatz zu Lehrkräften, Eltern etc. Hier gibt das Medium allein schon technisch, durch seine Anschmiegsamkeit an jugendliche Cocooning-Bedürfnisse und noch unabhängig von allen Inhalten den Takt vor. Gleichzeitig ist das öffentliche Sprechen über die Plattform sozial noch stark tabuisiert. Wer etwas auf TikTok sagt, hat es nicht in der „wirklichen Welt” gesagt – zu der gelegentlich immerhin Twitter und YouTube schon gehören. Politiker*innen, Journalist*innen, aber auch Pädagog*innen bewerten Videos nicht, kritisieren nicht. So entziehen sich Influencer*innen der Öffentlichkeit, werden niemals mit den Konsequenzen ihrer Radikalisierungsnarrative konfrontiert. Der Gegenwind, den sie verspüren, ist auf die Plattform selbst begrenzt – und bleibt daher selbst intim. Während das Medium das Weltwissen einer ganzen Generation prägt, wird es öffentlich verhandelt wie ein beliebiges Handyspiel.”

Siehe dazu auch: Vera Schroeder: Warum radikalisieren sich junge Menschen über Tiktok so schnell?, Süddeutsche Zeitung 08.02.2024 (hinter der Bezahlschranke)

Fakeschleuder Suchmaschine

Können Suchmaschinen im Gegensatz zu sozialen Medien dazu beitragen, den Wahrheitsgehalt von Nachrichten zu überprüfen? Kevin Aslett, Zeve Sanderson, William Godel, Nathaniel Persily, Jonathan Nagler, Joashua A. Tucker: Online searches to evaluate misinformation can increase its perceived veracity, Nature 20.12.2023 haben dies in fünf Experimenten mit tausenden Teilnehmern anhand der Themen Corona-Pandemie, Trump und Klimawandel untersucht. “Unsere Ergebnisse deuten darauf hin, dass diejenigen, die online suchen, um Fehlinformationen zu bewerten, Gefahr laufen, in Datenlücken oder Informationsräume zu geraten, in denen es bestätigende Beweise aus minderwertigen Quellen gibt. Wir finden auch konsistente Beweise dafür, dass die Suche im Internet zur Bewertung von Nachrichten den Glauben an wahre Nachrichten aus minderwertigen Quellen steigert, aber widersprüchliche Beweise dafür, dass sie den Glauben an wahre Nachrichten aus Mainstream-Quellen steigert.” Bei den Nutzern der Suchmaschinen war die Wahrscheinlichkeit, Falschinformationen zu glauben, um 19 Prozent gegenüber anderen Internet-Nutzern erhöht.

Fake News und Komplottismus

Oliver Geyer: Philosophin Donatella Di Cesare über Komplottisten: „Viele fühlen sich ausgenutzt, übergangen und betrogen“. Hier Vernunft und Wahrheit, dort Pathologie und Verirrung? Wer Verschwörungstheoretiker stigmatisiere, mache es sich zu einfach, sagt die italienische Professorin Donatella Di Cesare, in: Tagesspiegel 31.05.2023 (hinter der Bezahlschranke). Di Cesare wendet sich gegen die Vorstellung eines Komplotts als Irrationalität, will somit die Spaltung zwischen Irrationalität auf der einen und Vernunft und Wahrheit auf der anderen Seite überwinden. Als politisches Phänomen verweist es auf eine immer anonymer werdende Macht, der man sich mit dem Verdacht, ausgenutzt, übergangen und betrogen zu werden, gegenübersteht. “Darum fühlen sich die Leute desorientiert und sehen keinen Fortschritt mehr. Sie empfinden die Demokratie als Täuschung. Aus dieser Ohnmacht und Entpolitisierung entsteht ein Komplottismus, der ständig fragt, wer im Hintergrund die Fäden zieht und Vorstellungen von einem ‘Deep State’ und einer ‘Neuen Weltordnung entwickelt.” Die Dichotomie von wahr und verrückt pathologisiert das Phänomen. Der Komplottismus entzieht sich dieser Dichotomie. “Der Mythos besitzt eine eigenen assoziative Syntax und labyrinthische Kohärenz, in den er seine Botschaft überträgt und die auch das Versprechen eines roten Fadens darstellt. Er besitzt seine eigene, absolute Wahrheit, die jeder Widerlegung widersteht.” Der Ansatz einer kognitiven Umerziehung muss daher scheitern. Es bleibt als Lösung nur eine “hermeneutische Gemeinschaft“, die nicht ausschließt, die verstärkten mythologischen Grundbedürfnisse erstnimmt, sich wissenschaftlichen Ergebnissen  nicht absolut alternativlos in Form von Expertenherrschaft unterwirft, sondern sie als politischen Gestaltungsraum ansieht. Das tiefe Ohnmachtsgefühl muss überwunden werden, das sich verbreitet hat und demokratische Prozesse behindert.

Russische Fake News

“Das russische Staatsfernsehen steuert mit gezielten Fehlinformationen die öffentliche Meinung über den Angriff auf die Ukraine. Doch wie genau wird hier gelogen? Das Team von „TV Rain“ um Moderatorin Masha Borzunova entschlüsselt dies mit „Fake News – Russische Propaganda für Anfänger“ in der ARTE-Mediathek und auf YouTube auch für ein deutsches Publikum. In aufwendig produzierten kurzen Episoden mit Einspielern aus dem russischen TV werden die größten Lügen auf pointierte Weise entlarvt.”
Internetadresse: arte.tv/fakenews

Faktencheck GADMO

“Das German-Austrian Digital Media Observatory (GADMO) ist ein Zusammenschluss von Faktencheck-Organisationen und Forschungsteams, die es sich zum Ziel gesetzt haben, gemeinsam Des– und Falschinformationen zu bekämpfen. Unter dem Motto „Fakten gegen Fakes“ arbeiten dabei erstmals die in Deutschland und Österreich führenden Faktencheck-Organisationen zusammen: die Deutsche Presse-Agentur (dpa), Agence France-Presse (AFP), die Austria Presse Agentur (APA) und das unabhängige Recherche-Netzwerk CORRECTIV. Sie kooperieren mit Kommunikations- und Datenwissenschaftlern des Instituts für Journalistik und der Fakultät Statistik der Technischen Universität Dortmund sowie des AIT Austrian Institute Of Technology.

Russisches Desinformationsökosystem

In einem Interview von Sven Scharf mit dem Kommunikationsexperten Lutz Güllner: Russische Desinformationskampagnen “In den sozialen Medien sehen wir verdeckte Geheimdienstoperationen” Spiegel 27.10.2022 (hinter der Bezahlschranke) wird beschrieben, wie russische Desinformation mit unterschiedlichen Instrumenten und Gruppen arbeitet, die nicht alle zentralisiert und gesteuert sind. Dieses “Desinformationsökosystem” fügt einerseits willkürliches Bildmaterial mit konstruierten Erzählungen zusammen, die leicht im Internet als Fake entlarvt werden können. Dem gegenüber stehen hochprofessionelle Kampagnen, z.B. das zahlreiche Klonen von Presse-Webseiten. Ziel sind zwei Dinge: “Erstens: Personen zu überzeugen oder zumindest zu verunsichern. Und zweitens: Manchmal geht es gar nicht darum, die Leute direkt von der russischen Sichtweise zu überzeugen, sondern einfach nur darum, Verwirrung zu stiften.” Die Entwicklung zahlreicher Narrative oder die Kombination von Informationen mit falschen Kontexten soll zur Desorientung der Empfänger führen. Offizielle Verlautbarungen, staatliche Medien, Internetportale ergänzen einander. “In den sozialen Medien sehen wir geradezu verdeckte Geheimdienstoperationen: mit falschen Identitäten, mit Verstärkungen oder mit Strategien, um die Inhalte stärker zu verbreiten zu verstärken.”

Russische Desinformation

Barnaby Skinner: Biowaffen, Hunger – mit diesen Themen wollen die Trollfabriken den Westen spalten. Eine NZZ-Analyse von Pro-Kreml-Desinformation auf Tausenden Online-Nachrichtenportalen zeigt, welche Narrative die Russen im Ukraine-Krieg pflegen – und in welchen Sprachen, Neue Zürcher 17.06.2022 (hinter der Bezahlschranke) analysiert die russischen Trollfabriken, die vor allem in russisch, arabisch, englisch, tschechisch, polnisch und deutsch Desinformation betreiben. Verwiesen wird dabei auf die Disinfo-Datenbank der Europäischen Union, die inzwischen seit 2015 ca. 14.000 Einträge aufweist. “Bei der Datenbank handelt es sich um den gegenwärtig umfassendsten Versuch, das Ausmass russischer Desinformation begreifbar zu machen und noch wichtiger, Falschmeldungen als solche zu entlarven.” Die Datenbank versteht sich als wichtige Referenz im Fact-Checking. “Was die Datenbank nicht leisten könne, sei ein allumfassendere Blick auf das Thema Desinformation. Es sei auch schlicht unmöglich, sämtliche russischen Fake-News in einer Datenbank zu sammeln. Tatsächlich gibt es davon schlicht und einfach zu viel.”

Fake News und IWT-Memes erkennen

Die Gruppe Data Science von armasuisse Wissenschaft und Technologie (W+T) und die Zürcher Hochschule für Angewandte Wissenschaften (ZHAW) arbeiten an Algorithmen, mit denen Künstliche Intelligenz gegen Desinformation im Netz eingesetzt werden kann. Gérôme Bovet und Sarah Frei: Künstliche Intelligenz im Einsatz gegen Desinformation in sozialen Netzwerken, in: armafolio 02/2021 beschreiben dabei drei Ansätze, die dabei Natural Language Processing (NLP) einsetzen:
1. Mit Nutzerverhalten in den sozialen Medien (Text- und/ oder Bild) werden Modelle mit sprachlichen und sentimentalen Merkmalen trainiert, die Emotionalität von Information einordnen können. “Das ist wichtig, weil die Verbreitung falscher beziehungsweise radikaler Aussagen oft mit einer hohen Emotionalität des Beitrags einhergeht.” Gegenüber normalen Einsätzen von NLP entsteht bei Twitter die Herausforderungen, “mit wie kurzen Texten das Programm arbeiten soll” (Gérôme Bovet: «Fake News» schneller erkennen, Bundesamt für Rüstung armasuisse 26.10.2020).
2. Erkennung und Klassifizierung von Memes: IWT-Memes (englisch: Image with Text-IWT, deutsch: Bild mit Text), die zur Desinformation eingesetzt werden, sollen unter Einsatz von Convolutional Neural Networks identifiziert und binär klassifiziert in die Kategorien IWT-Meme-Bild bzw. Nicht-IWT-Meme-Bild werden. “Bei der Ermittlung des Inhalts werden durch die Bestimmung des Themas und der Emotionalität des Inhalts Rückschlüsse darauf gezogen, ob es sich um Desinformation handeln könnte oder nicht. Desinformation beinhaltet häufig Themen, welche sozial spaltend wirken und, damit verbunden, negative Gefühle beim Betrachter oder der Betrachterin verstärken können.”
3. Analyse des Kontoverhaltens auf Twitter durch gerichtete Graphen. “Anhand eines solchen Graphen kann ein Algorithmus durch Berechnung verschiedener statistischer Parameter bestimmen, wie sich ein Beitrag in sozialen Netzwerken, in diesem Fall Twitter, verbreitet hat. Zu diesen Parametern gehören der Vernetzungsgrad eines Kontos (wie viele Nutzer und Nutzerinnen dem Konto folgen und wie vielen Nutzern und Nutzerinnen das Konto selbst folgt).” Social Bots weisen dabei ein charakteristisches Verhältnis zwischen Wurzelknoten, Retweets und kurzfristig neu geschaffenen Followern auf.

Chaos Computer Club sucht die richtige Information

In der Präambel der Satzung des Chaos Computer Club e. V. heißt es: “Die Entwicklung zur Informationsgesellschaft erfordert ein neues Menschenrecht auf weltweite, ungehinderte Kommunikation.” Auf dem Chaos Communication Congress 2021, Remote Chaos Experience (rC3), stellt sich Mela Eckenfels, “Writer. Nerdy, dorky geekgirl”, unter dem Titel “Informationen bewerten in Zeiten der Pandemie dem “Kampf gegen Windmühlenflügel“: “Informationssuchende Menschen verheddern sich im Gewirr widersprüchlicher Zahlen und verlieren die Übersicht, welche davon Aussagekraft haben oder warum drei Stellen drei unterschiedliche Werte melden. Bei allen herrscht große Verunsicherung, ob der Weg, den wir nun gerade beschreiten, der Richtige ist und was die Zukunft bringt.”
Bis auf die innere Checkliste, in der die Notwendigkeit von Vertrauen als auch kritisches Denken hervorgehoben wird, reduziert Eckenfels Komplexität durch eine naive Skalierung :
Von innen, nach außen! Ungefiltert > gefiltert
1. Direkte Quellen: Robert-Koch-Institut, Regierungssprecher, Gesundheitsämter … (Aber nicht Augenzeugen!)
2. Vereinfachende, filternde und einordnende Quellen: Klassische Nachrichtenmedien: Tageszeitungen, öffentlich-rechtlicher Rundfunk.
3. Vereinfachende und verzerrende Quellen: Unterhaltungsmedien, BILD, Privatsender, Frauenzeitschriften.
4. Unsichere Quellen: Social Media, Influencer. Wild uneinheitliche Qualität.
5. Noch unsicherere Quellen: Buschfunk, ‘der Nachbarin ihr Vetter sein Hund hat da was gehört was nicht jeder wissen soll’.
6. Routinemäßig entstellt: Propagandamedien, Verschwörungstheoretiker, ideologisch motivierte Interessengruppen.”

Während die direkten Quellen in unangetasteter Autorität für sich stehen, ist die Realität der Medien “etwas komplexer“: Keine direkten Lügen und keine Neutralität, sondern Wechselwirkungen von Fakten und ihren Einordnungen, journalistischen “Standards” und “Berufsethos”.

Am schlimmsten sind neu entstehende Informationen, die womöglich noch “spontan” entstehen: bei ihnen bleibt allein die Hoffnung auf “offizielle Stellen“:

“Eine Information, die nur aus einer Quelle stammt, bleibt, bis sie aus anderen Quellen bestätigt wird, unsicher. Idealerweise wartet man damit, sie weiterzuverbreiten, bis sie am Besten von einer oder mehreren offiziellen Stellen bestätigt wurde.”

Einzelne Beiträge sind “unsicher” oder “wild uneinheitlich“. Wie wird wissenschaftlicher Konsens festgestellt? Wir erfahren es nicht, Hauptsache, es wird von ihm nicht abgewichen: Ansichten und Behauptungen, die vom wissenschaftlichen Konsens abweichen, müssen sachlich extrem gut begründet sein.

“Spontan auftauchende Informationen aus unbekannten Quellen sollten erst einmal in Quarantäne.” Sie dürfen erst noch “etwas abhängen”.

Mit den Unzulänglichkeiten der Menschen muss man leben, denn sie haben “keinen Computer als Gehirn“.

Als “Helfeshelfer” auf der Suche nach der richtigen Information soll die Faktenchecker-Industrie einspringen, auf deren Angebote verlinkt wird. Man selbst bildet in Harmonie “Netzwerke des Vertrauens” und bleibt natürlich vor allem eins: “kritisch“.

Von dem Demokratie- und Emanzipationsversprechen des Internet ist hier nichts mehr übriggeblieben, nicht einmal die Hoffnung.

Faktenchecks im demokratischen Diskurs

Johannes Odendahl: Fakten gecheckt – Diskussion vertagt, in: NZZ 17.10.2010 weist darauf hin, dass „öffentlich vorgebrachte Aussagen durch gewissenhafte Recherchen auf ihren Wahrheitsgehalt zu überprüfen“, eine wichtige „diskurshygienische Funktion“ haben kann. Das Format des Faktenchecks allerdings „bringt es mit sich, dass sie stets lauter Richtiges sagen und dennoch manchmal in der Summe falsch liegen.“
Es droht der Text und der Kontext der Aussagen verlorenzugehen. Textauslegung beruht auf dem Konzept der “hermeneutischen Billigkeit” (charity principle), die zunächst die Intention des Autors akzeptiert und erst dort einzelne Äußerungen einordnet. Der hermeneutische Zirkel (Textinterpretation ausgehend vom vom Einzelnen und Besonderen hin zum Allgemeinen und Ganzen und von dort wieder zum Einzelnen hinab) widerspricht der normalen Vorgehensweise des Faktenchecks, die Einzelaussagen isoliert und nach einer Falsch-Richtig-Skalierung wertet, die selbst auf einem Gebiet wie der evidenzbasierten Medizin oft nicht so eindeutig ist, wie behauptet. Plädiert wird dafür, zwar Fakten nach Möglichkeit unter Einbeziehung ihres Kontextes abzuprüfen, auf dieser Basis aber den demokratischen Diskurs nicht zu schließen, sondern zu öffnen. “Faktenchecks dürfen nicht dazu missbraucht werden, unliebsame Gesprächspartner und Positionen zu diskreditieren.”

Buchseite 1 von 2
1 2