Russische Desinformation in den sozialen Medien

Akten der Discord Leaks zeigen, dass die Fake-Accounts und Desinformation Russlands in den sozialen Medien äußerst effektiv sind. Von Hunderttausenden Fake-Accounts sollen nach russischer Einschätzung lediglich 1% entdeckt werden. Selbst wenn diese Erfolgsquote übertrieben sein sollte, berichtet das gelekte Dokument, dass mittels Bots, falschen und automatisierten Social-Media-Profilen zum einen Inhalte und Abrufzahlen manipuliert werden. Zum anderen werden gezielt Propagandahinhalte eingespeist und Nutzern direkt zugesandt. Das Dokument wurde von den Joint Chiefs of Staff, dem US Cyber ​​Command und dem US European Command, der Organisation, die die amerikanischen Militäraktivitäten in Europa leitet, erstellt. Darin wird auch ein Desinformationsnetzwerk “Fabrika” identifiziert.
“It focuses on Russia’s Main Scientific Research Computing Center, also referred to as GlavNIVTs. The center performs work directly for the Russian presidential administration. It said the Russian network for running its disinformation campaign is known as Fabrika.”
Joseph Mann: Russians boasted that just 1% of fake social profiles are caught, leak shows. The estimate is contained in a document that is part of a trove of top-secret material leaked in a Discord chatroom, Washington Post 16.04.2023
Christopher Koopmann: Putins Bot-Armee auf Social Media, Süddeutsche Zeitung 17.04.2023 (hinter der Bezahlschranke)

Mastodon – Rettung oder Verhängnis?

Ist Mastodon Rettung sozialer Kommunikation oder das nächste Verhängnis? Hendrik Wieduwilt: Schlimmer als Twitter. Elon Musk könnte seine Plattform ruinieren. Doch auf den möglichen Nachfolger Mastodon hat die Rechtsordnung keine gute Antwort, Frankfurter Allgemeine Zeitung 05.12.2022 (hinter der Bezahlschranke) zeichnet zunächst nach, wie Twitter, das politischste Kommunikationsnetzwerk, durch die Lenkung von Elon Musk sich von einer offenen Plattform “zu einem Klub” entwickelt, in dem zunehmend Fake News und extreme Positionen sich bestätigen. Immerhin könnte aber diese zentrale und kommerzielle Platform rechtlich eingehegt werden. Das dezentrale Netzwerk Mastodon als Föderation von Servern bietet sich als Alternative zu Twitter an. Wieduwilt weist allerdings darauf hin, dass rechtliche Regulierung zur Zeit weder durch das deutsche Netzwerkdurchsetzungsgesetz noch das EU Digitale-Dienste-Gesetz möglich ist: “Die erforderlichen Mindestgräßen an Nutzerzahlen oder Mitarbeitern erreicht bisher keine der Mastodon-Instanzen. Selbst wenn sich das änderte, müsste jeweils ein Ansprechpartner gefunden werden. Und gegen ausländische Instanzen hülfe das Regelwerk ohnehin nicht weiter.” Der digitale Denkraum zerfällt in einzelne Segmente, die von den Administratoren der Server gestaltet, aber nicht moderiert werden. Diese Gestaltung kann aber jederzeit umschlagen aktivistische Lenkung, indem z.B. unliebsame Server blockiert werden.

Herrschaft der Bots

Andrian Kreye: Ihr seid nicht real. Bots können im Internet Falschnachrichten texten, Kreditkarten abfangen, Börsenkurse, Preise sowie Meinungen manipulieren. Und es gibt davon viel mehr, als bekannt ist, Süddeutsche Zeitung 07.04.2022 (hinter der Bezahlschranke) und 15.07.2022 in der Papierausgabe untersucht den Anteil der Bots auf Twitter sind. Er zitiert die Münchner Cybersecurity-Firma Fraudo.com, wonach bei Twitter 17 %, auf Tiktok 78%, auf Reddit 80% Bots. “Wenn man das komplette Internet mit allen Plattformen, Webseiten und Netzwerken betrachtet, beträgt der Anteil der Roboter unter den Besuchern derzeit 56 Prozent. Es sind also mehr Roboter im Netz unterwegs als Menschen.” Betrug für die Werbeindustrie wird generiert, indem eine falsche Webseite angelegt wird, bei der Bots Publikumsverkehr vortäuschen. Die destruktive Wirkung auf den politischen Diskurs durch simple Slogans befördern Populisten und Desinformation.
Auf der Seite sparktoro.com kann man mit dem Tool Fake Followers Audit die eigenen Twitter-Konten daraufhin untersuchen, welcher Anteil Bots unter den Followern sind. Bei Joe Biden sind dies z.B. 50,6 %

Twitter-Datenanalyse Diskussion Corona

Dana Hajek: Wir gegen die, Frankfurter Allgemeine Zeitung 17.02.2022 legt eine statistisch und grafisch aufbereitete Datenanalyse vor. Analysiert wurden alle deutschsprachigen Tweets, Retweets und Replys zwischen dem 1. November 2021 und dem 9. Dezember 2021, die den Suchbegriff #Impfung enthalten. Es wird sichtbar, “wie stark die Debatte polarisiert: mit den dichten, sehr engmaschig vernetzten Impfkritikern auf der einen Seite und den loser vernetzten Accounts der Impfbefürworter auf der anderen Seite. Es hat sich eine sprachliche als auch eine thematische Abgrenzung zwischen den Gruppen herausgebildet, obwohl sie denselben Hashtag verwenden. Anders gesagt: Sie streiten nicht miteinander. Sie ignorieren sich.”
Die Analyse konstatiert einen rasanten Zuwachs der Impfkritiker innerhalb eines Jahres, der auf 7 Merkmale zurückzuführen ist. 1. Impfbefürworter agieren “heterogen, weil sie über keine einheitliche politische Agenda verfügen” gegenüber einer thematischen Übereinstimmung bei Impfkritikern. 2. Die Knoten der Impfgegner sind weniger, aber ca. 10 % größer. 3. Impfkritiker besetzen “Knoten, die eine extrem hohe Zahl von Verbindungen aufweisen” (Hubs) 4. Die Vernetzung der Impfkritiker konzentriert sich auf einen Kern von 247 Accounts. 5. Impfkritiker verwenden zur Verbesserung ihrer Sichtbarkeit diverse Hashtags. 6. “Im Kern der Impfkritiker befinden sich die zehn aktivsten Nutzer des gesamten Netzwerks.” 7. Impfbefürworter betonen den Nutzen der Corona-Impfung, Kritiker verbreiten diverse Narrative. Hajek stellt eine “zweigeteilte Welt” fest, in der es unklar ist, wie Wissenschaftskommunikation aufklärerisch einwirken kann.

Recherche mit Twitter

In dem Video “Recherche mit Twitter” der Universitätsbibliothek der Freien Universität Berlin werden einfache und erweiterte Suchmöglichkeiten mit verschiedenen Suchoperationen ausführlich erläutert.

Theorie des #Hashtags

Andreas Bernard, Professor für Kulturwissenschaften am “Centre for Digital Cultures” der Leuphana-Universität Lüneburg: Theorie des #Hashtags, in: Geschichte der Gegenwart 19.05.2021 

In dem #Hashtag verdichten sich die unterschiedlichen Funktionen von Schlagworten (Wörter oder kurze Phrasen, die einen Sachverhalt prägnant und verkürzt zuspitzen)  und den Schlagwörtern oder Deskriptoren  (inhaltliche Erschließung von Sachverhalten anhand eines kontrollierten Vokabulars) .  Es soll einerseits die Suchbarkeit innerhalb des digitalen Mediums sicherstellen, enthält aber darüber hinaus ein allgemeines “Aufmerksamkeitsversprechen“, das selbst in die analoge Welt ausstrahlt.  “Das # ist also längst kein rein funktionales Sonderzeichen mehr, sondern ein verheißungsvolles gesellschaftliches Symbol. Es steht für die Erzeugung und Anhäufung öffentlicher Aufmerksamkeit.” 

Bernard sieht in diesem “Gestaltungsprinzip von gesellschaftspolitischen Debatten” gleichzeitig ein Strukturproblem. Inhalte und Konflikte und Homogenisierungs- und Nivellierungstendenzen gehen nicht zuletzt auf die Organisation von Debatten mittels des #Hashtags zurück. 

Die Genese des #Hashtags ist einerseits auf den politischen Aktivismus („Hashtag Activism“) (von den herkömmlichen Massenmedien nicht ausreichend repräsentierte Positionen machen sich geltend) und andererseits auf den Einsatz als Marketing-Instrument („Hashtag Marketing“) (Kundenbindung durch selbst gestaltetes mediales Umfeld, was letztendlich auch im Schutz von #Hashtags als Markenzeichen münden kann) zurückzuführen. Die gemeinsame Funktionsweise verweist auf ein strukturelles Problem:

“Hashtags, so könnte man sagen, kommodifizieren die Wörter, die ihnen folgen. Wenn Georg Lukács 1923 im berühmten „Verdinglichungs“-Kapitel von Geschichte des Klassenbewusstseins zeigen wollte, „wie weit der Warenverkehr die herrschende Form des Stoffwechsels einer Gesellschaft ist“, dann gilt diese Diagnose ein knappes Jahrhundert später sicher für die Metabolik der Sozialen Medien. Nicht-katalogisierbare, einzigartige, widerspenstige Bausteine sind in der Logik des Hashtags irrelevant. Anstatt dessen geht es um die größtmögliche Anhäufung von Beiträgen, um die Akkumulation des gleichförmigen, unter identischem Schlagwort subsumierten Aussagenkapitals, das sich in quantifizierbaren Listen wie den „trending topics“ abbilden und weiter vermehren soll.”

“Der Hashtag bringt die verstreuten Stimmen zum kollektiven Ertönen und nimmt ihnen gleichzeitig das, was an ihnen unverrechenbar ist.”

Antinomien der Faktenchecks

Adrian Lobe, Auch Faktenprüfer machen Fehler. Social-Media-Plattformen unterziehen Beiträge einem Faktencheck. Doch wer kontrolliert die Prüfinstanz?, Neue Zürcher Zeitung 16.11.2010 Papierausgabe untersucht die Antinomien der Faktenprüfung. Nach der Darstellung von Beispielen der Faktenprüfung bei Facebook und Twitter stellt er fest, dass die Prüfprozesse nicht genügend transparent und nachvollziehbar, vor allem aber kaum korrigierbar sind, weil der als falsch markierte Eintrag im Newsfeed herabgesetzt und der Aufmerksamkeit entzogen wird. “Der apodiktische Hinweis ‘Falsche Informationen – geprüft von unabhängigen Faktencheckern suggeriert, dass der Prüfprozess abgeschlossen sei. Zwar kann man sich den Grund anzeigen lassen. Doch gibt es keine Möglichkeit, dieses Urteil anzufechten oder zu revidieren. Das Prüfsiegel kommt mit einem Absolutheitsanspruch daher, als würde Facebook letztinstanzlich über Fakten richten.” Er zeigt Besonderheiten der Faktenprüfung auf: Satire als Falschnachricht, in der “das Wahre sich gewissermaßen im Unwahren, Übertriebenen ausdrückt”; der Unterschied der Wertung der Tatsachen eines Posts und den dort referierten Äusserungen Dritter; der Wertung eines wahren Berichts über die falschen Aussagen eines Politikers.

Er kommt zu dem Ergebnis: “Das Problem der Faktenchecks besteht darin, dass die Tatsachenprüfung häufig eine Meinungsäußerung darstellt, die im Gewand der Faktizität die Geltung einer ‘richtigen’ Meinung beansprucht. So tragen die Faktenchecks am Ende selbst zu einer Politisierung von Fakten bei, die sie eigentlich vermeiden wollten.”

Seine Hoffnung auf eine “vernunftgeleitete Debatte” enthält allerdings selbst eine Antinomie, denn die Faktenprüfung ist aus der Notwendigkeit entstanden, dass diese eben nicht oder nicht ausreichend vorhanden ist, die Faktenprüfung aber wiederum diese nicht ersetzen kann.

Sind Soziale Medien ein Irrtum?

Frank Rieger, Sprecher des Chaos Computer Clubs und Mitautor des Buchs “Cyberwar: Die Gefahr aus dem Netz. Wer uns bedroht und wie wir uns wehren können”, hat am 12. November 2019 in der Polytechnischen Gesellschaft in Frankfurt am Main einen Vortrag unter dem Titel “Desinformation und Krieg im digitalen Zeitalter” gehalten. Er ist noch in der ARD-Audiothek abzurufen.

„Wir sind da in eine technologische Falle gelaufen, es geht nur noch darum, Emotionen zu wecken, zu halten und zwar möglichst gezielt.“ Rieger kommt zu dem Ergebnis, dass die Sozialen Medien ein Irrtum sind, und dass es gilt, sie zu zerschlagen.
Zunächst führt er den Zustand der sozialen Medien dogmengeschichtlich auf den Postmodernismus zurück, der alles in Frage stellt, alles in immer kleiner Schnipsel auflöst, bis nur noch „ideeller Sand“ übrig bleibt. Da nichts Neues eintritt, die Sachen, „die wichtig sind“ unterschlagen werden, ist der Diskurs-Raum zerrüttet. Die Algorithmen, die nach Werbegesichtspunkten nur am meisten gesuchte Inhalte in einer rasenden Geschwindigkeit verstärken. Damit wird die Lüge, die Diskreditierung von Einzelpersonen zum Normalfall.
Rieger ist exemplarisch für eine Position, die kritisch die Sozialen Medien zu hinterfragen versucht, aber in ahistorischer Hilflosigkeit verharrt. Zentral für seine Argumentation sind einmal die normativen Setzungen (Wichtige Sachen – Nebensächlichkeiten, die ablenken und zur Manipulation führen), die seltsam aus der Zeit gefallen scheinen. Zum anderen ist Kern seiner Argumentation der Status eines technologischen Mediums als „Irrtum“, wobei Wahrheit dann die Nichtexistenz oder Auflösung ist. Vielleicht ist aber die Furcht zu irren, schon der Irrtum selbst. Und der Wahrheit, sofern sie nicht ideologisch von einer religiösen oder weltlichen Kanzel verkündet wird, kann schließlich nur in einem iterativen Prozess angenähert werden.

Ahistorisch ist diese Position insofern, als alle Technologieschübe mit ideellen Verwerfungen einhergingen. Die Erfolgsgeschichte de Buchdrucks geht nicht allein auf den Druck der Bibel zurück, sondern auf Flugblätter und Flugschriften, die zwar auch über Naturereignisse, gesellschaftliche Vorkommnisse oder politische Geschehnisse informierten, aber auch eine grenzenlose politische Polemik transportierten, die der Desinformation unserer Zeit nichts nachsteht: Luther als siebenköpfiges Ungeheuer, der Papst als Esel und Antichrist.

Es fehlt das Subjekt: Jeder, der an Sozialen Medien teilnimmt, hat es in der Hand, in seinem Bereich diskursive Verhaltensformen einzufordern. Dass dies unabhängig der Medienform zur Zeit nicht geschieht, persönliche Angriffe, Diffamierungen und Ausgrenzungen an der Tagesordnung sind, und Mordgelüste als Satire verharmlost werden, hat nichts mit der Medienform zu tun.

Von den vielen sinnvollen Einsätzen Sozialer Medien ist jüngst Twitter als historisches Story-Tool zu erwähnen. Es macht  nicht nur eine  historische chronologische Abfolge zugänglich, sondern hebt auch eine Menge an Informationen und medialen Schätzen.
Der Krieg von 1870 “live” auf Twitter
@1914tweets: Tweets aus dem Ersten Weltkrieg

Der Einfluss von Social Bots auf Wahlen: The Failure of Social Bots Research

Michael Kreil, data  scientist, data  Journalist und open  data  activist, hat untersucht, ob tatsächlich Social Bots Wahlen von Donald Trump und den Brexit beeinflusst haben. Vortrag und Materialien hierzu hat er auf Github zur Verfügung gestellt: The Army that Never Existed: The Failure of Social Bots Research .video, slides, graphics, code, data and links by Michael Kreil. (November 2019) Hierzu untersucht er die Untersuchungen dreier Forschungsgruppen, auf die diese These zurückgehen: Comprop/Oxford: »Computational Propaganda Research Project« of Oxford University, Southern California/Indiana: Work of Emilio Ferrara (University of Southern California) and Alessandro Flammini (Indiana University), Berkeley/Swansea: Work of Oleksandr Talavera and Tho Pham (Swansea University) and Yuriy Gorodnichenko (University of California at Berkeley).

Er kommt zu dem Ergebnis, dass alle drei schwere wissenschaftliche Mängel aufweisen. Insbesondere werden Spam und normale Tweets falsch als politische Social Bots eingeordnet:
“Social Bot research is scientifically inaccurate on all levels.
In the last years the claim that “Social bots influenced elections” has spread widely. This theory can be fully explained by serious scientific mistakes made by researchers.
All the papers about social bots have to be reviewed again and have to be revoked if necessary.
This includes all other research from all other groups that have based their research on these flawed methods.
Do social bots exist? Probably. However, there is no evidence that they exist in large numbers, have influenced elections in any way or caused any other sort of problems.”

Er fordert statt der Schuldzuweisung an Social Bots eine politische Analyse: “Other reasons must be considered as potential causes for the election of Donald Trump, Brexit, the rise of the AfD in Germany and other similar issues: Outdated electoral systems, gerrymandering, the crisis of media, an easier rise of social movements through social media, right-wing narratives, and especially racism as a mass phenomenon are among the contemporary dynamics that should be studied as possible explanations for the main political events of the last years.”

Analyse der politischen Twitter-Diskussion in den USA

John Kelly and Camille François: Connectivity. This is what filter bubbles actually look like. Maps of Twitter activity show how political polarization manifests online and why divides are so hard to bridge. MIT Technology Review 22.08.2018 beschreiben in Text und zahlreichen grafischen Darstellungen, wie sich die unterschiedlichen politischen Lager in Twitter und in der Presse niederschlagen und vergleichen dies mit Twitter Accounts in Iran, Türkei und Russland.