Überwachungskapitalismus und Demokratie

Shoshana Zuboff: Überwachungskapitalismus ist die Mutter aller Krisen Die Welt 30.11.2021 (hinter der Bezahlschranke) bzw. der Originalaufsatz Shoshana Zuboff: You Are the Object of a Secret Extraction Operation New York Times 12.11.2021

Shoshana Zuboff, emeritierte Professorin der Harvard Business School und Autorin des Buchs „Das Zeitalter des Überwachungskapitalismus“ (siehe auch Beitrag in diesem Blog Der digitale Mensch als Kadaver ) fasst zunächst die Ergebnisse ihrer Untersuchungen zusammen. Der Überwachungskapitalismus beruht auf der geheimen Ausbeute und Manipulation menschlicher Daten. Seine Unternehmen “kontrollieren heute den Informationsfluss und die Kommunikation auf der ganzen Welt.” Informationsräume, die eigentlich in demokratischen Gesellschaft öffentliches Gemeingut sein sollten, “werden zur maximalen Profiterzielung streng von privaten kommerziellen Interessen beherrscht. Das Internet als selbstregulierender Markt hat sich als gescheitertes Experiment erwiesen. Der Überwachungskapitalismus hinterlässt eine Spur sozialer Verwüstung: in der Privatsphäre, die Verschärfung sozialer Ungleichheit, die Vergiftung des Diskurses, die Zerstörung sozialer Normen und die Schwächung demokratischer Institutionen.”

Zuboff skizziert den Aufstieg von Google und Facebook von einem Such- und Kommunikationsinstrument bis hin zur werbegesteuerten Überwachungsökonomie. Das Geschäftsmodell dieser Datenunternehmen hat sich auf andere Geschäftszweige – Daten, Dienstleistungen, Produkte – ausgedehnt und zieht sich in die normale Wirtschaft hinein, die sich ebenfalls Apps und Software bedient, um Daten auszubeuten und als eigenes Unternehmensvermögen zu beanspruchen. Diese Daten werden dann mittels Targeting-Algorithmen zur maximalen Ausbeute und Verhaltenssteuerung eingesetzt. Zuboff sieht “eine demokratische Gegenrevolution” als einzige Lösung an. Diese darf sich nicht auf nachgelagerte Aspekte wie Moderation von Inhalten, Überwachung illegaler Inhalte oder Zerschlagung der Firmen beschränken und konzentrieren. Sie muss sich vielmehr “auf die Grundlage der Überwachungsökonomie konzentrieren: die geheime Ausbeute menschlicher Daten aus Lebensbereichen, die einst als ‘privat’ bezeichnet wurden.” Sie sieht dies als Aufgabe der liberalen Demokratien an, in denen eine “Horizontverschiebung” im Umgang mit Daten möglich ist. Ansätze hierfür sieht sie in den USA (Kongressanhörung zum Thema Desinformation am 24. März 2021) und Europa (EU Diskussion um den Digital Services Act). Diese sind noch keine Lösung des Problems, aber die Bedeutung liegt in der Veränderung dessen, war die demokratische Gesellschaft bereit ist, zu akzeptieren.

Wie Tik Tok Gedanken liest

Die New York Times hat Zugang zu einem internen Dokument “Tik Tok Algo 101” erhalten, in dem Mitarbeitern von Tik Tok der Algorithmus zur Benutzersteuerung erläutert wird: Ben Smith: How TikTok reads your mind. The New York Times 05.12.2021  Als vier Hauptziele des Algorithmus werden definiert Benutzerwert, langfristiger Benutzerwert, Schöpferwert und Plattformwert. Der Algorithmus selbst fasst das Benutzerverhalten in vier Parametern zusammen: Likes, Kommentare, Spielzeit und der Hinweis, dass das Video gespielt wurde. Vermieden werden soll ferner, dass Langweile durch immer gleiche Videos, präferiert werden sollen lukrative Videos. Allerdings sind dies nun keine sensationellen Enthüllungen. Julian McAuley, Professor für Computer Science an der University of California San Diego, sagt, “that the description of its recommendation engine is “totally reasonable, but traditional stuff.” The company’s edge, he said, comes from combining machine learning with “fantastic volumes of data, highly engaged users, and a setting where users are amenable to consuming algorithmically recommended content (think how few other settings have all of these characteristics!). Not some algorithmic magic.””
Ein Screenshot aus dem Dokument zeigt, dass die Inhaltsmoderatoren nicht nur Zugriff auf öffentlich gepostete Videos haben, sondern auch auf Inhalte, die an Freunde gesendet oder auf das System hochgeladen werden.
Es zeigt sich, dass die Manipulationsalgorithmen nicht hochkomplex sein müssen, sondern vor allem auf der Menge vorhandener Daten, verschiedenen Parametern und der Bereitschaft der Benutzer, sich den Empfehlungen zu unterwerfen, beruhen.

Der Staat als Mobbing-Komplize

So sehr die Öffentlichkeit sich auch erhitzt, wenn Hassmails und Mobbing gegen die eigene Person oder zumindest die eigene politische Position gerichtet werden, so zeigt sich  an anderen Fällen, dass eine allgemeine moralische Grundlage fehlt, geschweige denn, dass ein allgemeines konsensuales Instrumentarium dagegen entwickelt wird. Am Fall des Youtubers  Rainer Winkler alias “Drachenlord” zeigt sich exemplarisch das Versagen von Öffentlichkeit, Polizei und Justiz. “Jeden Tag hetzen Internetmobs in Deutschland unschuldige Menschen in die Verzweiflung und noch weiter. Aber noch nie haben sich eine deutsche Staatsanwältin und eine deutsche Richterin faktisch an die Spitze eines hochorganisierten Internetmobs gesetzt. Und anschließend das Opfer gedemütigt, eingesperrt und gebrandmarkt. Genau das aber ist am 21. Oktober 2021 mitten in Deutschland passiert, und damit ist großes Unrecht geschehen.” Dies schreibt Sascha Lobo in einer Kolumne, die im Gehalt dem “J’accuse” von Emile Zola im Fall Dreyfus nichts nachsteht, der aber die Öffentlichkeit als Resonanzkörper abhanden gekommen ist. Sascha Lobo: Ein jahrelanges Martyrium in Deutschland – und niemand hält es auf. Spiegel 27.10.2921

Der Fall soll hier nicht noch einmal dargestellt werden. Der Film von Y-Kollektiv: Drachenlord vs. Hater – wenn Cyber-Mobbing Realität wird, 24.11.2016 ARD-Mediathek gibt einen guten Überblick über die Geschichte. Der Artikel Lars Wienand: “Drachenlords” Hater. Die schlechten Gewinner, t-online 23.10.2021 hat über den Prozess berichtet. Es geht darum, dass eine Meute Mobbing, Beleidigung, Verletzung und letztlich Vernichtung einer Person digital und analog als Spiel betreibt und dass der Staat ihn nicht verteidigt, sondern ihm sogar das Rechts zur Verteidigung abspricht und ihn verurteilt.

“Die bittere Erkenntnis des Falles »Drachenlord« ist: Wenn ein Tausende Köpfe starker Hassmob im Netz beschließt, eine Person fertig zu machen – kann die Bundesrepublik dem nichts entgegensetzen. Schlimmer noch – der Hassmob ist durch die Unwissenheit und den Zynismus von Staatsorganen und der medialen wie sozialmedialen Öffentlichkeit in der Lage, den Staat zum Komplizen zu machen.”

Sascha Lob kommt zu dem Schluss: “Rainer Winkler ist die erste Person in Deutschland, die auf diese Weise mithilfe des Netzes gezielt vernichtet werden soll. Er wird nicht die letzte sein, wenn die Gesellschaft nicht herausfindet, wie Cybermobbing wirkungsvoll eingedämmt werden kann und wenn die Protagonisten nicht massenhaft zur Rechenschaft gezogen werden. Zum Beispiel für die Bildung eines organisierten Online-Hassmobs. Wenn Winkler tatsächlich jahrelang ins Gefängnis gehen wird oder wenn er sich irgendwann das Leben nehmen sollte – dann gibt es konkrete Schuldige.
Nicht nur den Hassmob samt seinen Zuschauern und Schaulustigen, sondern eben auch diejenigen, die sich auf verschiedene Arten an seinem Martyrium beteiligt haben. Oder es zuließen. Oder es für nicht so schlimm hielten. Oder irgendwie unterhaltsam fanden.”

Virales Meme

“Wie schafft man ein virales Meme? Kognitionswissenschaftlerin Sam Ayele und TikTok-Programmchefin Yasmina Banaszczuk über die die Regeln und Gefahren einer neuen Kommunikationsform, Frankfurter Allgemeine Sonntagszeitung 05.09.2021 Papierausgabe
“Ein Meme (ausgesprochen [miːm], Mehrzahl Memes) ist ein spezieller, kreativ geschaffener Bewusstseinsinhalt, der sich unter Menschen verbreitet. Meist handelt es sich dabei um einen kleinen Medieninhalt, der über das Internet verbreitet wird, wie ein Bild mit einer kurzen prägnanten Aussage. Diese ist in der Regel humoristisch und aufheiternd, manchmal auch satirisch und entsprechend gesellschaftskritisch.[1][2] Memes sind seit vielen Jahren ein bedeutender Teil der Netzkultur.” so Wikipedia.

Was aber macht das Erfolgrezept eines viralen Memes aus: (Ayele): “Memes, die viral gehen, vereinen in jedem Fall Unvorhersehbarkeit und Unbekanntes. Es muss glaubwürdig und skalierbar sein, die Nutzer ansprechen und einen Mehrwert haben. Dazu muss ein Meme teilbar sein. Die Leute müssen also denken: ‘Das wird meinen Freunden auch gefallen” und es mit ihnen teilen.
… Ein gutes Meme lässt Lücken, die gefüllt werden müssen. Wie bei einem Puzzle. Es lässt Raum für den Betrachter zur Interaktionen, statt nur hundert Prozent von dem wiederzugeben, was man selbst denkt. Insgesamt etwa 75 Prozent Inhalt, know your memendie anderen 25 muss der Betrachter ausfüllen.

Die Webseite “Know your Meme” sammelt mit Hilfe einer Wiki-Software Memes aus dem Internet.
https://de.wikipedia.org/wiki/Know_Your_Meme (Wikipedia)
https://knowyourmeme.com/

Theorie des #Hashtags

Andreas Bernard, Professor für Kulturwissenschaften am “Centre for Digital Cultures” der Leuphana-Universität Lüneburg: Theorie des #Hashtags, in: Geschichte der Gegenwart 19.05.2021 

In dem #Hashtag verdichten sich die unterschiedlichen Funktionen von Schlagworten (Wörter oder kurze Phrasen, die einen Sachverhalt prägnant und verkürzt zuspitzen)  und den Schlagwörtern oder Deskriptoren  (inhaltliche Erschließung von Sachverhalten anhand eines kontrollierten Vokabulars) .  Es soll einerseits die Suchbarkeit innerhalb des digitalen Mediums sicherstellen, enthält aber darüber hinaus ein allgemeines “Aufmerksamkeitsversprechen“, das selbst in die analoge Welt ausstrahlt.  “Das # ist also längst kein rein funktionales Sonderzeichen mehr, sondern ein verheißungsvolles gesellschaftliches Symbol. Es steht für die Erzeugung und Anhäufung öffentlicher Aufmerksamkeit.” 

Bernard sieht in diesem “Gestaltungsprinzip von gesellschaftspolitischen Debatten” gleichzeitig ein Strukturproblem. Inhalte und Konflikte und Homogenisierungs- und Nivellierungstendenzen gehen nicht zuletzt auf die Organisation von Debatten mittels des #Hashtags zurück. 

Die Genese des #Hashtags ist einerseits auf den politischen Aktivismus („Hashtag Activism“) (von den herkömmlichen Massenmedien nicht ausreichend repräsentierte Positionen machen sich geltend) und andererseits auf den Einsatz als Marketing-Instrument („Hashtag Marketing“) (Kundenbindung durch selbst gestaltetes mediales Umfeld, was letztendlich auch im Schutz von #Hashtags als Markenzeichen münden kann) zurückzuführen. Die gemeinsame Funktionsweise verweist auf ein strukturelles Problem:

“Hashtags, so könnte man sagen, kommodifizieren die Wörter, die ihnen folgen. Wenn Georg Lukács 1923 im berühmten „Verdinglichungs“-Kapitel von Geschichte des Klassenbewusstseins zeigen wollte, „wie weit der Warenverkehr die herrschende Form des Stoffwechsels einer Gesellschaft ist“, dann gilt diese Diagnose ein knappes Jahrhundert später sicher für die Metabolik der Sozialen Medien. Nicht-katalogisierbare, einzigartige, widerspenstige Bausteine sind in der Logik des Hashtags irrelevant. Anstatt dessen geht es um die größtmögliche Anhäufung von Beiträgen, um die Akkumulation des gleichförmigen, unter identischem Schlagwort subsumierten Aussagenkapitals, das sich in quantifizierbaren Listen wie den „trending topics“ abbilden und weiter vermehren soll.”

“Der Hashtag bringt die verstreuten Stimmen zum kollektiven Ertönen und nimmt ihnen gleichzeitig das, was an ihnen unverrechenbar ist.”

Like-Button als Mythos und Rechtsproblem

Christoph Beat Graber: Der Like-Button war gedacht als Hilfe für die Menschen, heraus kam ein Spion. Wie die Nutzung einer Technologie neues Recht entstehen lässt. Neue Zürcher Zeitung 28.06.2021
Graber, Ordinarius für Rechtssoziologie und Medienrecht an der Universität Zürich, zeichnet die Entstehung des Like-Buttons aus dem Bemühen, kommunikative Hürden und Zurückhaltung der Facebook-Nutzer zu überwinden, nach. Diese gemeinwohlorientierte Entwicklung wurde durch die kommerzielle Nutzung, “über den Like-Button genauere Kenntnisse der Nutzerpräferenzen zu erhalten, um so die zugänglich zu machenden Inhalte noch präziser auf das Persönlichkeitsprofil jeder einzelnen Nutzerin zuzuschneiden”, konterkariert.
“Als sich der durchschlagende Erfolg des Plug-in abzuzeichnen begann, publizierte Facebook eine «Copy and paste»-Software, die es nun jeder beliebigen Website ermöglichen würde, jeden Eintrag oder Post mit einem Like-Button zu versehen. Websites, die mit einem Like-Button bestückt sind, transferieren die persönlichen Daten jedes Besuchers an Facebook. Das gilt selbst dann, wenn der Besucher kein Facebook-Mitglied ist und nie auf den Button geklickt hat.”  Von der ursprünglichen Intention bleibt nur noch der Mythos kommunikativer Teilhabe.

Die Kritik im Netz an dem Like-Button verdichtete sich zu einem Gegenmythos “als sozial schädlichen Mechanismus zur Förderung psychologisch manipulativer Werbung”, der letztlich in normativen Erwartungen mündet. Gerichte können allerdings nur dann unbestimmte Gesetzesbegriffe klären, wenn überhaupt schon – wie im Fall des Datenschutzrechts der EU – Regelungen vorliegen. “In anderen Fällen werden wohl neue Gesetze nötig sein. Für Gesetzgeber besteht die grösste Herausforderung darin, dass die Affordanzen vieler technologischer Artefakte oder Systeme versteckt sind. Es sollten somit Verfahren entwickelt werden, die gemeinwohlfreundliche Affordanzen entdecken helfen und deren Stabilisierung fördern. Dazu wären Diskurse zu institutionalisieren, die so inklusiv wie möglich sind und nicht nur Expertinnen, Politiker oder Schulen aller Stufen, sondern auch breite Kreise der Zivilgesellschaft einbeziehen.”

Paradise lost

Die Vertreibung aus dem digitalen Paradies

Digitale Teilhabe bedeutet, dass man die Dienstleistungen verschiedener Anbieter im digitalen Raum in Anspruch nehmen kann. Google, Facebook, Microsoft, Apple stehen hier exemplarisch für Dienstleister, mit denen ein privatrechtlicher Vertrag geschlossen wird, in dem  deren Teilnahmebedingungen anerkannt werden müssen. Dabei ist oft unklar, ob die dort gespeicherten Daten den Diensten übertragen wurden, also mit den zur Verfügung gestellten Diensten verknüpft sind, oder ob sie noch dem Urheber gehören. Diese Frage stellt sich unabhängig davon, ob dem Benutzer ein Export seiner Daten mit den Mitteln der Software des Dienstes gestattet wird. Auch eine teilweise und zeitweise Lizenzierung, wie Facebook es fordert (“Du gibst uns eine nicht-exklusive, übertragbare, unterlizenzierbare, unentgeltliche, weltweite Lizenz für die Nutzung jeglicher IP-Inhalte, die du auf oder im Zusammenhang mit Facebook postest („IP-Lizenz“). Diese IP-Lizenz endet, wenn du deine IP-Inhalte oder dein Konto löscht, außer deine Inhalte wurden mit anderen Nutzern geteilt und diese haben sie nicht gelöscht.”)  ist nur Teil des Problems. Was ist, wenn die Mails, Daten und Multimediadaten nur dort gesichert sind, weil man sie dort – etwa in der Cloud – sicher wähnte oder von verschiedenen Endgeräten nutzen wollte.

Inzwischen häufen sich Fälle, in denen Benutzer aus teilweise nicht ersichtlichen Kriterien von den Diensten ausgeschlossen werden. Dabei ist der Zugriff nicht nur auf die Dienste, sondern auch auf die persönlichen gespeicherten Daten (Mails, Dokumente, Bilder usw.) gesperrt. Im schlimmsten Fall droht ein Verlust der kompletten digitalen Identität mit allen Folgen in der analogen Welt. Gesperrt wird augenscheinlich durch Bots, gegen deren Entscheidung kaum Gegenwehr möglich ist. “Die mächtigsten und reichsten Kommunikationsplattformen der Welt bieten kaum Kommunikationskanäle für Menschen, denen der Zugang zu dieser Infrastruktur verwehrt wird.” 
Die Folgerung kann nur sein, dass man alle wichtigen Mails und Dokumente zusätzlich zur Speicherung in der Cloud lokal sichert.

Simon Hurtz: Und plötzlich ist das Online-Konto weg. Millionen Menschen legen ihr digitales Leben in die Hände von Facebook oder Google. Wenn die Plattformen den Zugriff sperren, beginnt für viele Betroffene ein Albtraum. Süddeutsche Zeitung 24.03.2921

Jens Berger: Ausgeschlossen aus der schönen neuen Welt Nachdenkseiten 19.03.2021

Günter Born: Digitale Amnesie durch willkürliche Kontensperrungen. Viele Microsoft-Dienste lassen sich nur mit einem Microsoft-Konto verwenden. Sperrt Microsoft ein Konto, wird die digitale Identität, die daran hängt, ausradiert. Für die Betroffenen gibt es keine Möglichkeit, dagegen vorzugehen. Golem 18.08.2020

Jens Herforth: Google Account wurde deaktiviert – In diesem Fall zu Unrecht geschehen Giga 21.03.2013

Rolf Schwartmann: Titanic-Magazin nicht mehr im Play-Store: Von der Google-Knute befreit. web.de 17.02.2021

TITANIC verlässt den Google-“Play Store” Pressemitteilung 15.02.2021

Manipulation in sozialen Medien: die Stratcom/ NATO Untersuchungen

Das Strategic Communication Centre of Excellence (Stratcom) der NATO hat sich in zwei Studien mit der Manipulation in sozialen Medien beschäftigt:
2019: Falling Behind: How Social Media Companies are Failing to Combat Inauthentic Behaviour Online
2020: Social Media Manipulation Report 2020. How Social Media Companies are failing to combat inauthentic behaviour online
In beiden Experimenten wurden reale Social-Media-Konten dazu genommen, sie mit für Fake News und Kommentaren zu fluten.
“To test the ability of Social Media Companies to identify and remove manipulation, we bought engagement on 105 different posts on Facebook, Instagram, Twitter, and YouTube using 11 Russian and 5 European (1 Polish, 2 German, 1 French, 1 Italian) social media manipulation service providers.
At a cost of just 300 EUR, we bought 3 530 comments, 25 750 likes, 20 000 views, and 5 100 followers. By studying the accounts that delivered the purchased manipulation, we were able to dentify 18 739 accounts used to manipulate social media platforms.”
In einem zweiten Schritt wurden diese Fake-Meldungen an die Sozialen Medien gemeldet. Selbst nach mehreren Wochen waren die Einträge nicht entfernt. Während Twitter und Facebook noch reagiert haben, sind Youtube und besonders Tiktok völlig schutzlos. Die Untersuchungen kommen zu dem Ergebnis: “Self-regulation is not working. The manipulation industry is growing year by year. We see no sign that it is becoming substantially more expensive or more difficult to conduct widespread social media manipulation.”
Stratcom empfiehlt daher, nicht nur die sozialen Medien zu regulieren, sondern insbesondere den Markt für die Medien-Manipulation:
“1. Setting new standards and requiring reporting based on more meaningful criteria
2. Establishing independent and well-resourced oversight of the social media platforms
3. Increasing the transparency of the social media platforms
4. Regulating the market for social media manipulation”

Das Dilemma der Algorithmen und Daten

Kai Burkhardt, Kamala Harris. Die Frau, die Google und Facebook zerschlagen kann – wenn sie will, Die Welt 14.12. (hinter der Bezahlschranke) beschreibt, dass Harris aufgrund ihrer Kenntnisse der Tech-Firmen in Kalifornien in der Lage sein könnte, die Internetkonzerne zu deregulieren.

Zunächst geht er davon aus, dass die gesellschaftlichen Schäden, die insbesondere Social Media durch die Methoden der Nutzerführung und Manipulation erzeugt haben, „nicht mehr ohne Weiteres zu reparieren“ sind. „Die politischen Identitäten, die sich in den Resonanzräumen der Internetkonzerne gebildet haben, werden auch nicht einfach in den politischen Mainstream zurückkehren.“
Wer aber könnte die technischen und finanziellen Mittel verfügen, um diesen Prozess zu korrigieren, wenn nicht die Verursacher, die Internetkonzerne selbst? Die verschiedenen Aspekte dieses Dilemmas werden analysiert.
Programmierer zeichnen sich aufgrund ihrer Biographie in der Regel nicht durch gesellschaftliche Empathie aus. Ihre Produkte, die „Algorithmen sind nichts anders als die Verallgemeinerung von Hypothesen und Vorurteilen in den Köpfen von Programmieren.“ Der Programmcode zeigt sich letztlich an den Ergebnissen, der Code selbst aber kann kaum ohne Hilfe künstlicher Intelligenz darauf geprüft werden, was er nicht oder zur Zeit nicht liefert und was er in anderen Konstellationen liefern könnte. „Künstliche Intelligenz kann aufgrund ihrer schieren Komplexität also wiederum nur von einer anderen Künstlichen Intelligenz untersucht werden und da beißt sich nun die Katze in den Schwanz, denn das Ergebnis einer Simulation kann nicht simuliert werden.“ Aber selbst wenn dies gelänge, wären Algorithmen ohne Daten wertlos. Jenseits der von den Internetfirmen selbst erhobenen Daten gerät der Umgang mit Daten durch die Datamining-Firmen, die jegliche Arten von Daten zu Profilen verknüpfen, in eine neue Dimension. Burkhardt sieht eine Chance in einem zentralen „Open-Source-Katasteramt“, „das Datensätze nicht nur verwaltet, sondern auch erforscht und beschreibt, bevor sie an Dritte weitergegeben werden.“ Es wäre möglich, dass sich die Internetkonzerne unter dem politischen Druck einer Zerschlagung ihrer Konzernstrukturen in die Richtung eines anderen Umgangs mit Daten bewegen.

Seite 1 von 2
1 2