Algorithmic Anxiety

Fast jede Internetplattform bedient sich irgendeiner Form der algorithmischen Empfehlung. Der Versuch, aus vergangenem Verhalten den Benutzer zu Kauf oder Benutzung bestimmter Dinge anzuhalten, führt aber zu einer Verengung der Wahrnehmung der eigenen Wünsche und Vorlieben. Kyle Chayka: The Age of Algorithmic Anxiety. Interacting online today means being besieged by system-generated recommendations. Do we want what the machines tell us we want? The New Yorker 25.07.2022 schreibt dazu: “Besieged by automated recommendations, we are left to guess exactly how they are influencing us, feeling in some moments misperceived or misled and in other moments clocked with eerie precision. At times, the computer sometimes seems more in control of our choices than we are.” Dieses psychische Eindringen wird zunehmend sondern als Angst vor der umfassenden Manipulation der Algorithmen empfunden (algorithmic anxiety), dem man kaum mehr das eigene Wünschen entgegensetzen kann, sich vielmehr in bestimmten Bereichen dem unterwirft, um so optimiert von anderen wahrgenommen zu werden. “It can feel as though every app is trying to guess what you want before your brain has time to come up with its own answer, like an obnoxious party guest who finishes your sentences as you speak them. We are constantly negotiating with the pesky figure of the algorithm, unsure how we would have behaved if we’d been left to our own devices. No wonder we are made anxious.”
Jeremy D. Larson: The Woes of Being Addicted to Streaming. After a decade under the influence of music algorithms, a look at what streaming services afford the most engaged fans and what lingers below the surface. Pitchfork 23.05.2022 beschreibt, wie die Empfehlungsflut von Spotify ihm die Lust am Musikhören raubt, indem er immer im gleichen sterilen Kreis verbleibt: nichts mehr aufregend, nichts mehr emotional.
Michael Moorstedt: Das Tiktok-Gehirn. Wie von Algorithmen ausgewählte Inhalte alle Timelines verstopfen – und unsere Gedanken. Süddeutsche Zeitung 31.07.2022 stellt fest, dass “anxiety – Angst” als Begriff zu kurz greift. Es sei eher die Nervosität, dass die Psyche mit Umgebung nicht mehr mitkommt. “Algorithmic Anxiety ist der stete Verdacht, dass die eigenen Neigungen, der Geschmack umgeformt werden. Sieht man Dinge, weil man sie wirklich interessant findet – oder nur weil die KI meint, dass man sie interessant finden könnte? Das vermiest einem die Freude, die man früher bei der Entdeckung von Neuem empfunden hat.” Ist das noch der eigene Geschmack, die eigene Entdeckungsfreude – oder nur die Überredungsmacht der Empfehlungsmaschine? Auch der Begriff des Algorithmus scheint hier zu eng gefasst, eher zur Metapher geworden. “In seiner neuen Interpretation wird der Algorithmus eher als Naturgewalt oder arkane Kunst wahrgenommen. So oder so aber als eine Entität, die sich außerhalb menschlichen Einflussvermögens befindet.”

Wie Tik Tok Gedanken liest

Die New York Times hat Zugang zu einem internen Dokument “Tik Tok Algo 101” erhalten, in dem Mitarbeitern von Tik Tok der Algorithmus zur Benutzersteuerung erläutert wird: Ben Smith: How TikTok reads your mind. The New York Times 05.12.2021  Als vier Hauptziele des Algorithmus werden definiert Benutzerwert, langfristiger Benutzerwert, Schöpferwert und Plattformwert. Der Algorithmus selbst fasst das Benutzerverhalten in vier Parametern zusammen: Likes, Kommentare, Spielzeit und der Hinweis, dass das Video gespielt wurde. Vermieden werden soll ferner, dass Langweile durch immer gleiche Videos, präferiert werden sollen lukrative Videos. Allerdings sind dies nun keine sensationellen Enthüllungen. Julian McAuley, Professor für Computer Science an der University of California San Diego, sagt, “that the description of its recommendation engine is “totally reasonable, but traditional stuff.” The company’s edge, he said, comes from combining machine learning with “fantastic volumes of data, highly engaged users, and a setting where users are amenable to consuming algorithmically recommended content (think how few other settings have all of these characteristics!). Not some algorithmic magic.””
Ein Screenshot aus dem Dokument zeigt, dass die Inhaltsmoderatoren nicht nur Zugriff auf öffentlich gepostete Videos haben, sondern auch auf Inhalte, die an Freunde gesendet oder auf das System hochgeladen werden.
Es zeigt sich, dass die Manipulationsalgorithmen nicht hochkomplex sein müssen, sondern vor allem auf der Menge vorhandener Daten, verschiedenen Parametern und der Bereitschaft der Benutzer, sich den Empfehlungen zu unterwerfen, beruhen.

Das Dilemma der Algorithmen und Daten

Kai Burkhardt, Kamala Harris. Die Frau, die Google und Facebook zerschlagen kann – wenn sie will, Die Welt 14.12. (hinter der Bezahlschranke) beschreibt, dass Harris aufgrund ihrer Kenntnisse der Tech-Firmen in Kalifornien in der Lage sein könnte, die Internetkonzerne zu deregulieren.

Zunächst geht er davon aus, dass die gesellschaftlichen Schäden, die insbesondere Social Media durch die Methoden der Nutzerführung und Manipulation erzeugt haben, „nicht mehr ohne Weiteres zu reparieren“ sind. „Die politischen Identitäten, die sich in den Resonanzräumen der Internetkonzerne gebildet haben, werden auch nicht einfach in den politischen Mainstream zurückkehren.“
Wer aber könnte die technischen und finanziellen Mittel verfügen, um diesen Prozess zu korrigieren, wenn nicht die Verursacher, die Internetkonzerne selbst? Die verschiedenen Aspekte dieses Dilemmas werden analysiert.
Programmierer zeichnen sich aufgrund ihrer Biographie in der Regel nicht durch gesellschaftliche Empathie aus. Ihre Produkte, die „Algorithmen sind nichts anders als die Verallgemeinerung von Hypothesen und Vorurteilen in den Köpfen von Programmieren.“ Der Programmcode zeigt sich letztlich an den Ergebnissen, der Code selbst aber kann kaum ohne Hilfe künstlicher Intelligenz darauf geprüft werden, was er nicht oder zur Zeit nicht liefert und was er in anderen Konstellationen liefern könnte. „Künstliche Intelligenz kann aufgrund ihrer schieren Komplexität also wiederum nur von einer anderen Künstlichen Intelligenz untersucht werden und da beißt sich nun die Katze in den Schwanz, denn das Ergebnis einer Simulation kann nicht simuliert werden.“ Aber selbst wenn dies gelänge, wären Algorithmen ohne Daten wertlos. Jenseits der von den Internetfirmen selbst erhobenen Daten gerät der Umgang mit Daten durch die Datamining-Firmen, die jegliche Arten von Daten zu Profilen verknüpfen, in eine neue Dimension. Burkhardt sieht eine Chance in einem zentralen „Open-Source-Katasteramt“, „das Datensätze nicht nur verwaltet, sondern auch erforscht und beschreibt, bevor sie an Dritte weitergegeben werden.“ Es wäre möglich, dass sich die Internetkonzerne unter dem politischen Druck einer Zerschlagung ihrer Konzernstrukturen in die Richtung eines anderen Umgangs mit Daten bewegen.

Das einsame Netz – Lonely Web

“Der Grossteil aller Videos und Bilder im Internet wird kaum angesehen.” Kathrin Klette: Das «einsame Netz» ist der radikalste Teil des Internets, Neue Zürcher Zeitung vom 21.08.2020 analysiert den Teil des Internet, vermutlich über die Hälfte der Inhalte, Videos, Bilder, Beiträge, die offen zugänglich, aber nicht mehr sichtbar sind. “Sie sind durch die Algorithmen gerutscht, verschwunden im gigantischen Unterbauch des Internets. Dort dümpeln sie nahezu unentdeckt vor sich hin”. Das “einsame Netz – Lonely Web” enthält einen Raum der Einsamkeit, dessen Inhalte entweder gegen die Netzlogik verstoßen oder von den Algorithmen aussortiert werden. In Youtube erzielen 10% der Videos etwa 80% der Aufrufe. Stellt man Inhalte ins Netz, kann man nicht unbedingt mit einer mit einer viralen Resonanz rechnen. Ein Großteil des einsamen Netzes fühlt sich aber schon darin wohl, Inhalte in eine potentielle Öffentlichkeit zu bringen und damit deren Status zu verändern. “Normalerweise gilt im Netz das Prinzip: Ich werde gesehen, also bin ich. Für die einsamen Filmer gilt dagegen offenbar: Ich poste, also bin ich.

Verschiedene Anwendungen haben jetzt Inhalte des einsamen Netzes ans Licht gehoben:
–  Astronaut, Default Filename TVPetit-Tube und Underviewed :Youtube-Videos, die so gut wie nicht angesehen worden
Kickended : gescheiterte Fundraising-Kampagnen

Früherer Artikel zu Lonely Web:
Joe Veix: How the weird, unfiltered internet became a media goldmine, Splinter 1.6.16