Anna Henschel: Wir versinken in Schrott. Ein Viertel der meistgeklickten TikTok-Suchergebnisse ist künstlich erzeugt. Oft ohne Kennzeichnung, oft täuschend echt. Welche Orientierung bleibt in dieser neuen Realität? Wissenschaftskommunikation.de 23.11.2015
„Was ist ‘AI Slop’? KI-Schrott ist ein „endlose[r] Strom billig produzierter, emotional aufgeladener KI-Inhalte, die digitale Räume fluten“1. Meist entstehen so fehlerhafte Inhalte, Videos und Bilder von geringer Qualität. Alternativ wird KI-Schrott auch als eine ‘invasive Art’, ‘Schmutz’, synthetisches Material wie ‘Polyester’ oder ‘hochverarbeitetes Junkfood’ beschrieben.
Dahinter steckt die Motivation, möglichst viel emotionalisierenden Content möglichst billig zu produzieren, um Viralität zu erreichen. Je mehr Clicks erzielt werden, desto mehr Geld können die Produzent*innen des Slops potenziell über die Creator-Programme von Social Media Plattformen verdienen.“
„Ein weiteres Problem ist, dass Infrastrukturen derart mit Schrott überflutet werden, dass sie nicht mehr funktionieren. Das Moderationsnetzwerk von Wikipedia ächzt unter dem Anstieg qualitativ schlechter Beiträge6. Der Preprint-Server arXiv Computer Science hat den automatischen Upload von Übersichtsartikeln und Positionspapieren vorerst gestoppt. Die freiwilligen Moderator*innen hätten keine Kapazitäten, den „unüberschaubaren Zustrom“ von Artikeln zu bewältigen. Währenddessen sinkt die Informationsqualität von Online-Inhalten immer weiter.“