Fake News und IWT-Memes erkennen

Die Gruppe Data Science von armasuisse Wissenschaft und Technologie (W+T) und die Zürcher Hochschule für Angewandte Wissenschaften (ZHAW) arbeiten an Algorithmen, mit denen Künstliche Intelligenz gegen Desinformation im Netz eingesetzt werden kann. Gérôme Bovet und Sarah Frei: Künstliche Intelligenz im Einsatz gegen Desinformation in sozialen Netzwerken, in: armafolio 02/2021 beschreiben dabei drei Ansätze, die dabei Natural Language Processing (NLP) einsetzen:
1. Mit Nutzerverhalten in den sozialen Medien (Text- und/ oder Bild) werden Modelle mit sprachlichen und sentimentalen Merkmalen trainiert, die Emotionalität von Information einordnen können. “Das ist wichtig, weil die Verbreitung falscher beziehungsweise radikaler Aussagen oft mit einer hohen Emotionalität des Beitrags einhergeht.” Gegenüber normalen Einsätzen von NLP entsteht bei Twitter die Herausforderungen, “mit wie kurzen Texten das Programm arbeiten soll” (Gérôme Bovet: «Fake News» schneller erkennen, Bundesamt für Rüstung armasuisse 26.10.2020).
2. Erkennung und Klassifizierung von Memes: IWT-Memes (englisch: Image with Text-IWT, deutsch: Bild mit Text), die zur Desinformation eingesetzt werden, sollen unter Einsatz von Convolutional Neural Networks identifiziert und binär klassifiziert in die Kategorien IWT-Meme-Bild bzw. Nicht-IWT-Meme-Bild werden. “Bei der Ermittlung des Inhalts werden durch die Bestimmung des Themas und der Emotionalität des Inhalts Rückschlüsse darauf gezogen, ob es sich um Desinformation handeln könnte oder nicht. Desinformation beinhaltet häufig Themen, welche sozial spaltend wirken und, damit verbunden, negative Gefühle beim Betrachter oder der Betrachterin verstärken können.”
3. Analyse des Kontoverhaltens auf Twitter durch gerichtete Graphen. “Anhand eines solchen Graphen kann ein Algorithmus durch Berechnung verschiedener statistischer Parameter bestimmen, wie sich ein Beitrag in sozialen Netzwerken, in diesem Fall Twitter, verbreitet hat. Zu diesen Parametern gehören der Vernetzungsgrad eines Kontos (wie viele Nutzer und Nutzerinnen dem Konto folgen und wie vielen Nutzern und Nutzerinnen das Konto selbst folgt).” Social Bots weisen dabei ein charakteristisches Verhältnis zwischen Wurzelknoten, Retweets und kurzfristig neu geschaffenen Followern auf.

Technik der Fake Shops

Lea Gardner, Hannes Munzinger, Caroline Vogt, Lea Weinmann, Nils Wischmeyer: Die geheimen Chats der Netzbetrüger, Süddeutsche Zeitung 20.12.2021 (hinter der Bezahlschranke) haben Chatverläufe von Internetkriminellen im Forum “Crimenetwork” auf dem Instant Messenger Dienst Jabber mitverfolgt. “Die Nachrichten zeigen: Die Menschen hinter den Pseudonymen arbeiten nicht in großen Banden, sie sind Einzeltäter. Jeder betrügt für sich. Aber sie tauschen sich aus, bieten einander Dienstleistungen an.” 

Regelmäßig wird der Markt nach Dingen gescannt, die besonders nachgefragt sind. Anschließend werden entweder Ebay-Kleinanzeigen gefälscht – am besten schon bestehende Anzeigen imitiert – oder aber Fake Webshops zu bestimmten Produkten aufgesetzt. Die Entwicklung und Installation von Fake Webshops oder die Kaperung von fremden Bankkonten kann dabei an andere Personen vergeben werden, die mit Bitcoin bezahlt werden. Die betrogenen Kunden werden dazu animiert, Vorauszahlungen auf diese nur zeitweise existierenden Bankkonten zu leisten.