Radikalisierung im Netz Pipelines und Pillen im Kaninchenbau KI, Algorithmen, Fake News, Radikalisierung und eine Matrixreferenz. Im Netz hat sich ein bedrohlicher Technologie-Cocktail zusammengebraut. Wer die Zutaten kennt, kann ein Gegenmittel mixen. Der Papst hat sich etwas gegönnt. In einer dick gepolsterten, augenscheinlich sündhaft teuren Daunenjacke schreitet Franziskus über den Petersplatz. So zeigt es ein Foto, das im März 2023 in den sozialen Netzwerken geteilt wurde. Ziemlich schnell stellte sich damals heraus, dass das Foto per KI generiert wurde. Neben diesem vergleichsweise harmlosen Beispiel tauchten aber bald deutlich ernstere und politische KI-Kreationen auf. Sei es Wladimir Putin, der vor Xi Jinping in die Knie geht, oder Donald Trump auf der Flucht vor Polizisten. Mittlerweile verkaufen reichweitenstarke politische Akteure wie Trump selbst auf Online-Plattformen KI-generierte Bilder als alternative Realität. Wie im August 2024, als der Ex-Präsident KI-Fotos von Taylor-Swift-Fans mit „Swifties for Trump“-Shirts postete. Echt falsch Doch während manche KI für die Realität halten, ist es inzwischen auch umgekehrt der Fall: Nach der großen „Demo gegen Rechts“ im Januar 2024, monierte AfD-Spitzenkandidat Björn Höcke, dass die Fotos manipuliert worden seien, um die Demonstration größer erscheinen zu lassen. Auch bei einem Auftritt von Kamala Harris an einem Flughafen wetterte ihr Kontrahent Trump, dass das Bild KI-generiert sei. Diese Beispiele verdeutlichen, wie schwierig es ist, zwischen Wahrheit und Fälschung zu unterscheiden. Prinzipiell sind Fake News so alt wie Nachrichten selbst. Vor dem Internet hatte allerdings nur ein eingeschränkter Personenkreis die Möglichkeit, Nachrichten zu verbreiten, und auch die Reichweite war deutlich kleiner. Heute können alle mit KI überzeugende Bilder kreieren und damit global Stimmung machen oder Desinformation verbreiten. Im postfaktischen Zeitalter, in dem der emotionale Appell wichtiger ist als die faktische Korrektheit, haben KI-Bilder, die zwar nicht die Realität zeigen, aber bestimmte Reaktionen hervorrufen, den perfekten Nährboden gefunden. Dabei braucht es nicht einmal KI, um glaubhaft Falschnachrichten zu verbreiten. Anfang September übte das US-Justizministerium einen großen Schlag gegen ein russisches Desinformationsnetzwerk aus. Dabei legte es zahlreiche Websites trocken, die mit Domains wie „spiegel.ltd“ versuchten, vertraute deutsche Medien zu imitieren und dort prorussische Propaganda zu verbreiten. Diese Seiten wiederum wurden massenhaft von Bots in den sozialen Netzwerken geteilt. Wie Radikalisierung in den sozialen Netzwerken funktioniert Es ist eine gängige Masche, Menschen in sozialen Netzwerken über oberflächlich harmlose Infotainment-Inhalte zu ködern und langsam, aber sicher zu radikaleren Inhalten zu ziehen. Auf YouTube gab es primär zwischen 2015 und 2019 Berichte über die sogenannte „Alt-Right-Pipeline“. Videos mit schwarzem Humor waren eine beliebte „Einstiegsdroge“, um das Publikum gegen Hassrede zu desensibilisieren. Von dort aus gelangten Nutzerinnen und Nutzer über die vorgeschlagenen Videos zu Podcasts von reaktionären Meinungsbloggern und von dort aus wiederum zu rassistischen und sexistischen News-Videos und Verschwörungstheorien. Welche Videos vorgeschlagen werden, entscheidet YouTubes Algorithmus. Wie dieser im Detail vorgeht, hält der Konzern aber unter Verschluss. YouTube hat die Existenz solcher 24 FOKUS dbb magazin | Oktober 2024
RkJQdWJsaXNoZXIy Mjc4MQ==