Künstliche Intelligenz Rechts, weiblich, Fake
Profile von vermeintlich jungen Frauen mischen im Wahlkampf mit. Sie äußern sich politisch eher rechts und geben an, die AfD bei der Bundestagswahl zu wählen. Das Problem: Sie sind KI-generiert.
"Die Gefahr kommt nicht von #Rechts sondern von #Linken und dem #Islam", schreibt eine vermeintlich türkische junge Frau auf dem Kurznachrichtendienst X. "Ich bin ein deutsches Mädel und bin stolz auf mein Land. Nicht nur zur WM", schreibt eine andere.
Doch diese Frauen sind nicht echt, sie sind KI-generiert. Profile wie diese gibt es einige, manche werden professioneller betrieben als andere. Einige geben in der Profilbeschreibung an, KI-generiert zu sein, andere nicht. Kein Account kennzeichnet die verbreiteten Inhalte als KI-generiert.
Sie alle eint ihre politische Ausrichtung. "Diese Accounts oder die Figuren, Avatare, die sich dort äußern, äußern sich häufig eher rechts, eher pro Trump", sagt Vera Schmitt, Leiterin der XplaiNLP Research Group an der Technischen Universität Berlin. Häufig seien auch prorussische Positionen zu erkennen. So schreibt eine der fiktiven Frauen beispielsweise: "Wir wollen keinen Krieg mit Russland", eine andere bezeichnet sich als Fan von Trump.
Das Profil der KI-Frau Sophia äußert sich pro Trump, pro-russisch und pro-AfD.
"Oft geht es bei solchen ganz gezielt angelegten Accounts um Manipulation der öffentlichen Meinung", sagt Schmitt. Es werde Verunsicherung geschaffen, trage zur Polarisierung bei und ziele letztlich auf die Untergrabung von demokratischen Prozessen.
Popkultur und rechte Positionen
Die Accounts der KI-Frauen mit Namen wie Larissa, Sophia, Aylin oder Lara kommentieren aktuelle politische Geschehnisse aus einer rechten Perspektive und stehen der AfD nahe. Sie äußern sich in Videos, Bildern oder Text auf sozialen Netzwerken wie X, Instagram oder TikTok.
Nicht alle Inhalte sind dabei offensichtlich rechte Meinungsäußerungen. Neben Beiträgen zum Alltag der fiktiven Frauen lassen sich auch popkulturelle Anspielungen finden. Zuletzt verbreitete Larissa etwa eine deutsche Übersetzung des auf TikTok getrendeten russischen Songs "Sigma Boy". Eine Anspielung auf ein fragwürdiges Männlichkeitsbild, welches von dem rechtsradikalen Supremacisten und Misogynisten Theodore Robert Beale geprägt wurde.
Auch Diskussionsbeiträge zu laufenden politischen Debatten sind zentraler Bestandteil der Inhalte. So fragt Larissa auf X nach einer gemeinsamen Abstimmung von Union und AfD über einen Antrag mit migrationspolitischen Forderungen im Bundestag, ob das "Ende der Brandmauer der Beginn einer echten Wende" sei.
An anderer Stelle wird die rechte politische Ausrichtung unmissverständlich deutlich. Lara "träume von ... Remigration", Sophia trägt ein T-Shirt, auf dem "Remigration" steht, und auch Larissa verwendet den Begriff in mehreren Videos. Im Dezember heißt es in einem Video-Kommentar zu Syrien für das rechtsextreme Compact-Magazin: "Koffer packen und zurück in die Heimat". Ihr persönlicher Weihnachtswunsch, "Remigration", also Migranten und Ausländer aus Deutschland "rückzuführen" oder auch zu deportieren, würde damit in Erfüllung gehen.
Antifeministische, queerfeindliche und rassistische Äußerungen werden ebenso verbreitet wie Beiträge, die sich gegen die Grünen oder linke Politik wenden. Teilweise erzielen sie damit eine hohe Reichweite. Der Post "Transfrauen sind keine Frauen, das Selbstbestimmungsgesetz ist gegen Gott", erreicht bei X mehr als 7.000 Likes.
Larissa äußert sich in mehreren Beiträgen trans- und queerfeindlich und bezeichnet linke Frauen als "ekelhaft".
Wahlwerbung für die AfD
Auffällig ist, wie die KI-Influencerinnen für die AfD und ihre Vorsitzende Alice Weidel werben. Sie tragen AfD-Shirts, posten blaue Herzchen, teilen Memes, verbreiten AfD-Inhalte und rufen zur Wahl der Partei auf: "Ich bin Aylin Bilgin, Türkin und wähle #NurNochAfD", "Am 23. Februar werde ich AfD wählen, weil nur so Deutschland wieder auf die Beine kommen kann. Wenn du das auch so siehst, kämpfen wir auf einer Seite" oder "Ich wähle #AfD, weil ich wieder ein sicheres und aufblühendes Deutschland möchte", sind nur einige wenige Beispiele der Inhalte mit Bezug zur AfD.
"Da sehen wir, dass diese KI-generierten Influencerinnen auch eine Rolle spielen, wenn es zum Beispiel darum geht, Alice Weidel im Wahlkampf zu unterstützen", sagt Deborah Schnabel, Direktorin der Bildungsstätte Anne Frank. Sie stellten beispielsweise Weidels Kandidatur als Kanzlerin immer wieder positiv in den Vordergrund oder griffen Kritik an der Person Alice Weidel auf und entkräfteten diese.
Die Zustimmung für Alice Weidel sieht man in Postings wie diesen: "Mein heutiges blaues Herz geht an Alice". Weidel wird von den Accounts als Vorbild für junge Frauen inszeniert. So heißt es etwa: "Alice Weidel ist eine Ehrenfrau" oder "Ich sag es ganz offen: Alice Weidel ist mein Vorbild. Sie leistet Widerstand gegen das Unrecht hier im Land. Für uns alle."
Das sei laut Anna Hiller, Research Analyst beim Institute for Strategic Dialogue (ISD), kein Zufall. "Es ist eine generelle Strategie der Neuen Rechten, Frauen gezielt zur Mitgliedergewinnung einzusetzen." Die KI werde von Rechtsextremen genutzt, "um ein Bild von arischen, blonden, blauäugigen Deutschen zu kreieren". Hinzu käme, dass eine weibliche Influencerin die Möglichkeit habe, andere Themen anzusprechen als ein Mann. "Kritik an Familienformen, die außerhalb der heteronormativen Kleinfamilie stehen, sind Themen, wo es einfacher ist, eine weibliche Person als Influencerin zu benutzen als eine männliche Person", sagt Hiller.
Auf die Message kommt es an
Das Profil von "Larissa Wagner" gehört zu den bekannteren Accounts dieser Art, weshalb wir diesen exemplarisch für andere Profile im Artikel bildlich zeigen. Ihren Beiträgen zufolge ist sie 22 Jahre alt, kommt ursprünglich aus Sachsen, lebt aber im brandenburgischen Senftenberg, ist gläubige Christin und ihr Urgroßvater war in der Wehrmacht. Seit Mitte November macht sie ein Praktikum als Kolumnistin beim rechtsextremen Compact Magazin.
Auch auf Instagram und TikTok ist Larissa vertreten. Auf den Plattformen hat sie jedoch kaum Follower.
Auf ihrem X-Account, der mit einem blauen Häkchen versehen ist, bezeichnet sie sich als "Brandenburger Mädel" und "KI-Maus" und hat im Profil die Deutschlandfahne sowie ein blaues Herz, welches wohl die Sympathie für die AfD anzeigen soll. Die Profile auf TikTok und Instagram sind ähnlich angelegt, haben aber im Vergleich zu X, wo ihr 4.300 Accounts folgen, deutlich weniger Follower.
Ihr Aussehen entspricht den gängigen Schönheitsidealen. So ist sie schlank, hat lange hellbraune Haare, makellose Haut und blaue Augen. Einige der Bilder können auf den ersten Blick authentisch wirken, auch wenn sie stark bearbeitet aussehen und die Haut beispielsweise extrem weichgezeichnet ist. Bei genauerem Hinsehen lassen sich aber auch Fehler entdecken, etwa dass sie auf einem Bild sechs Finger hat.
In den Videos lässt sich auf den ersten Blick sagen, dass diese KI-generiert sind. Larissas Gestik wirkt roboterhaft, die Stimme klingt künstlich und die Lippen bewegen sich asynchron zur Stimme. Auf eine Presseanfrage unserer Kollegen vom "DW Faktencheck" antwortete Compact nicht.
Für Larissa wurde sich eine Vita ausgedacht - inklusive Urgroßvater in der Wehrmacht.
Die meisten KI-Influencerinnen haben im Moment noch wenig authentische Interaktion mit anderen Nutzern, weshalb Hiller ihren Einfluss auf die Bundestagswahl als eher gering einschätzt. Allerdings würden Hiller zufolge die User oft nicht mehr unterscheiden, ob die Inhalte KI-generiert oder echt sind. "Wenn wir uns zum Beispiel die Likes und die Nutzerkommentare anschauen, können wir sehen, dass es den meisten Nutzern relativ egal ist, ob das KI-generiert ist oder nicht, sondern dass es den Nutzern eher auf die Message ankommt."
Was ist noch glaubwürdig?
Das sieht auch Schnabel ähnlich. "Wir müssen davon ausgehen, dass nicht alle einen gleich gut geschulten Blick dafür haben, was tatsächlich KI-generiert ist und was nicht." Die Profile der KI-Influencerinnen seien unterschiedlich gut in der Aufmachung. "Es gibt einige, wo man es sehr, sehr schnell erkennen kann. Bei anderen dauert es vielleicht etwas länger." Erschwerend komme hinzu, dass viele die Inhalte auf kleinem Format auf dem Smartphone anschauen und eine relativ kurze Verweildauer hätten. "Viele scrollen einfach durch und beschäftigen sich gar nicht so genau damit: Woher kommt dieser Inhalt, was ist das?"
Oftmals seien die Videos und Beiträge nicht als KI-generiert gekennzeichnet, was ein großes Problem sei. So könne es passieren, dass übersehen wird, dass es sich um keine echte Person handelt oder die KI-Influencerin fälschlicherweise als echte Person wahrgenommen werde. Um den Account von "Aylin Bilgin", eine vermeintlich türkische AfD-Anhängerin, gab es beispielsweise rege Diskussionen, ob sie nun echt sei oder nicht.
Aylins Profil hatte keinerlei KI-Kennzeichnung und gab sich mit KI-generierten und von anderen Frauen geklauten Bildern aus dem Netz als reale Person aus. Aylin verbreitete neben AfD-Wahlwerbung auch massenhaft einen Spendenaufruf für einen alleinerziehenden Vater, der angeblich bestraft wurde, weil er den Begriff "Grüne Sekte" verwendet habe. Das Problem: Das Bild des Mannes ist auch KI-generiert. Das X-Profil von Aylin wurde nach zahlreichen Hinweisen dazu gelöscht.
Ersteller oftmals nicht bekannt
Wer hinter den Accounts steckt, ist in der Regel nicht bekannt. Zum einen seien es Einzelpersonen, die nicht klar zu identifizieren sind, sagt Schnabel. Zum anderen seien es politisch organisierte Akteure: "Wir wissen, dass rechtsextreme Akteure, auch die AfD, sehr gezielt Agenturen einsetzen und mit Kommunikationsexperten und -expertinnen zusammenarbeiten", so Schnabel.
Bestimmte Bilder, die transportiert werden sollen, könnten in der Realität nicht abgebildet werden. "Das heißt, man muss sich eigentlich künstlicher Mittel bedienen, um die rassistischen, geflüchtetenfeindlichen Narrative bildlich zu zeigen. Und da hilft die Künstliche Intelligenz in dem Fall leider sehr gut", sagt Schnabel.
Zuletzt war die AfD mit verschiedenen KI-generierten Wahlkampfspots aufgefallen. Alice Weidel etwa postete ein Video, welches das Gesicht der früheren Bundeskanzlerin Angela Merkel mithilfe von KI negativ verfremdete. Die AfD Brandenburg veröffentlichte ein KI-generiertes Video, welches zeigt, wie SPD-Gesundheitsminister Karl Lauterbach von zwei Polizisten abgeführt wird oder Grünen-Wirtschaftsminister Robert Habeck Müll aufsammelt. Ein vorheriges KI-Video der AfD Brandenburg handelte sich eine Rüge ein, da "pauschale Stereotype" bedient würden.
Hinweis: Dieser Artikel entstand im Rahmen der Kooperation der ARD Faktenchecker von ARD-faktenfinder, BR24 #Faktenfuchs, und DW Fact check.