• TWEAK
• Gadgets

KI-Deepfakes bedrohen globale Wahlen

Übersetzen von : AI deepfakes truer globale valg

Das Telefon von Divyendra Singh Jadoun klingelt ständig. Bekannt als „The Indian Deepfaker“, ist Jadoun dafür bekannt, künstliche Intelligenz zur Erstellung von Bollywood-Sequenzen und TV-Werbespots zu nutzen.

Doch zu Beginn der Wahlen in Indien hätten laut Jadoun Hunderte von Politikern Schlange gestanden, um seine Dienste in Anspruch zu nehmen, von denen mehr als die Hälfte „unethische“ Dinge verlangt hätten. Kandidaten forderten ihn auf, Audioaufnahmen von Konkurrenten zu fälschen, die im Wahlkampf Fehler machten, oder die Gesichter von Herausforderern auf pornografischen Bildern zu überlagern. Einige Kampagnen haben gefälschte Videos von minderer Qualität von ihrem eigenen Kandidaten gefordert, die veröffentlicht werden könnten, um Zweifel an belastenden echten Videos zu wecken, die während der Wahl aufgetaucht sind.

Der 31-jährige Jadoun sagt, er lehne Jobs ab, die auf Erpressung oder Täuschung abzielen. Er erwartet jedoch, dass viele Berater den Forderungen nachkommen und damit die Realität der größten Wahl der Welt verfälschen, bei der mehr als eine halbe Milliarde indische Wähler zur Wahl gehen.

„Das Einzige, was uns davon abhält, unethische Deepfakes zu erstellen, ist unsere Ethik“, sagte Jadoun. „Aber es ist sehr schwierig, das zu stoppen.“

Die Wahlen in Indien, die letzte Woche begannen und bis Anfang Juni dauern werden, bieten einen Vorgeschmack darauf, wie eine Explosion von KI-Tools den demokratischen Prozess verändert und es einfach macht, gefälschte Medien rund um die Kampagnen zu entwickeln. Mehr als die Hälfte der Weltbevölkerung lebt in den mehr als 50 Ländern, in denen im Jahr 2024 Wahlen abgehalten werden, was ein entscheidendes Jahr für die Demokratien der Welt darstellt.

Obwohl nicht bekannt ist, wie viele KI-Fake-Medien von Politikern erstellt wurden, beobachten Experten, dass sie weltweit einen Anstieg wahlbezogener Deepfakes beobachten.

„Ich sehe dieses Jahr mehr [politische Deepfakes] als letztes Jahr, und die, die ich sehe, sind ausgefeilter und überzeugender“, sagte Hany Farid, Informatikprofessor an der University of California in Berkeley.

Während Gesetzgeber und Regulierungsbehörden von Brüssel bis Washington eifrig Gesetze ausarbeiten, um KI-gestützte Audio-, Bild- und Videoaufnahmen in Wahlkämpfen einzuschränken, entsteht ein Regulierungsvakuum. Das bahnbrechende KI-Gesetz der Europäischen Union wird erst nach den Parlamentswahlen im Juni in Kraft treten. Es ist unwahrscheinlich, dass im US-Kongress ein parteiübergreifendes Gesetz, das falsche Darstellungen von Bundeskandidaten mithilfe von KI verbietet, vor den Wahlen im November in Kraft tritt. Eine Handvoll US-Bundesstaaten haben Gesetze erlassen, die Personen bestrafen, die irreführende Videos über Politiker drehen, wodurch im ganzen Land ein politischer Flickenteppich entsteht.

Mittlerweile gibt es nur begrenzte Richtlinien, um Politiker und ihre Verbündeten davon abzuhalten, KI zu nutzen, um Wähler auszutricksen, und Vollstrecker sind Fälschungen, die sich schnell in sozialen Medien oder in Gruppenchats verbreiten können, selten gewachsen. Die Demokratisierung der KI bedeutet, dass es an Einzelpersonen wie Jadoun und nicht an Regulierungsbehörden liegt, ethische Entscheidungen zu treffen, um ein durch KI verursachtes Wahlchaos abzuwenden.

Das Department of Homeland Security in den Vereinigten Staaten warnte Wahlbeamte in einem Memorandum, dass generative KI eingesetzt werden könnte, um auf Wahlen abzielende ausländische Einflusskampagnen zu verstärken. KI-Tools könnten es schlechten Akteuren ermöglichen, sich als Wahlbeamte auszugeben, so das DHS in dem Memo, und falsche Informationen über die Stimmabgabe oder die Integrität des Wahlprozesses zu verbreiten.

Diese Warnungen werden überall auf der Welt wahr. Staatlich unterstützte Akteure nutzten generative KI, um Anfang des Jahres in Taiwans Wahlen einzugreifen. Einem Microsoft-Bericht zufolge veröffentlichte eine mit der Kommunistischen Partei Chinas verbundene Gruppe am Wahltag ein KI-generiertes Audio eines prominenten Politikers, der sich aus der taiwanesischen Wahl zurückzog und einen anderen Kandidaten unterstützte. Aber der Politiker, Foxconn-Eigentümer Terry Gou, hatte noch nie eine solche Unterstützungsbekundung abgegeben, und YouTube hat den Ton entfernt.

Taiwan wählte schließlich Lai Ching-te, einen Kandidaten, der von der Kommunistischen Partei Chinas abgelehnt wurde, und markierte damit die Grenzen der Kampagne zur Einflussnahme auf Wahlergebnisse.

Microsoft geht davon aus, dass China in diesem Jahr eine ähnliche Strategie in Indien, Südkorea und den USA anwenden wird. „Chinas zunehmende Experimente mit der Verstärkung von Memes, Videos und Audio werden wahrscheinlich weitergehen und sich mit der Zeit als effektiver erweisen“, heißt es in dem Microsoft-Bericht.

Aber die geringen Kosten und die breite Verfügbarkeit generativer KI-Tools haben es Einzelpersonen ohne staatliche Unterstützung ermöglicht, sich an Täuschungen zu beteiligen, die zu nationalen Kampagnen passen.

In Moldawien zeigten KI-Deepfake-Videos den Rücktritt der pro-westlichen Präsidentin des Landes, Maia Sandu, und forderten die Menschen auf, bei Kommunalwahlen eine pro-Putin-Partei zu unterstützen. In Südafrika hat eine digital veränderte Version des Rappers Eminem vor den Wahlen im Mai eine südafrikanische Oppositionspartei unterstützt.

Im Januar fälschte ein politischer Aktivist der Demokraten die Abstimmung von Präsident Biden, um die Wähler bei den Vorwahlen in New Hampshire aufzufordern, nicht zur Wahl zu gehen – ein Trick, der die Aufmerksamkeit auf die Probleme mit dem Medium lenken sollte.

Der Aufstieg von KI-Deepfakes könnte die Demografie der Kandidaten für ein Amt verändern, da Kriminelle überwiegend synthetische Inhalte nutzen, um Frauen ins Visier zu nehmen.

Rumeen Farhana, eine Politikerin der Oppositionspartei in Bangladesch, ist seit Jahren sexueller Belästigung im Internet ausgesetzt. Doch letztes Jahr tauchte in den sozialen Medien ein KI-Deepfake-Foto von ihr im Bikini auf.

Farhana sagt, es sei unklar, wer das Bild gemacht habe. Doch in Bangladesch, einem konservativen muslimischen Land, wurde das Bild von gewöhnlichen Bürgern in den sozialen Medien hasserfüllt kommentiert, und viele Wähler gingen davon aus, dass das Bild echt sei.

Solche Angriffe können Kandidatinnen von der Teilnahme am politischen Leben abhalten, sagte Farhana.

„Was auch immer an neuen Dingen auftaucht, es wird immer zuerst gegen die Frauen eingesetzt. Sie sind in jeder Situation die Opfer“, sagte Farhana. „KI ist keine Ausnahme.“