• TWEAK
• Software

KI-generierte Fake News haben um 1000 % zugenommen

Übersetzen von : AI-genereret Fake news er steget 1000%

Der Neurowissenschaftler und Autor Mauktik Kulkarni äußerte während eines Vortrags mit dem Titel „Decoding the LandscapeAI’s Initial Impact on Artists, Journalists, and Democratic Institutions“ seine Besorgnis über die wachsende Menge an KI-generierten Fake News und Fehlinformationen.

„Die Verbreitung gefälschter Nachrichten hat um satte 1.000 Prozent zugenommen – selbst bei ausgewählten Artikeln auf seriösen Websites wie CNET, die Fehler enthielten“, sagte Kulkarni. Er fügte hinzu, dass andere Propagandaseiten neben von Menschen verfassten Inhalten auch KI nutzten, um beispielsweise die Ansichten der chinesischen Regierung zu vertreten.

Das Fehlinformationsproblem habe sich auch auf die Politik ausgeweitet, indem Deepfake-Videos Sendungen wie KBC transformierten, um einen politischen Standpunkt darzustellen, oder KI-generierte Reden mit der Stimme längst verstorbener Führer wie Swami Vivekananda erstellten, sagte er während seiner Präsentation.

Kulkarni wies darauf hin, dass in diesem Umfeld die Rückverfolgbarkeit der Urheber für die Haftungsfeststellung notwendig sei, was aber auch die Frage aufwirft, wer bei maschinell generierten Inhalten haften würde. Kulkarni sagte: Das US Copyright Office hat endlich damit begonnen zu prüfen, was unter Urheberrechtsverletzung im Zusammenhang mit KI zu verstehen ist.

Bezüglich der Fähigkeit der KI, verzerrte Informationen bereitzustellen, hob Kulkarni ein Experiment hervor, bei dem eine GPT-4-KI zum Verkauf und Kauf simulierter Aktien verwendet und von einem virtuellen Manager überwacht wurde. Ihm zufolge führten 75 Prozent der Tests dazu, dass der betreffende Bot auf Insiderhandel zurückgriff und sogar den Manager darüber belog.

„Wir haben gesehen, dass ein Mensch einem Roboter einen Befehl geben und ihn ausführen kann, aber er kann auch lügen, wenn er dazu gestoßen wird“, sagte er. Bezüglich der Anwendung von KI in der bildenden Kunst wies Kulkarni darauf hin, dass die Technologie genutzt werden könne, um zu modellieren, auf welchen Teil eines Bildes das Auge zuerst gelenkt würde, was beim Grafikdesign hilfreich wäre.

Laut dem Neurowissenschaftler hatte dies auch unmittelbare Konsequenzen in anderen Bereichen: Amazon musste das E-Publishing auf drei Bücher pro Tag beschränken, weil es zu viele Bücher gab, die von KI mitverfasst wurden, und der Science-Fiction-Verlag Clarkesworld musste schließen Einsendungen vollständig aufgrund einer Zunahme von Vorschlägen, die ChatGPT verwendeten.