Künstliche Intelligenz Fake-Bild von Festnahme: Welches Problem hinter den Trump-Fotos steckt

Donald Trump wurde festgenommen. Er hat sich einen orangefarbenen Gefängnis-Overall ausgesucht, mit Insassen Basketball gespielt und konnte schließlich durch einen Tunnel entkommen. Glauben Sie nicht? Das alles kann mit Bildern belegt werden. Bilder, die so gut gemacht sind, dass sie auf den ersten Blick kurz echt wirken. Sind sie aber nicht. Und ja, auch die Bilder des Papstes in Daunenjacke und stylishen Schuhen, die aktuell im Netz viral gehen, entsprechen leider nicht der Wahrheit. Doch von vorne: In den USA soll dem ehemaligen US-Präsidenten im Zusammenhang mit Schweigegeldzahlungen der Prozess gemacht werden – noch gibt es aber keine Anklage. Sollte es dazu kommen, müsste Trump persönlich im Justizgebäude erscheinen und für die offiziellen "Mug-Shots" (Kartei-Fotos) in die Kamera gucken. Macht er das nicht freiwillig, würde er gezwungen. Darauf wollte Eliot Higgins, Gründer des internationalen Recherchekollektivs "Bellingcat", nicht warten und hat die gefälschten Bilder mit der künstlichen Intelligenz Midjourney erstellt. Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ Eliot Higgins (@EliotHiggins) March 20, 2023Die Bilder wurden millionenfach geklickt, mehrere Tausend User haben sie geteilt. Während diese Bilder noch recht leicht als Fake zu entlarven sind, wird es bei Putins Kniefall vor dem chinesischen Präsidenten Xi Jinping schon schwieriger. Bei genauerem Hinsehen fallen aber sogenannte "Artefakte" auf. "Das sind Teile eines künstlich erstellten Bildes, die nicht echt aussehen. Oft sind das die Hände oder Ohren von Personen, damit haben viele KIs noch Probleme", erklärt Lea Frühwirth vom auf Desinformation spezialisierten Center für Monitoring, Analyse und Strategie (CeMAS) im ZDF. Gefälschte Bilder können unterschiedlich gesehen werden "Schaut man aus anderen, total menschlichen und profanen Gründen nicht genau hin, etwa aus Zeitnot oder nur oberflächlichem Interesse, wirkt es aber einigermaßen realistisch", kommentiert Journalistin Nicole Diekmann bei "t-online.de". Und genau da liegt laut Experten das Problem. Denn Menschen ohne den nötigen Hintergrund sehen diese Bilder anders. "Nicht jeder ist auf dem Laufenden darüber, wie schnell sich die generative KI [Art der künstlichen Intelligenz, die für die Erstellung neuer, origineller Inhalte verantwortlich ist] und der Deepfake Space entwickeln", sagt Henry Ajder, Experte auf dem Gebiet, bei "Newsweek". Zur Erklärung: Als "Deepfake" bezeichnet man Video-Fälschungen, bei denen etwa prominente Köpfe auf andere Körper gesetzt oder Menschen falsche Aussagen untergeschoben werden. >>> Franziska Giffey telefoniert mit falschem Vitali Klitschko Zu den Trump-Bildern sagt Ajder: "Außerhalb des Kontexts von Eliot Higgins' Tweet könnte dieses Bild von Menschen, die nach Bestätigung in Form von Bildern oder Medienbeiträgen suchen, anders aufgefasst werden und Empörung oder Freude auslösen." Higgins habe mit den Bildern die Schwächen und Stärken der Software Midjourney aufzeigen wollen, sagt er der Nachrichtenagentur AP: "Ich hatte angenommen, dass die Leute erkennen würden, dass Donald Trump zwei Beine hat, nicht drei. Aber das scheint einige Leute nicht davon abgehalten zu haben, sie als echt auszugeben, was den Mangel an Fähigkeiten zum kritischen Denken in unserem Bildungssystem unterstreicht." Patying is still allowed 😎 pic.twitter.com/uAT6UJUBxH GiulianoDeMedici (@GiuIianoDMedici) March 25, 2023Tatsächlich gehen Experten davon aus, dass echte bald kaum noch von gefälschten Bildern zu unterscheiden sind. "Künftig müssen wir uns wohl daran gewöhnen, dass wir nur noch Wahrscheinlichkeiten angeben können, ob ein Foto echt ist", warnt Dirk General-Kuchel, Chefredakteur von "Computer Bild". Auch Lea Frühwirth glaubt, dass die Software immer mehr kann. "Es ist damit zu rechnen, dass die KIs besser werden und dass mit diesen Technologien schneller 'bessere' Desinformation auch in Bild und Video produziert werden kann", sagt sie dem ZDF. Ebenfalls Fake: Papst mit Daunenjacke Vor wenigen Tagen tauchten dann Bilder des Papstes auf, auf denen das Oberhaupt der katholischen Kirche in Daunenjacke und mit stylishen Schuhen zu sehen ist. Auch sie wurden mit der künstlichen Intelligenz Midjourney erstellt und sind nicht echt. "Ich denke, dies ist ein Beispiel für ein umfassenderes Problem von Technologien, die ohne Aufsicht, Regulierung oder Standards in unsere Gesellschaften gedrängt werden", sagt Elinor Carmi, Dozentin an der Universität in London, der Fachzeitschrift "NewScientist". es ist so over für den Teufel pic.twitter.com/ngHgTKX11Z E L H O T Z O (@elhotzo) March 25, 2023 okay aber das ist echt oder pic.twitter.com/9XEXVyVWMQ philo (@SchatzMikkelsen) March 26, 2023Der Vatikan hat sich mittlerweile zu den Bildern geäußert und ruft zu einem verantwortungsvollen Umgang mit KI auf. Bei "Vatican News" wird Papst Franziskus wie folgt zitiert: "Ich bin davon überzeugt, dass die Entwicklung von künstlicher Intelligenz und maschinellem Lernen das Potenzial hat, einen positiven Beitrag zur Zukunft der Menschheit zu leisten. Gleichzeitig bin ich sicher, dass dieses Potenzial nur realisiert werden kann, wenn sich diejenigen, die diese Technologien entwickeln, ständig und konsequent dazu verpflichten, ethisch und verantwortungsbewusst zu handeln." Wie erkennt man gefälschte Bilder und Videos im Netz? "Die Menschen im Jahr 2025 werden eine wirklich schwierige Zeit mit Fehlinformationen haben. Die Menschen im Jahr 2100 werden nicht wissen, welche Teile der Geschichte echt waren" Dieses düstere Fazit zieht ein Reddit-User unter einem gefälschten Bild zu einem fiktiven Erdbeben in den USA und Kanada, angeblich in 2001. Doch woran kann man erkennen, ob Bilder gefälscht sind oder nicht? Der Correctiv-Faktencheck gibt diese Tipps: - mit Stichworten nach den potenziellen Medienberichten zum Ereignis suchen - auf Details und Ungereimtheiten im Bild achten: vor allem Hände, Ohren und Gesicht - nach der ursprünglichen Quelle des Bildes suchen: dafür die umgekehrte Bildersuche von Google nutzen - auch Apps wie Tin Eye oder Photo Sherlock können laut dem "Netzwerk Recherche" nützlich sein

Mehr zum Thema