Der ukrainische Präsident Wolodymyr Selenskyj steht an einem Rednerpult und blickt ernst in die Kamera. Eine weltweit bekannte Szene. Seitdem Russland die Ukraine überfallen hat, veröffentlicht Selenskyj regelmäßig kurze Clips im Netz, zum Beispiel auf Instagram.

Doch das Video vom März 2022 war ungewöhnlich: Selenskyj ruft darin augenscheinlich zur Kapitulation der Ukraine auf und riet den eigenen Truppen, sich zu ergeben. Schnell entlarvten Faktenchecker*innen das Video als Fälschung. Aber es zeigt: Die Gefahr, dass falsche Nachrichten zunehmend auch über sogenannte Deepfake-Videos verbreitet werden, ist real.

Julia Bayer prüft regelmäßig Bilder und Videos auf ihre Echtheit. Sie ist freie Investigativjournalistin und Innovationsmanagerin mit dem Schwerpunkt digitale Recherche und arbeitet hauptsächlich bei der Deutschen Welle. Parallel entwickelt sie auch journalistische Tools, um Deepfakes zu entlarven. Hier erklären wir mit ihrer Hilfe, was Deepfakes sind und wie man sie erkennen kann. 

Was sind Deepfakes?

Deepfakes sind Videos, Bilder oder Audioaufnahmen, die mittels künstlicher Intelligenz erstellt oder so manipuliert wurden, dass der Inhalt oder die auftretenden Personen verfälscht werden. So tun oder sagen die dargestellten Personen Dinge, die in der Realität so nie geschehen sind – zum Beispiel durch veränderte Lippensynchronisation oder das Klonen von Stimmen. Oft wirken diese Fälschungen so realistisch, dass man sie nicht ohne Weiteres erkennen kann.

Am wichtigsten: Den Kontext und die äußere Logik prüfen

Julia Bayer rät bei zweifelhaften Videos dazu, als Erstes den Kontext zu prüfen. „Was sagt Selenskyj da überhaupt? Ergibt das Sinn? Seine Aufforderung zur Kapitulation passte überhaupt nicht zu der Situation zu Beginn des Krieges. Das war schon das erste Alarmzeichen.“

Zusätzlich versucht Bayer, alles rund um das Video und den Inhalt herauszufinden. Dafür recherchiert sie klassisch mit Suchmaschinen und prüft auch, ob seriöse Faktencheck-Redaktionen schon etwas dazu veröffentlicht haben. Zu der Kontextrecherche gehört auch ein Check des Videomaterials. Sind die Aufnahmen schon vorher irgendwo erschienen?

Bilder-Rückwärtssuche kann Manipulation entlarven

Oft ist das Videomaterial einfach aus dem Zusammenhang gerissen und schon vor langer Zeit in einem völlig anderen Kontext entstanden. In solchen Fällen kann eine Bilder-Rückwärtssuche schnell den Ursprung klären.

Auch im Fall des angeblichen Selenskyj-Videos lieferte die Bilder-Rückwärtssuche einen Treffer. Das Originalbild stammte von einer Pressekonferenz des ukrainischen Präsidenten kurze Zeit zuvor. Auf Grundlage des echten Fotos wurde dann offenbar das Fake-Video erstellt.

Erst im zweiten Schritt konzentriert Julia Bayer sich beim Factchecking auf die Details im Video selbst. Das kann die Person sein, die spricht, oder auch der Hintergrund.

Auf Details im Video achten: Körperhaltung und Proportionen

„Im Video mit Selenskyj stand er relativ starr am Pult, und seine Kopfbewegungen waren etwas verzogen. Auch die Farbe der Haut war sehr blass.“ All das sind erste Hinweise für eine mögliche Manipulation, die das Team dann im Detail prüft. Auch unpassende Proportionen, zum Beispiel ein zu großer Kopf, können auf eine Fälschung hindeuten.

Doch die Faktenchecker*innen müssen ihre Techniken immer wieder auffrischen, um auf dem neuesten Stand zu bleiben. „Vor ein bis zwei Jahren war zum Beispiel fehlendes Blinzeln in Deepfake-Videos noch ein großes Thema. Da sind die Technologien aber mittlerweile besser geworden“, sagt Julia Bayer. „Es ist wie ein Katz-und-Maus-Spiel. Wir suchen nach Fehlern im System, und die, die die Deepfake-Software entwickeln, versuchen, die Technik zu verbessern.“

Reality-Check: Muttermale, Tattoos und Stimme

Bei bekannten Personen kann es auch helfen, das Video mit älteren Aufnahmen zu vergleichen. Hat die Person zum Beispiel Muttermale, Tattoos oder andere sichtbare Besonderheiten? Und sind die auch im fraglichen Video zu erkennen und an der richtigen Stelle?

Auch die Stimme und die Art des Sprechens sind bei jedem Menschen anders. Und damit für Expert*innen ein guter Ansatz für einen Faktencheck. Julia Bayer und ihr Team haben sich beim Selenskyj-Video deshalb mit der Audiospur beschäftigt. „Wir haben uns die Stimme genau angehört und mit Originalaufnahmen verglichen. Sie passte mit der Betonung, dem Sprachmuster und der Bewegung der Lippen nicht zu Originalaufnahmen.“

Geolokalisierung: Wo wurde das Video aufgenommen?

Auch den Ort eines Videos zu bestimmen, kann Fakes aufdecken. Geolokalisierung nennt sich dieser Fachbereich des Factcheckings. Gibt es im Hintergrund zum Beispiel Gegenstände, Gebäude, Straßenschilder, Pflanzen oder andere Hinweise auf den Ort? Passen sie zu dem, was man in dem Video vermeintlich sehen soll?

Gute Deepfakes sind noch sehr aufwendig

Noch sind richtig gute Fakes in Videos eher selten. „Deepfakes sind zwar schon seit mehreren Jahren ein Thema. Aber die Technologie, um ein gutes Deepfake zu produzieren, ist noch sehr komplex. Es braucht dafür starke Rechenpower, viel Material und technisches Know-how“, erklärt Julia Bayer. Wie von Laien künstlich erstellte Videos aussehen, zeigte erst kürzlich ein misslungener Trailer für die Kinderserie „Heidi“, der im Netz für Lacher sorgte. Gleich auf den ersten Blick war das künstlich erstellte Video als solches zu erkennen.

Auch bei dem vermeintlichen Selenskyj-Video hat das Faktenchecken nicht lange gedauert. „In dem Fall war es noch mit bloßen Augen zu entlarven. Aber seit vergangenem November sehen wir mit ChatGPT, Midjourney und anderen Tools, wie schnell Softwareentwicklung in dem Bereich funktioniert. Es ist nur eine Frage der Zeit, bis auch täuschend echte Deepfake-Videos mit solchen für alle zugänglichen Tools produziert werden“, sagt Julia Bayer.

Bester Schutz: Genau hinschauen und hinhören

Deshalb betont sie, wie wichtig es ist, genau hinzuschauen. „Teilt nicht einfach Inhalte im Netz, sondern guckt es euch genau an. Wenn man etwas mit Freund*innen teilt, schickt man dem Inhalt ja auch einen gewissen Vertrauensvorschuss mit.“ Um Fakes zu erkennen, helfe es, die eigenen Sinne zu schärfen: „Genau hingucken, genau hinhören. Ton aus und nur hingucken oder – andersrum – nur hinhören.“ 

Bei Unsicherheit: Video melden

Fehlt die Zeit oder das Kontextwissen, um das Video selbst als Fake analysieren und bewerten zu können, kann man es auch kostenlos an Meldestellen wie den Correctiv-Faktencheck, an den Faktencheck der dpa oder an die Faktenchecker der Deutschen Welle schicken, die das Video dann prüfen.

Titelbild: picture alliance / REUTERS | REUTERS TV