Franziska Giffey in einem Fake-Videocall mit dem angeblichen Vitali Klitschko. Offenbar handelte es sich dabei um ein zusammengeschnittenes altes Video von Kiews Bürgermeister.dpa / Staatskanzlei Berlin
watson antwortet
Daniel Schurter / watson.ch
In mehreren europäischen Hauptstädten herrscht seit letzter Woche Aufregung. Wie konnte man auf einen Betrüger hereinfallen, der sich in einer Videoschalte als Kiews Bürgermeister ausgab?
29.06.2022, 08:4730.06.2022, 10:17
Ein Unbekannter gab sich in betrügerischen Fake-Videoschalten mit hochrangigen Politikerinnen und Politikern als Vitali Klitschko, Bürgermeister von Kiew, aus.
Getäuscht wurden Berlins Bürgermeisterin Franziska Giffey sowie die Bürgermeister von Madrid und Wien, José Luis Martínez-Almeida und Michael Ludwig.
Ob auch andere westeuropäische Exekutivpolitikerinnen und
-politiker attackiert wurden, ist nicht bekannt.
Mehr als fraglich ist, ob es sich um eine Deepfake-Attacke handelte, wie es die Berliner Staatskanzlei zunächst bezeichnete. Als "Deepfakes" bezeichnet man realistisch wirkende, gefälschte Medieninhalte – insbesondere Videos –, die durch Computer-Algorithmen generiert wurden. Denn es gibt keine Beweise für eine aufwendig konzipierte Cyberattacke mithilfe künstlicher Intelligenz (KI).
Wie wir dank der Recherchen diverser Journalisten wissen, deutet einiges auf eine simple Betrugsmasche hin. Das lässt die Betroffenen allerdings nicht besser dastehen.
"Cheap Fake" statt Deep-Fake?
"Es gab keine Anhaltspunkte dafür, dass die Videokonferenz nicht mit einer echten Person geführt wird. Allem Anschein nach handelt es sich um Deep-Fake."
Mitteilung aus dem Berliner Rathaus
Die Vermutung, dass es sich um eine Deep-Fake-Attacke handelte, äußerte die Berliner Senatskanzlei am vergangenen Freitag via Twitter. "Es gab keine Anhaltspunkte dafür, dass die Videokonferenz nicht mit einer echten Person geführt wird. Allem Anschein nach handelt es sich um Deep-Fake", hieß es dort. Und diese Darstellung wurde im In- und Ausland weiterverbreitet. Schnell und ungeprüft.
Das Problem der Journalistinnen und Journalisten: Ihnen lag kein Video-Beweismaterial vor – nicht aus Berlin, Madrid oder Wien. Es gab nur ein paar wenige Screenshots.
"Ein sogenannter Deep-Fake wäre sicherlich die spektakulärste mögliche Erklärung dafür, dass Klitschko aussah und klang, wie er nun einmal aussieht und klingt."
Erklärungsversuch des Nachrichtenmagazins "Der Spiegel"
Dem deutschen Investigativjournalisten Daniel Laufer (ARD) ließ der Erklärungsversuch keine Ruhe. Er beschäftigte sich in der Folge intensiv mit den Informationen, die aus dem Berliner Rathaus veröffentlicht worden waren.
Bei Youtube spürte Laufer ein Interview mit dem Kiewer Bürgermeister von Anfang April auf. Dieses könnte als digitales Ausgangsmaterial für den Betrug gedient haben, denn es zeigt Vitali Klitschko mit der gleichen Kleidung und vor dem gleichen Hintergrund wie bei der Fake-Schaltung.
Das Nachrichtenmagazin "Spiegel" fasst Laufers Theorie wie folgt zusammen: Die Kriminellen hätten wohl einzelne Videoschnipsel aus dem Original-Video "schlau vorgeschnitten" und sie während der Videokonferenz mit den europäischen Bürgermeistern in Echtzeit neu zusammengesetzt.
Wahrscheinlich wurden die Bewegtbilder des damaligen Interviews (auf Russisch) als Grundlage verwendet und in Echtzeit mit dem Gesprochenen und den Lippenbewegungen desjenigen zusammengeführt, der dann tatsächlich mit der Bürgermeisterin sprach. Fachleute bezeichnen dies als "Face Reenactment", schreibt die Nachrichtenagentur SDA.
Cheap Fake und Deep-Fake
Ein "Cheap Fake" (billige Fälschung) ist ein digitaler Medieninhalt, ein Bild oder Video, das mit relativ wenig Aufwand am Computer abgeändert wurde. Ein bekanntes Beispiel betraf die US-Politikerin Nancy Pelosi. In einem von ihren politischen Gegnern manipulierten Interview wirken ihre Äußerungen so, als wäre die US-Demokratin betrunken, oder nicht im Vollbesitz ihrer geistigen Kräfte. Dabei wurde lediglich das Video verlangsamt abgespielt.
Im Gegensatz dazu erfordern Deep-Fake-Videos einen viel größeren Aufwand und sind schwieriger zu erstellen. Es wird nicht wie mit einem Bildbearbeitungsprogramm einfach ein Gesicht auf ein anderes kopiert, sondern durch spezielle Algorithmen ein neues geformt. Dazu braucht es ein künstliches neuronales Netz, das durch Referenzmaterial zunächst lernen muss, wie das zu formende Gesicht auszusehen hat, um es dann selbst zu erzeugen.
Neben den Bewegtbildern benötigt man zur Erstellung eines derartigen Deep-Fakes das ursprüngliche Video, in das das künstliche generierte Gesicht eingefügt werden soll, sowie die manipulierte Tonspur (passend zur Mimik).
Was den Angreifern beim Überlisten der Verantwortlichen in Berlin entscheidend half: Zu Beginn der Konferenzschaltung fragten sie offenbar, ob das Gespräch auf Russisch stattfinden und übersetzt werden könne. Die Berliner Bürgermeisterin willigte ein. Und es erscheint nachvollziehbar, dass sie in der Folge relativ wenig auf die Stimme ihres Gesprächspartners achtete, da sie der Übersetzung folgen musste.
Wiener Bürgermeister ahnungslos
Am vergangenen Mittwoch telefonierte auch der Wiener Bürgermeister Michael Ludwig mit dem falschen Vitali Klitschko und twitterte anschließend darüber. Einer ORF-Journalistin sagte er am Samstag, der Anrufer habe auf Englisch gesprochen. Gegen Ende sei der angebliche Klitschko fordernder aufgetreten. Man habe deshalb das Gespräch beendet, aber es sei dennoch kein Zweifel aufgekommen. Die E-Mail-Adressen, über die das Gespräch vorbereitet wurde, hätten vertrauenswürdig gewirkt.
Zur Deep-Fakes-Theorie hat der "Spiegel" einen Experten für die automatische Verarbeitung von Sprache, Bildern, Videos und Musik befragt. Florian Gallwitz, Informatik-Professor an der Technischen Hochschule Nürnberg, sagte:
"Grundsätzlich wären die Technologien heute schon vorhanden, um die Mimik und Lippenbewegungen einer Person in einem Video zu manipulieren, gegebenenfalls auch deren Stimme. Diese Technologien sind aber noch fragil, schwer zu bedienen und ihr Ergebnis wirkt oft wenig überzeugend. In Echtzeit wäre das dazu eine ganz besondere Herausforderung. Deshalb würde ich in diesem und in vergleichbaren Fällen immer erst von einfacheren Tricks ausgehen."
quelle: spiegel.de
Die Frage, ob ein Deep-Fakes in solch einer Live-Situation so täuschend echt umgesetzt werden könne, dass sich ein geübtes Auge davon täuschen lasse, bleibe zumindest vorläufig unbeantwortet, konstatierten die Kollegen von T-Online.
Versuche des ARD-"Mittagsmagazins", ein glaubwürdiges Deep-Fake-Video zu generieren, sind offenbar gescheitert, wie die deutsche Journalistin Svea Eckert am Montag twitterte. Und selbst "sehr gute Deep-Fakes", mit Personen, von denen es stundenlanges Rohmaterial gebe, würden durch Bildstörungen (Artefakte), "vor allem an den Rändern", auffallen.
Waren es überhaupt die Russen?
Dazu gibt's keine gesicherten Erkenntnisse.
Erst kürzlich hat ein berüchtigtes russisches Comedy-Duo namens Vovan und Lexus international für Schlagzeilen gesorgt, indem sie die Bestseller-Autorin J. K. Rowling (Harry Potter) mit einem Fake-Anruf täuschten. Dies berichtete die "Washington Post" am vergangenen Freitag (24. Juni).
Die selbsternannten "Prankster" (Streichspieler) unterstützen den russischen Diktator Wladimir Putin und gaukelten der Harry-Potter-Erfinderin ein Telefongespräch mit dem ukrainischen Präsidenten Wolodymyr Selenskyj vor.
Dass die Russen die Deep-Fakes-Technik grundsätzlich beherrschen und im Informationskrieg gegen den Westen auch einsetzen, wissen wir spätestens seit März 2022. Da teilte der Meta-Konzern, die Muttergesellschaft von Facebook, mit, dass man "ein Deep-Fakes-Video" von den eigenen Plattformen entfernt habe: ein Clip mit einem gefälschten Präsidenten Selenskyj, mit einer Erklärung, "die er nie abgegeben hat".
Warum sind solche Vorfälle gefährlich?
Weil sie das Vertrauen in Politikerinnen und Politiker mit Regierungsverantwortung untergraben.
Der russische Diktator Wladimir Putin führt nicht nur einen Vernichtungskrieg gegen die Ukraine, sondern auch einen Informationskrieg gegen den Westen. Sein Ziel ist es, die Bevölkerung zu spalten und Staaten zu destabilisieren.
Mit der Fake-Videoschaltung ist es den unbekannten Kriminellen gelungen, die politischen Verantwortungsträger in gleich drei europäischen Städten in Verruf zu bringen. Spott und Häme ließen nicht lang auf sich warten.
Durch "digitale Kriegsführung" solle wohl das Vertrauen in die Politik erschüttert und die Ukraine und ihre Unterstützer diskreditiert werden, mahnte der Wiener Bürgermeister. Und weiter: Man werde Maßnahmen treffen, "um dieser neuen Form der Cyberkriminalität künftig zu begegnen".
Welche Konsequenzen hat die Attacke?
Es gibt die juristische Ebene: Der österreichische Verfassungsschutz und andere Institutionen haben laut Medienberichten Ermittlungen eingeleitet. In Deutschland untersucht der für politisch motivierte Straftaten zuständige Staatsschutz der Kriminalpolizei. Ob daraus Strafverfahren gegen die bis dato unbekannten Täter resultieren werden, ist fraglich.
Dann gibt's noch die politische Ebene.
Berufspolitikerinnen und Berufspolitiker und ihre Berater sind bemüht um gute PR. Darum verwundert es nicht, dass gleich in mehreren westeuropäischen Hauptstädten auf das angeblich aus Kiew kommende, verlockende Gesprächsangebot des falschen Vitali Klitschko eingegangen wurde.
Dabei hätten in den Rathäusern alle Alarmglocken läuten sollen. Die Anfrage kam nicht von einer offiziellen ukrainischen E-Mail-Adresse (mit Top-Level-Domain ".ua"), sondern vom Absender mayor.kyiv@ukr.net. Und offensichtlich wurde weder die Authentizität der angeblich anfragenden Person geklärt, noch wurden die Gesprächsdetails verbindlich festgelegt.
Dies führte dazu, dass die von ihrem Gegenüber überrumpelten Westeuropäer einwilligten, das Gespräch auf Russisch zu führen, unter Beizug eines Dolmetschers. Ein Dolmetscher, den die Angreifer selber zur Verfügung stellten ...
Das letzte Wort soll aber der echte Vitali Klitschko haben. Der Bürgermeister von Kiew zeigte am Samstag in einer kurzen Videobotschaft, wie man professionell auf solche Attacken reagiert. Der kriegserprobte Politiker und frühere Box-Champion rief die offiziellen Kommunikationskanäle in Erinnerung, übe die man ihn sicher kontaktieren könnte. Und wichtig: Er brauche bei Gesprächen mit Amtskolleginnen und Amtskollegen aus Westeuropa keinen Dolmetscher.
"Ich brauche keinen Übersetzer."
Vitali Klitschko, Bürgermeister von Kiew
Quellen
Mit Material der Nachrichtenagentur Keystone-SDA
