Zum Inhalt springen

Deepfakes im Video-Call: Was live ist, muss doch echt sein!

Mit Künstlicher Intelligenz generierte Videos wirken in vielen Fällen täuschend echt. In Live-Schalten ist das besonders tückisch.

STAFFEL 3 EPISODE 2 ~~~~~

Veröffentlichung: 29. November 2022

Gast: Agnieszka Walorska, Tech-Unternehmerin und Co-Host vom „Zurück zur Zukunft“-Podcast

Face Swap Apps oder Gesichtsfilter für Social Media sind beliebt, günstig und eine schöne Spielerei. Dahinter verbirgt sich die Deepfake-Technologie, bei der Künstliche Intelligenz zum Einsatz kommt.

Im Live-Bereich – also bei Anrufen, Videochats und Online-Meetings – sind Deepfakes auf dem Vormarsch. Die Gründe liegen auf der Hand: Die Technologie entwickelt sich rasant weiter, wobei auch die Zugänglichkeit für Smartphones und Co. steigt.

In den vergangenen Monaten gab es auch wieder Fälle in der Politik, durch die das Thema eine neue Brisanz bekommen hat und durch die der schädliche Umgang betont wird. Der Anruf von Fake-Klitschko bei Berlins Bürgermeisterin Franziska Giffey steht in der Bekanntheitsliste ganz oben.

Warum wir auf Deepfakes in Live-Videos hereinfallen

Weil Deepfakes in vielen Fällen täuschend echt aussehen, sind sie in Live-Situationen aber besonders tückisch. Denn wer sich vor der Kamera von Fake-Freunden und Fake-Family verarschen lässt, ist anfällig für Identitätsdiebstahl und öffentliche Bloßstellung.

Welche Manipulations-Techniken existieren? Woran sind Deepfakes zu erkennen und wie verhält man sich? Im Zweifel auflegen, empfiehlt Agnieszka Walorska. Sie ist Tech-Unternehmerin, Co-Host vom Podcast „Zurück zur Zukunft – Tech-News und Business Models“ und zu Gast in der aktuellen Episode vom „Digga Fake“-Podcast.

Im Gespräch mit Victoria betont sie vor allem den Psychologie-Trick des sogenannten Social Engineering. Dabei werden Menschen – simpel ausgedrückt – so weit dazu gebracht, bis sie tun oder glauben, was der Betrüger oder die Betrügerin will.

Der (Nicht)Blick für Details ist fatal

„Vieles, was mit dem Thema technische Manipulation zu tun hat, ist im ersten Schritt Social Engineering“, sagt Agnieszka.

Am Beispiel Klitschko-Fake lässt sich das gut veranschaulichen. In diesem Fall war ein Übersetzer während des Video-Calls im Hintergrund aktiv und das bot Ablenkung vom tatsächlich Gesagten. Laut Medienberichten konnten die Beteiligten den Fake erst nach ungefähr 30 Minuten enttarnen.

Welche weiteren Möglichkeiten existieren, weshalb man auf Deepfakes in Live-Calls so leicht hereinfällt?

„Wir haben uns daran gewöhnt, dass die Bildqualität in Telefonaten zum Teil nicht gut ist“, sagt Agnieszka. Beispielsweise erscheine es bei verpixelten Bildern normal, dass Mundbewegungen nicht zum Gesagten passen. Das biete eine ideale Spielwiese für Betrug. Denn alles, was nicht genau sichtbar sei, könne man auch nicht ganz genau analysieren, so Agnieszka.

Tipps, damit du Deepfakes besser erkennst


Sei kritisch! Hinterfrage den Anrufer bzw. die Anruferin
Passt das vom Kontext? Erscheinen die Gesten komisch? Wirkt die Stimme merkwürdig? Stellt dein Gegenüber Fragen zu Passwörtern, Geburtsdatum oder anderen sensiblen Daten? Das sind Warnzeichen.

Wechsle vom Smartphone zum Computer bzw. Laptop – auch wenn es lästig ist!
Bei schlechter Bildqualität, wechsle das Endgerät. Je größer der Bildschirm, desto eher lassen sich verpixelte Gesichtsstellen oder andere Ungereimheiten erkennen.

Prüf die Quelle! Bitte um eine zusätzliche Verifizierung.
Bringe dein Gegenüber dazu, dich zurückzurufen oder dir eine Email zu schicken. Und ganz wichtig: Bitte dein Gegenüber, sich die Hand vor das Gesicht zu halten. Nach aktuellem Stand der Technik entstehen bei Live-Deepfakes (noch) Störungen im Bild.

Shownotes zur aktuellen Episode

Musik

„Digga Fake Theme Song“ von Alexey Potiy

Fotos

Alexander Bley und Agnieszka Walorska

„Digga Fake – der Podcast über Fake News & Fact-Checking“ ist eine Produktion von © Victoria Graul

Weiteres Futter für Augen, Ohren und Kopf gibt’s auf Instagram.

Quellen & Lesetipps

Podcast „Zurück zur Zukunft – Tech News & Business Models“, abrufbar unter https://zurueckzurzukunft.de/, letzter Zugriff am 29.11.2022.

Youtube-Video „Watch a young Elon Musk get his first supercar in 1999“ von CNN, abrufbar unter https://www.youtube.com/watch?v=s9mczdODqzo, letzter Zugriff am 29.11.2022.

Beispiele für KI Web-Tools: Textgenerator Neuroflash, abrufbar unter https://neuroflash.com/ | Bildgenerator Midjourney, abrufbar unter https://midjourney.gitbook.io/docs/ | Bildgenerator Dall-e, abrufbar unter https://openai.com/dall-e-2/ | Stimmengenerator Resemble, abrufbar unter https://www.resemble.ai/

Setz dich zu Victoria ans Mikro

Wenn die Chemie passt, kommt der Rest von ganz allein.