Jurgita L. - KI-Videogeneratoren werden zum Mainstream, auch weil sie so einfach und intuitiv zu bedienen sind. Die Benutzer sind immer noch fasziniert von den Fähigkeiten dieser Software. Sie experimentieren damit und teilen die Ergebnisse auf ihren Social-Media-Profilen.
Infolgedessen sehen wir bereits viele Deepfake-Medien auf verschiedenen sozialen Plattformen.
Viele Menschen – vor allem weniger technisch versierte Nutzer – fallen auf gefälschte Bilder herein. Obwohl diese Tools spielerisch und harmlos sein können, öffnen sie auch ein Fenster, um gefährdete Menschen zu manipulieren und sie mit Fehlinformationen und Betrug zu bombardieren.
Tools von seriösen Unternehmen wie OpenAI und Meta enthalten integrierte Leitplanken, um Missbrauch und Ausbeutung zu verhindern, aber sie können gejailbreakt und in bösartigen Kampagnen ausgenutzt werden.
Deepfakes erzeugen
Echte Bilder und Videos können in verschiedene KI-Generatoren eingespeist werden, um Deepfakes zu erzeugen und Personen zu erpressen. Dies ist bereits ein weit verbreitetes Problem in Schulen, wo Teenager die Technologie nutzen, um sich gegenseitig zu schikanieren oder zu erpressen.
Es wird immer schwieriger, Fakten von Fiktion zu unterscheiden, vor allem in den sozialen Medien. Die Verbreitung dieser Tools schafft ein Umfeld, in dem sich Fake News verbreiten können. Deepfakes können sich sowohl auf den Einzelnen als auch auf die Gesellschaft auswirken – von der Beeinflussung von Wahlergebnissen und Aktienmärkten bis hin zur Schädigung der psychischen Gesundheit und der Beziehungen von Menschen.
Synthetische Medien werden von Bedrohungsakteuren für verschiedene Zwecke eingesetzt, darunter ausgeklügelte und personalisierte Kompromittierung von Geschäfts-E-Mails (BEC), Betrügereien, Identitätsdiebstahl, der zur Einstellung von Betrügern aus Nordkorea führen kann, und gefälschte Jobangebote, um nur einige zu nennen.
Deepfakes sind auf YouTube weit verbreitet. Kriminelle geben sich als Prominente von Brad Pitt oder Elon Musk aus, um Kryptowährungsbetrug zu fördern und Hunderte von Menschen zu täuschen, bevor diese Videos entfernt werden.
Wie können Menschen die Anzeichen eines gefälschten Videos erkennen?
Überprüfen Sie zunächst die Quelle des Mediums. Wenn es sich um ein Nachrichtenvideo handelt, wenden Sie sich an eine seriöse Nachrichtenorganisation – sie verfügt über die Ressourcen, um das Filmmaterial zu überprüfen. Achten Sie genau darauf, wer oder welcher Kanal oder welches Profil die Inhalte verbreitet.
Wenn es sich um ein persönliches Video handelt, das Sie nicht in den Nachrichten finden würden, achten Sie auf ein paar verräterische Anzeichen. Beobachten Sie zunächst das Gesicht genau, während die Person spricht. Achten Sie darauf, ob die Übergänge zwischen den Ausdrücken fließend sind.
Achten Sie genau auf die Haut – ihre Farbe und ob sie unnatürlich glatt oder übermäßig faltig erscheint. Überprüfen Sie immer die kleinsten Details: Schatten, Haare und ob die Bewegung synchron ist, wenn sich eine Person bewegt. Vergrößern Sie die Ansicht, untersuchen Sie Finger, Nägel, Schatten und den im Bild oder Video sichtbaren Text aus nächster Nähe.
Vertrauen Sie im Allgemeinen Ihrem Bauchgefühl. Wenn sich etwas nicht richtig anfühlt, ist es das wahrscheinlich auch.
