Für Links auf dieser Seite erhält GIGA ggf. eine Provision vom Händler, z.B. für mit oder blauer Unterstreichung gekennzeichnete. Mehr Infos.
  1. GIGA
  2. Tech
  3. Digital Life
  4. Echte Mordfälle: Dieser TikTok-Trend geht unter die Haut

Echte Mordfälle: Dieser TikTok-Trend geht unter die Haut

KI-Deepfakes mit Mordopfern verbreiten sich bei TikTok.IMAGO / Panthermedia)

Bei TikTok macht sich ein verstörender Trend bemerkbar: Deepfakes, die mit einer Künstlichen Intelligenz erzeugt wurden, lassen kindliche Mordopfer zu Wort kommen. Derartige Inhalte sind auf der Plattform eigentlich verboten. Einige der größten Deepfake-Accounts wurden jetzt gelöscht.

 
TikTok
Facts 

TikTok: KI-Deepfakes mit Mordopfern

Bei TikTok tauchen vermehrt Deepfake-Videos auf, die mithilfe einer Künstlichen Intelligenz erstellt wurden. Anders als bisher wird nicht mehr nur prominenten Persönlichkeiten etwas in den Mund gelegt. Stattdessen werden Videos verbreitetet, in denen sich kindliche Mordopfer angeblich zur Tat äußern.

In einem der KI-Videos heißt es drastisch: „Mein Vater sperrte mich in eine laufende Waschmaschine. Ich starb unter entsetzlichen Schmerzen“. Während die geschilderten Fälle selbst einen wahren Hintergrund haben, sind weitere Details zur Tat oft erfunden. Auch das Aussehen der gezeigten Kinder wird verändert. Allerdings sind die Namen der Kinder oft echt.

Manche der Accounts, die derartige Videos verbreiten, weisen auf einen Haftungsausschluss hin. Dort heißt es, dass bewusst keine echten Fotos der Opfer verwendet werden. So wolle man die Privatsphäre der Familie respektieren.

TikTok hat bereits reagiert und einige Accounts gelöscht. Die KI-Deepfakes von Nostalgia Narratives und Touching Story sind aber teils weiter auf der Plattform vorhanden. Andere Nutzer haben sie erneut hochgeladen. Nostalgia Narratives kam auf über 175.000 Follower, bei Touching Story waren es rund 66.000.

Deutlich harmloser sind TikTok-Tänze:

Die 12 beklopptesten Tänze auf TikTok
Die 12 beklopptesten Tänze auf TikTok Abonniere uns
auf YouTube

KI-Deepfakes bei TikTok: Rechtliche Grauzone

Laut Paul Bleakley, Assistenzprofessor für Strafjustiz an der Universität von New Haven, handelt es sich bei derartigen Videos um eine „heikle, trübe Grauzone“. Da die gezeigten Personen verstorben sind und keine echten Bilder von ihnen verwendet wurden, dürften Klagen der Verbliebenen ins Leere laufen. Zivilrechtlich könnte dennoch gegen die Macher vorgegangen werden, falls diese ihre Videos monetarisieren (Quelle: Rolling Stone).

Du willst keine News rund um Technik, Games und Popkultur mehr verpassen? Keine aktuellen Tests und Guides? Dann folge uns auf Facebook oder Twitter.