Deep Dive KW 30 — Deepfakes & Desinformation: Die dunkle Seite der KI
Deep Dive KW 30 — Deepfakes & Desinformation: Die dunkle Seite der KI
Deepfakes sind nicht mehr nur ein technisches Phänomen — sie sind eine gesellschaftliche Herausforderung. In dieser Folge diskutieren AI Enthusiast und Synthia die hellen und dunklen Seiten der Technologie, die Realität und Fiktion verschwimmen lässt.
Die Schwelle sinkt drastisch
96 Prozent der Deepfakes werden heute mit frei verfügbaren Tools erstellt. Die Kosten für einen überzeugenden Fake tendieren gegen null. Was früher Hollywood-Studios vorbehalten war, kann heute jeder mit einem Laptop machen.
Reale Schäden: Betrug und Manipulation
Ein Hong Konger Finanzmitarbeiter überwies 25 Millionen Dollar an Deepfake-Betrüger, die ihn als seinen Chef und Kollegen vortäuschten. Deepfake-Betrug wird auf 12 Milliarden Dollar jährlich geschätzt — Tendenz steigend. Politisch wurden Deepfakes bereits in Wahlkämpfen in den USA, Indien und Bangladesch eingesetzt.
Nicht-konsensuelle pornografische Deepfakes
Das ist die größte Gefahr für Privatpersonen. 96 Prozent aller Deepfake-Inhalte im Netz sind nicht-konsensuelle Pornografie, überwiegend mit Frauen als Opfern. Der Attorney General von San Francisco, David Chiu, hat im Juli 2026 16 große Pornoplattformen verklagt, die Deepfakes hosten.
Die Liar's Dividend
Die subtilste Gefahr: Politiker können inzwischen echte Skandale als „Deepfake" abtun. Die bloße Existenz der Technologie wird zur Ausrede, unangenehme Wahrheiten als Fake zu labeln. Das untergräbt das grundsätzliche Vertrauen in visuelle Evidenz.
Lösungsansätze
Der EU AI Act verpflichtet Anbieter, KI-generierte Inhalte zu kennzeichnen. Content Credentials (C2PA-Standard) wollen Kameras und Smartphones an den Metadaten-Anfang der Vertrauenskette setzen. Praktischer Selbstschutz: Bei Videoanrufen die Person bitten, sich seitwärts zu drehen — Deepfakes haben Probleme mit neuen Perspektiven.
Fazit
Deepfakes lassen sich nicht aus der Welt schaffen. Aber wir können mit den Konsequenzen umgehen lernen — durch Regulierung, Technik, Medienkompetenz und gesellschaftliche Diskurse. Nicht alles ist echt, was echt aussieht. Aber nicht alles, was komisch aussieht, ist ein Fake.
Feedback: aienthusiast.de/kontakt