Qualität und Sicherheit
Englischer Fachbegriff: Deep Fake
Ein Deepfake ist ein mit KI erzeugtes oder verändertes Bild, Video oder Tonstück, das echten Personen, Orten, Dingen oder Ereignissen so ähnelt, dass man es für echt halten könnte.
Wie ein perfektes Double im Film
Im Kino merkt niemand, dass in der Stuntszene ein Double spielt, und das ist großartig. Ein Problem wird es erst, wenn das Double im echten Leben auftritt und alle glauben, es sei der Star. Deepfakes sind genauso: ein starkes Werkzeug für Werbung, Schulung und Kreatives. Entscheidend ist, ob alle wissen, dass es künstlich ist.
Deepfakes haben viele sinnvolle Einsätze: Schulungsvideos mit Avatar, Übersetzungen mit passenden Lippenbewegungen, Produktbilder ohne Fotoshooting. Die Grundregel: Was echt wirkt und echte Personen, Orte oder Ereignisse zeigt, wird gekennzeichnet. Die Kehrseite kennt man auch: Betrugsversuche mit gefälschten Stimmen oder Videos von Vorgesetzten. Bei ungewöhnlichen Zahlungsanweisungen darum immer über einen zweiten, bekannten Weg rückfragen.
Wähl ein Beispiel und schau, ob es nach der Definition des AI Act ein Deepfake ist und was das für die Kennzeichnung heißt.
Für diese Übung braucht es JavaScript im Browser.
Vereinfachte Einordnung zur Orientierung, keine Rechtsberatung. Im Einzelfall die Rechtslage prüfen lassen.
Der EU AI Act definiert ein Deepfake neutral als durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde (Art. 3 Nr. 60). Nach Art. 50 Abs. 4 müssen Betreiber, also auch Unternehmen, die solche Inhalte mit einem KI-System erstellen, offenlegen, dass sie künstlich erzeugt oder verändert sind. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken genügt ein Hinweis in geeigneter Weise, der das Werk nicht beeinträchtigt. In jedem Fall muss die Information klar, eindeutig und barrierefrei sein und spätestens beim ersten Kontakt mit dem Inhalt erfolgen (Art. 50 Abs. 5). Für Texte gilt eine eigene Regel, wenn sie die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen. Zusätzlich müssen Anbieter generativer KI ihre Ergebnisse maschinenlesbar als künstlich markieren (Art. 50 Abs. 2). Die Transparenzpflichten nach Art. 50 gelten seit 2. August 2026. Dieser Überblick ersetzt keine Rechtsberatung.
Der nächste Schritt
In 30 Minuten klären wir, wo dein Team steht und was als Nächstes sinnvoll ist. Ein Erstgespräch, kein Verkaufsgespräch.