Kann ein NSFW-Detektor intime Deepfakes erkennen?
Ein Bild kann explizite Inhalte zeigen, obwohl es aufgenommen, bearbeitet oder mit KI erzeugt wurde. Ein NSFW-Detektor ordnet sichtbare Inhalte ein. Damit ist noch nicht geklärt, wie das Bild entstanden ist oder ob es weitergegeben werden darf.
Expliziter Inhalt beweist keine Herkunft
- InhaltWas ist zu sehen?
Ein visueller Klassifikator prüft seine unterstützten Kategorien.
- HerkunftWie entstand das Bild?
Dafür sind andere Nachweise und Prüfungen erforderlich.
- EinwilligungDarf es weitergegeben werden?
Ein Detektorwert bestätigt keine Einwilligung.
Inhaltsprüfung, Echtheitsprüfung und Einwilligung zur Weitergabe bleiben getrennte Fragen.
Inhalt, Herkunft und Einwilligung auseinanderhalten
Bei einem intimen Bild stehen mindestens drei Fragen im Raum: Was ist darauf zu sehen? Wie wurde es hergestellt oder verändert? Und liegt eine Einwilligung zur Weitergabe vor? Ein Nacktheitsscan kann zu einem Teil der ersten Frage beitragen. Die beiden anderen beantwortet sein Ergebnis nicht.
Eine echte Aufnahme und eine künstlich erzeugte Darstellung können deshalb dieselbe NSFW-Einstufung erhalten. Das bedeutet nicht, dass der Detektor ihre Herkunft erkannt hat. Er kann auf ähnliche sichtbare Merkmale reagieren, obwohl die Entstehungsgeschichte völlig verschieden ist.
Auch ein Deepfake-Test braucht eine genaue Aufgabenbeschreibung
Ein Werkzeug zur Echtheitsprüfung kann etwa nach Bildmanipulationen, Spuren einer bestimmten Generierung oder einem Wasserzeichen suchen. Diese Aufgaben sind nicht austauschbar. Der NIST-Bericht zu synthetischen Inhalten behandelt Erkennung, Herkunftsnachweise, Kennzeichnung und Authentifizierung als verschiedene Ansätze. Keine einzelne Methode bietet eine vollständige Lösung für alle Situationen.
Lies deshalb, was ein Ergebnis konkret aussagt. Ein unauffälliger KI-Wert ist kein allgemeiner Echtheitsnachweis. Ein auffälliger Wert beweist umgekehrt weder, wer das Bild erstellt hat, noch dass eine bestimmte Person etwas getan hat. Wenn die Prüfung unentschieden bleibt, sollte auch deine Beschreibung diese Unsicherheit ausdrücken.
Was eine signierte Bildhistorie ergänzen kann
Content Credentials nach dem C2PA-Standard können signierte Angaben zur Entstehung und Bearbeitung einer Datei enthalten. Schau dir die tatsächlichen Angaben und den Status ihrer Prüfung an. Eine nachvollziehbare Bearbeitungshistorie beantwortet eine andere Frage als die visuelle Einschätzung eines Klassifikators.
Die Content Authenticity Initiative erklärt außerdem, dass solche Daten positive Informationen über Herkunft und Verlauf liefern. Fehlen sie, ist damit weder Echtheit noch Fälschung bewiesen. Ein Screenshot oder eine andere Umwandlung kann die ursprüngliche Historie verlieren.
Vor einem Upload die Datenverarbeitung klären
Lege zuerst fest, welche Frage du beantworten möchtest. Prüfe dann, ob Quelle oder Datei bereits hilfreiche Angaben enthalten. Bevor du ein intimes Bild an einen Dienst sendest, kläre Verarbeitungsort, Speicherung und mögliche Weitergabe an andere Anbieter.
Mehrere unverbundene Prüfseiten bedeuten auch mehrere Entscheidungen über die Übermittlung des Bildes. Eine Echtheitsfunktion sagt für sich allein nichts über die Aufbewahrungspolitik eines Dienstes aus.
Eine gespeicherte Datei finden ist eine andere Aufgabe
Wenn du wahrscheinlich explizite Bilder in deiner freigegebenen Fotomediathek finden möchtest, kann Sensitivity die Sichtprüfung auf dem Gerät unterstützen. Die App bestätigt weder die Echtheit eines Bildes noch den Urheber eines Deepfakes oder eine Einwilligung zur Weitergabe.