Распознает ли детектор NSFW интимный дипфейк?
Откровенное изображение может быть фотографией, монтажом или результатом генерации. Оценка NSFW описывает содержимое: она не доказывает происхождение файла, не устанавливает его автора и не подтверждает согласие на отправку.
Откровенное содержание не доказывает происхождение снимка
- СодержимоеЧто изображено?
Классификатор ищет только поддерживаемые им категории.
- ПроисхождениеКак это создано?
Сведения о происхождении файла отвечают на другой вопрос.
- СогласиеМожно ли отправлять?
Оценка алгоритма не подтверждает согласие человека.
Откровенное содержание, подлинность и согласие на отправку нужно проверять отдельно.
Задайте три отдельных вопроса
Во-первых, что, по-видимому, содержится на изображении? Во-вторых, как оно было создано или изменено? В-третьих, уместно ли его хранить или отправлять и есть ли на это разрешение? Классификатор наготы отвечает лишь на часть первого вопроса. Высокая или низкая оценка не решает два остальных.
Сгенерированное изображение может получить пометку об откровенном содержании из-за того, что на нём видно. Настоящая фотография может получить ту же пометку. Это соответствует задаче детектора и не означает, что он распознал дипфейк.
У детектора дипфейков тоже есть границы задачи
В отчёте NIST о прозрачности синтетических материалов обнаружение генерации, сведения о происхождении, маркировка и проверка подлинности рассматриваются как разные технические подходы. Ни один метод не даёт полного решения сам по себе. Его полезность зависит от задачи и реализации.
Перед использованием инструмента проверки подлинности уточните, что именно он оценивает: генерацию, изменение лиц, определённый водяной знак или другой сигнал. Неопределённый результат так и следует описывать. Низкая оценка вероятной генерации не доказывает подлинность интимного изображения, а одна высокая оценка не даёт надёжного основания обвинять конкретного человека.
Что рассказывает подписанная история правок
C2PA Content Credentials позволяют записывать сведения о создании и редактировании файла с цифровой подписью. Прочитайте сами сведения и проверьте статус подписи. Такая история отвечает на другой вопрос, чем классификатор, который ищет знакомые визуальные признаки.
В FAQ Content Authenticity Initiative подчёркивается: такие данные дают сведения о происхождении и истории, а не универсальный вердикт «настоящее или фальшивое». Отсутствие этих данных само по себе не доказывает ни подлинность, ни подделку. Скриншоты и другие преобразования могут потерять исходную историю.
Выберите только нужные проверки
- Перед выбором инструмента запишите, на какой вопрос вам нужен ответ.
- Посмотрите, какие сведения уже есть в источнике или самом файле.
- Перед загрузкой выясните, где изображение обрабатывается, что сохраняется и передаются ли копии другим поставщикам.
- Сохраняйте неопределённость в описании результата. Не превращайте неоднозначную оценку в обвинение.
Отправляя интимное изображение нескольким разным сайтам-детекторам, вы каждый раз принимаете отдельное решение о передаче данных. Наличие функции проверки подлинности само по себе не объясняет политику хранения сервиса или последствия загрузки чужого изображения.
Найти сохранённое откровенное фото — другая задача
Если вам нужно найти вероятные откровенные снимки в медиатеке «Фото», к которой вы разрешили доступ, Sensitivity помогает проверить их на устройстве. Приложение не устанавливает подлинность, автора дипфейка или согласие человека. Поиск файла и выяснение его истории остаются разными задачами.