NSFW и NSFL: нагота и сцены насилия требуют разных проверок
NSFW и NSFL — предупреждения о содержимом, а не взаимозаменяемые настройки детектора. Поиск вероятной наготы сам по себе не означает поиск сцен насилия. Прежде чем полагаться на результат, уточните, какие категории действительно поддерживает сервис.
Проверка наготы не заменяет проверку насилия
- Сексуальное содержаниеНагота и откровенные сцены
Уточните, поддерживает ли инструмент эту категорию.
- Тяжёлые для просмотра сценыНасилие и серьёзные травмы
Для них нужна отдельная поддерживаемая категория с понятным описанием.
Один снимок может относиться к обеим категориям. Низкая оценка в одной не исключает другую.
Что означает NSFL?
Dictionary.com приводит два неформальных значения NSFL: “not safe for life” и “not safe for lunch”. Так предупреждают о материалах, которые могут вызвать сильное отвращение или потрясти зрителя. Обычно это более серьёзное предупреждение, чем обычная пометка о неуместности просмотра на работе. Оно не является единым возрастным рейтингом или техническим стандартом.
NSFW расшифровывается как “not safe for work”: материал не стоит неожиданно открывать на работе. Это могут быть откровенные изображения, сцены насилия или другое неуместное в такой обстановке содержимое. Пометка NSFL чаще подчёркивает тяжёлые для просмотра сцены, например серьёзные травмы. Один файл может требовать сразу нескольких предупреждений.
Оценка наготы не отвечает на вопрос о насилии
Классификатор обучается распознавать определённые категории. Низкая оценка наготы не доказывает отсутствие насилия, травм или других тяжёлых сцен. Верно и обратное: проверка насилия не определяет, есть ли на фотографии нагота или личные сведения.
Например, документация Google SafeSearch отдельно описывает категории контента для взрослых, насилия, медицинских изображений, сексуально провокационного содержания и изменённых изображений для шутки или провокации. Это категории конкретного сервиса. Из них нельзя делать вывод, что любое приложение со словами «деликатный контент» выполняет такие же проверки.
Проверьте описание вашей версии
Поддерживаемые категории меняются с обновлениями. В актуальном руководстве Apple по Sensitive Content Analysis отдельно описаны сексуально откровенное содержание и сцены насилия или тяжёлых травм. Возможность системного инструмента не доказывает, что конкретное стороннее приложение включает все эти проверки или поддерживает их в старой версии.
Найдите точный перечень категорий, поддерживаемые типы фото и видео и объяснение результата. Если продукт обещает только обнаружение наготы, не предполагайте, что он также проверяет насилие. Общей рекламной формулировки для такого вывода недостаточно.
Как посмотреть файл, не показав его окружающим
- Перед открытием файла выберите место без посторонних зрителей и остановите демонстрацию экрана.
- Сначала прочитайте предупреждение и имя файла. Если просмотрщик позволяет, оставьте предварительное изображение размытым.
- Прежде чем толковать результат сканирования, уточните поддерживаемые категории.
- Решите, нужно ли сохранить файл, ограничить к нему доступ или удалить его. Не пересылайте сам файл автоматически, чтобы объяснить предупреждение.
В видео один кадр не показывает всё, что появится позже. Если важна короткая сцена внутри ролика, нужна отдельная проверка видео, а не только начальной миниатюры.
Где может помочь Sensitivity
Sensitivity помогает проверять на устройстве фото и видео с вероятным откровенным содержимым. Приложение не заявлено как средство поиска всех сцен насилия или других тяжёлых изображений. Используйте результаты в пределах описанной задачи, а остальные важные для вас категории проверяйте отдельно.