Faux positifs dans les scanners de photos sensibles
Un détecteur reconnaît des motifs visuels. Il ne comprend pas les relations, le contexte médical, l'art, l'humour, ni pourquoi une image est importante pour vous.
Le signalement n'est pas un verdict final
- MarquéSensible et signalé
Inspectez la suggestion dans son contexte.
- MarquéInoffensif mais signalé
Un faux positif. Vous pouvez conserver le fichier.
- Non signaléSensible mais raté
Un élément manqué peut rester en dehors des résultats.
- Non signaléInoffensif et non signalé
Les résultats dépendent toujours de la source et du modèle.
Utilisez des suggestions pour hiérarchiser votre avis. Ne considérez jamais le résultat comme un certificat.
Qu'est-ce qu'un faux positif ?
Un faux positif est une image ordinaire ou acceptable classée comme potentiellement sensible. Les plages, les images sportives, les fonds couleur chair, les œuvres d'art, les photos médicales, les corps recadrés et les captures d'écran peuvent ressembler à des motifs qu'un détecteur de nudité associe à du contenu sensible.
Les faux négatifs ont aussi leur importance.
Un faux négatif correspond à un contenu privé que le détecteur ne suggère pas. Une faible luminosité, un cadrage inhabituel, un recadrage important, des vêtements, des sujets de petite taille, des illustrations et des séquences vidéo entre les images échantillonnées peuvent compliquer la détection. C'est pourquoi un scanner ne peut pas garantir qu'une bibliothèque est exempte de contenu privé.
Les seuils remplacent une erreur par une autre.
Un seuil large peut faire apparaître davantage de correspondances potentielles, mais aussi des images plus courantes. Un seuil strict peut réduire la liste au risque de passer à côté de contenus ambigus. Il n'existe pas de paramètre universel qui corresponde à la définition que chacun se fait de la vie privée.
Une politique d'évaluation sécurisée
- Traitez la liste de résultats comme une file d'attente, et non comme une conclusion.
- Ouvrez la photo en pleine résolution ou suffisamment de la chronologie vidéo pour la comprendre.
- Vérifiez les éléments voisins du même moment.
- Gardez les sélections de suppression suffisamment petites pour être vérifiées.
- Avis récemment supprimé après tout nettoyage.
- Utilisez une passe manuelle pour les dates ou les contextes où l'absence d'un élément serait importante.
Un outil de protection de la vie privée devrait réduire le travail d’examen sans transformer un résultat de modèle incertain en une action irréversible.
La confidentialité et l'exactitude sont des questions différentes
Le traitement sur l'appareil répond aux questions relatives à la classification. Cela ne rend pas un détecteur parfait. Vérifiez la destination des fichiers multimédias, la nécessité d'un compte, l'emplacement de stockage des résultats et assurez-vous de contrôler chaque action.
Comment Sensitivity utilise les résultats
Sensitivity analyse les fichiers multimédias présents sur l'appareil et affiche les correspondances potentielles pour examen. Les résultats enregistrés sont protégés par une authentification de l'appareil. L'application ne télécharge aucun fichier multimédia pour classification et ne supprime rien automatiquement. L'utilisateur décide de conserver, masquer ou supprimer chaque élément.