Falsos positivos en escáneres de fotos sensibles
Un detector reconoce patrones visuales. No entiende relaciones, contexto médico, arte, humor ni por qué una imagen es importante para usted.
Marcado no es un veredicto final
- MarcadoSensible y marcado
Inspeccione la sugerencia en contexto.
- MarcadoInofensivo pero marcado
Un falso positivo. Puedes conservar el archivo.
- No marcadoSensible pero perdido
Un elemento omitido puede quedar fuera de los resultados.
- No marcadoInofensivo y no marcado
Los resultados aún dependen de la fuente y el modelo.
Utilice sugerencias para priorizar su revisión. Nunca trate el resultado como un certificado.
Qué es un falso positivo
Un falso positivo es una imagen ordinaria o aceptable que se clasifica como potencialmente sensible. Playas, deportes, fondos color piel, obras de arte, fotos médicas, cuerpos recortados y capturas de pantalla pueden parecerse a patrones que un detector de desnudez asocia con contenido sensible.
Los falsos negativos también importan
Un falso negativo es contenido privado que el detector no detecta. La poca luz, el encuadre inusual, el recorte excesivo, la ropa, los sujetos pequeños, las ilustraciones y los momentos de vídeo entre fotogramas muestreados pueden dificultar la detección. Por eso, un escáner no puede certificar que una biblioteca esté libre de contenido inapropiado.
Los umbrales intercambian un error por otro
Un umbral amplio puede mostrar más coincidencias posibles, pero también imágenes más comunes. Un umbral estricto puede crear una lista más corta, pero sin detectar contenido ambiguo. No existe una configuración universal que refleje la definición de privacidad de cada persona.
Una política de revisión segura
- Trate la lista de resultados como una cola, no como una conclusión.
- Abra la foto en alta resolución o una parte suficiente de la línea de tiempo del video para entenderla.
- Comprobar elementos vecinos del mismo momento.
- Mantenga las selecciones de eliminación lo suficientemente pequeñas para verificar.
- Revisar elementos eliminados recientemente después de cualquier limpieza.
- Utilice un pase manual para fechas o contextos en los que la falta de un elemento sea importante.
Una herramienta de privacidad debería reducir el trabajo de revisión sin convertir un resultado incierto del modelo en una acción irreversible.
La privacidad y la exactitud son cuestiones diferentes.
El procesamiento en el dispositivo indica dónde se realiza la clasificación. Esto no garantiza la perfección del detector. Verifique a dónde se almacenan los archivos multimedia, si se requiere una cuenta, dónde se guardan los resultados y si se revisa cada acción.
Cómo Sensitivity utiliza los resultados
Sensitivity analiza los archivos multimedia del dispositivo y muestra posibles coincidencias para su revisión. Los resultados guardados están protegidos con autenticación del dispositivo. No sube archivos multimedia para su clasificación ni elimina nada automáticamente. El usuario decide si conservar, ocultar o eliminar cada elemento.