Falsos positivos em scanners de fotos sensíveis
Um detector reconhece padrões visuais. Ele não entende relações, contexto médico, arte, humor ou por que uma imagem é importante para você.
Sinalizado não é um veredicto final
- SinalizadoSensível e sinalizado
Inspecione a sugestão no contexto.
- SinalizadoInofensivo, mas sinalizado
Um falso positivo. Você pode manter o arquivo.
- Não sinalizadoSensível, mas errou
Um item perdido pode ficar fora dos resultados.
- Não sinalizadoInofensivo e não sinalizado
Os resultados ainda dependem da fonte e do modelo.
Use sugestões para priorizar sua revisão. Nunca trate o resultado como um certificado.
O que é um falso positivo
Um falso positivo é uma imagem comum ou aceitável classificada como provavelmente sensível. Praias, esportes, fundos cor de pele, obras de arte, fotos médicas, corpos recortados e capturas de tela podem se assemelhar a padrões que um detector de nudez associa a conteúdo sensível.
Falsos negativos também importam
Um falso negativo é conteúdo privado que o detector não sugere. Pouca luz, enquadramento incomum, cortes acentuados, roupas, objetos pequenos, ilustrações e trechos de vídeo entre os quadros amostrados podem dificultar a detecção. É por isso que um scanner não pode garantir que uma biblioteca esteja livre de conteúdo privado.
Limiares trocam um erro por outro
Um limite amplo pode revelar mais correspondências possíveis, mas também mais imagens comuns. Um limite estrito pode criar uma lista mais curta, mas deixar de fora conteúdo ambíguo. Não existe uma configuração universal que reflita a definição de privacidade de todas as pessoas.
Uma política de revisão segura
- Trate a lista de resultados como uma fila, não como uma conclusão.
- Abra a foto em resolução total ou parte suficiente da linha do tempo do vídeo para entendê-lo.
- Verificar itens vizinhos do mesmo instante.
- Mantenha as seleções de exclusão pequenas o suficiente para serem verificadas.
- Avaliação excluída recentemente após qualquer limpeza.
- Use uma passagem manual para datas ou contextos onde a falta de um item seria importante.
Uma ferramenta de privacidade deve reduzir o trabalho de revisão sem transformar um resultado incerto do modelo em uma ação irreversível.
Privacidade e precisão são questões diferentes
O processamento no dispositivo responde onde a classificação ocorre. Isso não torna um detector perfeito. Verifique para onde a mídia é enviada, se é necessária uma conta, onde os resultados são armazenados e se você revisa cada ação.
Como Sensitivity usa resultados
Sensitivity analisa a mídia no dispositivo e exibe possíveis correspondências para revisão. Os resultados salvos são protegidos com autenticação do dispositivo. Não carrega mídia para classificação e não exclui nada automaticamente. O usuário decide se deseja manter, ocultar ou excluir cada item.