Falsos positivos em ferramentas de análise de fotografias sensíveis
Um detetor reconhece padrões visuais. Ele não entende relações, contexto médico, arte, humor ou por que uma imagem é importante para ti.
Sinalizado não é um veredicto final
- SinalizadoSensível e sinalizado
Inspecione a sugestão no contexto.
- SinalizadoInofensivo, mas sinalizado
Um falso positivo. Pode manter o arquivo.
- Não sinalizadoSensível, mas falhou
Um item em falta pode ficar fora dos resultados.
- Não sinalizadoInofensivo e não sinalizado
Os resultados ainda dependem da fonte e do modelo.
Utilize sugestões para priorizar a sua revisão. Nunca trate o resultado como um certificado.
O que é um falso positivo
Um falso positivo é uma imagem comum ou aceitável classificada como provavelmente sensível. Praias, desporto, fundos da cor da pele, obras de arte, fotografias médicas, corpos recortados e capturas de ecrã podem assemelhar-se aos padrões que um detetor de nudez associa a conteúdo sensível.
Falsos negativos também importam
Um falso negativo é conteúdo privado que o detetor não sugere. Pouca luz, enquadramento incomum, cortes acentuados, roupas, objetos pequenos, ilustrações e trechos de vídeo entre os fotogramas amostrados podem dificultar a deteção. É por isso que uma ferramenta de análise não pode garantir que uma biblioteca esteja livre de conteúdo privado.
Os limiares implicam um compromisso entre tipos de erro
Um limite amplo pode revelar mais correspondências possíveis, mas também mais imagens comuns. Um limite estrito pode criar uma lista mais curta, mas deixar de fora conteúdo ambíguo. Não existe uma configuração universal que reflita a definição de privacidade de todas as pessoas.
Uma política de revisão segura
- Trata a lista de resultados como uma fila, não como uma conclusão.
- Abre a fotografia em resolução total ou parte suficiente da linha cronológica do vídeo para entendê-lo.
- Verificar itens vizinhos do mesmo instante.
- Mantém as seleções de eliminação pequenas o suficiente para serem verificadas.
- Revê Apagado recentemente após qualquer limpeza.
- Usa uma passagem manual para datas ou contextos onde a falta de um item seria importante.
Uma ferramenta de privacidade deve reduzir o trabalho de revisão sem transformar um resultado incerto do modelo numa ação irreversível.
Privacidade e precisão são questões diferentes
O processamento no dispositivo responde onde a classificação ocorre. Isso não torna um detetor perfeito. Verifica para onde o conteúdo multimédia é enviado, se é necessária uma conta, onde os resultados são armazenados e se revês cada ação.
Como Sensitivity usa resultados
O Sensitivity analisa o conteúdo no dispositivo e apresenta possíveis correspondências para revisão. Os resultados guardados são protegidos pela autenticação do dispositivo. Não envia conteúdo para classificação nem apaga nada automaticamente. O utilizador decide o que guardar, ocultar ou apagar.