敏感照片扫描工具的误报
检测器识别视觉模式。它不理解图像之间的关系、医学背景、艺术、幽默,也不理解图像对你的意义。
标记并非最终裁决
- 已标记敏感且已标记
检查上下文中的建议。
- 已标记无害但已标记
误报。您可以保留该文件。
- 未标记敏感但错过了
错过的项目可能会保留在结果之外。
- 未标记无害且未标记
结果仍然取决于来源和模型。
使用建议来确定审核的优先顺序。切勿将结果视为证书。
什么是假阳性
误报是指将普通或可接受的图像错误地分类为可能敏感的图像。海滩、运动、肤色背景、艺术作品、医学照片、裁剪过的身体部位以及屏幕截图等,都可能与裸露检测器识别出的敏感内容模式相似。
假阴性也很重要
漏检是指检测器未能检测到的私人内容。光线不足、构图不寻常、过度裁剪、衣物遮挡、物体过小、插图以及采样帧之间的视频片段都会增加检测难度。因此,扫描器无法保证图库完全干净。
阈值用一个错误换取另一个错误
宽泛的阈值可以筛选出更多匹配项,但也会遗漏更多普通图片。严格的阈值可以缩小列表范围,但也会遗漏一些含义模糊的内容。并不存在一个能够反映每个人对“隐私”定义的通用设置。
安全审查政策
- 将结果列表视为队列,而不是结论。
- 打开全分辨率照片或足够多的视频时间线以了解其内容。
- 检查同一时刻的相邻项目。
- 保持删除选择足够小以便验证。
- 清理后查看最近删除的内容。
- 对于缺少项目会造成严重后果的日期或情况,使用手动通行证。
切勿自动删除
隐私工具应减少审查工作,而不会将不确定的模型输出变成不可逆转的行为。
隐私和准确性是不同的问题
设备端处理是指在分类发生的地方进行处理。但这并不能使检测器完美无缺。请检查媒体的去向、是否需要帐户、结果的存储位置,以及是否对每个操作进行审核。
Sensitivity 如何使用结果
Sensitivity 分析设备上的媒体文件,并显示可能匹配的文件供审核。保存的结果受设备身份验证保护。该程序不会上传媒体文件进行分类,也不会自动删除任何内容。用户可自行决定保留、隐藏或删除每个项目。