センシティブな写真を探すスキャナーの誤検出
検出器は視覚パターンを認識します。関係性、医学的背景、芸術、ユーモア、あるいはなぜその画像があなたにとって重要なのかは理解しません。
フラグ付きは最終的な判決ではありません
- フラグが立てられました機密性があり、フラグが立てられています
提案をコンテキスト内で検査してください。
- フラグが立てられました無害ですがフラグが立てられています
誤検知。ファイルを保存しておくこともできます。
- フラグが設定されていません敏感だが見逃した
見逃した項目が結果の外に残る可能性があります。
- フラグが設定されていません無害でフラグは立てられていません
結果は依然としてソースとモデルに依存します。
提案を使用してレビューに優先順位を付けます。結果を証明書として扱わないでください。
偽陽性とは何か
誤検出とは、通常または許容範囲内の画像が、センシティブなコンテンツである可能性が高いと分類されることです。ビーチ、スポーツ、肌色の背景、アート作品、医療写真、切り取られた身体、スクリーンショットなどは、ヌード検出器がセンシティブなコンテンツと関連付けるパターンに似ている可能性があります。
偽陰性も重要
偽陰性とは、検出器が検出対象としないプライベートコンテンツのことです。低照度、不自然なフレーミング、過度なトリミング、衣服、小さな被写体、イラスト、サンプリングされたフレーム間のビデオ映像などは、検出を困難にする要因となります。そのため、スキャナはライブラリがクリーンであることを保証することはできません。
しきい値は、あるエラーを別のエラーと交換する
閾値を広く設定すると、一致する可能性のある画像が増える一方で、ありふれた画像も多く検出される可能性があります。一方、閾値を厳しく設定すると、リストは短くなりますが、曖昧なコンテンツが見落とされてしまいます。プライバシーに関するあらゆる人の定義を反映する普遍的な設定は存在しません。
安全なレビューポリシー
- 結果リストを結論ではなくキューとして扱う。
- 高解像度の写真を開くか、ビデオのタイムラインの理解に必要な部分を開きます。
- 同時刻の近隣のアイテムをチェックします。
- 削除選択範囲は検証できる程度に小さく保つ。
- 最近削除されたレビュー（クリーンアップ後）。
- 日付や、項目が欠落すると問題になるような状況では、手動パスを使用してください。
プライバシーツールは、不確実なモデル出力を不可逆的なアクションに変えることなく、レビュー作業を削減するべきである。
プライバシーと正確性は別の問題である
デバイス上での処理は、分類が行われる場所を示します。ただし、検出器を完璧にするものではありません。メディアの送信先、アカウントが必要かどうか、結果の保存場所、各アクションを確認するかどうかを確認してください。
Sensitivity は結果をどのように利用するか
Sensitivityは、デバイス上のメディアを分析し、確認のために一致する可能性のあるものを表示します。保存された結果は、デバイス認証によって保護されます。分類のためにメディアをアップロードしたり、自動的に何かを削除したりすることはありません。ユーザーは、各アイテムを保持するか、非表示にするか、削除するかを決定します。