NSFW検出ツールで性的なディープフェイクを見分けられる？
本物の写真でも、加工画像でも、AI生成画像でも、性的な内容に分類される場合があります。NSFWの判定は見た目の内容に関するもので、作成方法や作者、共有への同意を証明するものではありません。
露骨な内容だけでは、作成経緯は分かりません
- 内容何が見える？
分類器は対応する視覚的カテゴリを調べます。
- 来歴どう作られた？
作成や編集の経緯には別の手がかりが必要です。
- 同意共有してよい？
判定値だけでは本人の同意は確認できません。
内容の分類、真正性の確認、共有への同意は、それぞれ別に確認します。
「何が写っているか」と「どう作られたか」を分ける
私的な画像について確認したいことは、一つとは限りません。見えている内容、作成や加工の経緯、保存や共有への同意は、それぞれ別の問いです。ヌードの分類器が扱うのは、そのうち最初の問いの一部です。
AIで作られた画像とカメラで撮影した写真が、同じNSFWカテゴリに入ることはあり得ます。似た視覚的な特徴に反応した結果であり、ディープフェイクを見抜いた証拠にはなりません。
真正性を調べるツールにも対象があります
専用のツールでも、顔の加工、生成の痕跡、特定の透かしなど、調べる手がかりは異なります。NISTの合成コンテンツに関する報告書は、検出、来歴の記録、ラベル付け、真正性の確認を異なる技術的アプローチとして扱っています。どれか一つであらゆる問題が解決するわけではありません。
結果を見るときは、何を測定した数値かを読んでください。AI生成の推定値が低いだけで、本物の写真とは断定できません。高い値だけで特定の人物を作成者と決めつけることもできません。判断できない結果は、そのまま不確かな情報として扱います。
Content Credentialsで分かること
C2PAのContent Credentialsには、ファイルの作成や編集に関する署名付きの情報を記録できます。記録されている内容と、その署名の検証状態を確認します。視覚的な特徴の分類とは、得られる情報の種類が違います。
Content Authenticity InitiativeのFAQも、こうした情報は来歴を示す手がかりであり、すべての画像に「本物・偽物」の判定を下す仕組みではないと説明しています。情報がないことだけでは、どちらも証明できません。スクリーンショットなどで元の履歴が失われる場合もあります。
アップロードする前に、必要な確認を決める
まず知りたいことを整理し、配布元やファイルに既にある情報を確認します。サービスに私的な画像を渡す前に、処理する場所、保存されるもの、他社への送信の有無を調べてください。
複数の無関係な検出サイトに送ると、その回数だけ画像を渡す判断が増えます。真正性の検査機能があることと、保存方針が分かることは別です。
保存済みの画像を探す場合
Sensitivityは、許可された写真ライブラリから、露骨な内容を含む可能性のある画像を端末上で見つけ、確認する作業を支援します。画像の真正性、ディープフェイクの作成者、共有への同意を確定する機能ではありません。