NSFW 검사로 성적 딥페이크를 판별할 수 있을까요?
실제 사진, 합성 이미지, AI 생성 이미지가 모두 NSFW로 분류될 수 있습니다. 노골적인 내용이 감지됐다는 결과만으로 제작 방식이나 제작자, 당사자의 공유 동의까지 확인할 수는 없습니다.
노골적인 내용과 진위는 같은 판단이 아닙니다
- 내용무엇이 보이나요?
분류기는 지원하는 시각적 범주를 검사합니다.
- 출처어떻게 만들어졌나요?
제작과 편집에 관한 다른 단서가 필요합니다.
- 동의공유해도 되나요?
분류 점수만으로 당사자의 동의를 알 수 없습니다.
콘텐츠 분류, 진위 확인, 공유 동의는 각각 따로 확인해야 합니다.
콘텐츠, 제작 과정, 동의는 서로 다른 질문입니다
사적인 이미지를 확인할 때는 무엇이 보이는지, 어떻게 만들어졌는지, 보관하거나 공유해도 되는지를 각각 생각해야 합니다. 노출 분류기는 이 중 눈에 보이는 내용의 일부를 검사합니다. 이미지가 어디서 왔는지까지 밝혀 주지는 않습니다.
사진으로 촬영한 이미지와 AI로 만든 이미지가 비슷한 시각적 특징을 가질 수 있습니다. 따라서 같은 NSFW 범주로 분류됐다고 해서 합성을 발견했다고 해석하면 안 됩니다. 콘텐츠 분류 결과와 진위 판단을 분리해야 합니다.
딥페이크 전용 도구도 검사 대상이 다릅니다
어떤 도구는 얼굴 변형을, 다른 도구는 생성 흔적이나 특정 워터마크를 살펴볼 수 있습니다. 합성 콘텐츠에 관한 NIST 보고서는 탐지, 출처 기록, 표시, 진위 확인을 서로 다른 기술적 접근으로 설명합니다. 어느 하나가 모든 상황을 해결하는 방식은 아닙니다.
점수를 보기 전에 무엇을 측정하는지와 지원하는 파일 종류를 읽어 보세요. AI 생성 추정치가 낮다는 이유만으로 실제 촬영물이라고 확정할 수는 없습니다. 높은 점수만으로 특정인을 제작자로 지목할 수도 없습니다. 불확실한 결과는 불확실한 상태로 두어야 합니다.
Content Credentials는 출처와 편집 이력을 살펴보는 단서입니다
C2PA의 Content Credentials에는 제작 및 편집에 관한 서명된 정보가 담길 수 있습니다. 어떤 내용이 기록됐는지, 서명이 검증됐는지를 살펴봅니다. 이는 이미지에 보이는 특징을 분석한 분류 점수와는 다른 정보입니다.
Content Authenticity Initiative의 FAQ도 모든 이미지에 진짜 또는 가짜 판정을 내리는 시스템은 아니라고 설명합니다. 기록이 없다고 실제 사진이거나 합성물이라는 결론을 낼 수 없습니다. 스크린샷을 만드는 과정 등에서 원래 기록이 함께 유지되지 않을 수도 있습니다.
사적인 파일을 업로드하기 전에
이미 제공된 출처 설명과 파일 정보를 먼저 확인하세요. 외부 검사 서비스를 쓰려면 처리 위치, 저장되는 내용, 다른 업체로 전달되는지 여부를 살펴봅니다. 진위 검사 기능이 있다는 설명만으로 데이터 처리 방침까지 알 수는 없습니다.
여러 사이트에 같은 파일을 올리면 그만큼 새로운 곳에 이미지를 넘기는 판단이 늘어납니다. 여러 점수를 비교하기 전에, 각 도구가 실제로 필요한 질문에 답할 수 있는지부터 확인하는 편이 유용합니다.
사진 보관함에서 검토할 항목을 찾는다면
Sensitivity는 접근을 허용한 사진 보관함에서 노골적인 내용이 있을 가능성이 있는 항목을 기기에서 찾아 검토하도록 돕습니다. 이미지 진위, 딥페이크 제작자 또는 당사자의 공유 동의를 확인하는 기능은 아닙니다.