AI 생성 표시를 붙인 딥페이크라도 허위영상물죄가 성립할 수 있나요?
딥페이크 결과물에 “AI 생성” 문구나 워터마크가 붙어 있어도 처벌 여부가 자동으로 달라지는 것은 아닙니다. 성폭력처벌법상 핵심은 진짜 영상으로 속였는지만이 아니라 사람의 얼굴·신체·음성을 대상자의 의사에 반해 성적인 형태로 편집했는지입니다. AI 표시가 피해 확산이나 인식에 어떤 영향을 주었는지는 사실관계와 양형에서 고려될 수 있지만, 구성요건을 일률적으로 없애는 표시는 아닙니다. 원본과 게시본을 비교해 표시가 언제 어떻게 삽입됐는지 확인해야 합니다.
- 1.허위임을 알린 표시와 성폭력처벌법의 판단 구조
- 2.AI 표시의 실효성을 확인하는 자료
- 3.이 사안에서 먼저 확인해야 할 기준
- 4.법률사무소 니케의 사건별 대응 방식
- 5.관련 Q&A
- 6.워터마크가 크게 보이면 형량이 낮아지나요?
- 7.플랫폼이 자동으로 AI 라벨을 붙였다면 제가 표시한 것으로 볼 수 있나요?
성폭력처벌법 제14조의2 제1항은 대상자의 의사에 반한 성적 편집·합성·가공을 7년 이하의 징역 또는 5천만원 이하의 벌금으로 처벌합니다. 조문에는 결과물을 실제 촬영물로 오인시켜야 한다거나 AI 표시가 없을 것을 구성요건으로 두고 있지 않습니다. 따라서 “가짜라고 밝혔으니 범죄가 아니다”라는 설명만으로는 충분하지 않고, 대상자 자료의 사용과 성적 변형의 내용이 먼저 검토됩니다.
AI 표시는 결과물이 허구임을 알리는 기능을 할 수 있으나, 피해자의 얼굴이나 음성이 특정돼 성적 수치심을 유발할 수 있다면 피해가 발생할 수 있습니다. 또한 워터마크가 원본에는 없고 수사 이후 편집본에만 추가됐거나, 썸네일·재게시 과정에서 잘려 보이지 않았다면 실제 유통 상태를 다시 확인해야 합니다. 반포·제공이 있었다면 제2항의 책임은 게시된 버전과 수신자가 접근한 화면을 기준으로 구체화합니다.
| 확인 구간 | 남겨야 할 자료 | 법적으로 구분할 점 |
| 원본 파일 | 최초 출력본, 메타데이터, 해시값 | 표시가 생성 시 포함됐는지 |
| 표시 위치 | 화면 크기, 노출 시간, 음성 고지 | 실제 인지 가능성 |
| 게시본 | 플랫폼 인코딩본, 썸네일, 미리보기 | 잘림·삭제 여부 |
| 게시 문구 | AI 안내, 실제 인물 언급, 해시태그 | 허구 고지와 대상자 특정 |
| 재유포본 | 캡처·편집·재인코딩 이력 | 표시가 유지됐는지 |
| 대상자 식별 | 얼굴·목소리·이름·계정 태그 | 표시와 별개인 특정 가능성 |
AI 생성 표시·워터마크가 붙은 성적 딥페이크를 판단할 때에는 합성행위 자체, AI 표시의 위치·가독성, 대상자 식별과 유포 방식을 하나의 설명으로 뭉치지 말고 각각의 행위 시점과 주체를 나눠야 합니다. 원본 결과물, 워터마크 삽입 시각, 게시 문구, 썸네일과 플랫폼 표시 내역을 같은 시간축에 놓고 보면, 단순히 파일이 존재한다는 사실과 피의자가 그 행위를 했다는 사실 사이의 연결이 드러납니다. 특히 AI 생성 표시·워터마크가 붙은 성적 딥페이크에서는 파일명·썸네일·짧은 캡처보다 원본의 생성 경로, 계정 권한, 실제 조작 로그가 더 직접적인 의미를 가질 수 있습니다.
첫 조사 전에는 AI 생성 표시·워터마크가 붙은 성적 딥페이크에 관한 자료를 확인된 사실, 기술 검증이 필요한 부분, 상대방 진술에만 의존하는 부분으로 나눠 메모해야 합니다. AI라고 밝혔다는 이유만으로 대상자의 의사나 성적 수치심 문제가 사라진다고 전제해서는 안 되며, 표시가 나중에 추가됐는지도 확인해야 합니다. AI 생성 표시·워터마크가 붙은 성적 딥페이크와 관련된 기기 초기화, 계정 탈퇴, 파일 이동은 원래의 로그 구조를 바꿀 수 있으므로 중단해야 합니다. 피해 회복이나 의사 전달이 필요하더라도 AI 생성 표시·워터마크가 붙은 성적 딥페이크에 관해 피해자에게 직접 해명하거나 자료 삭제를 요구하지 말고 공식 절차를 이용해야 합니다.
법률사무소 니케는 AI 생성 표시의 생성 시점과 가독성, 대상자 식별 가능성을 원본·게시본별로 비교해 허위영상물 혐의를 검토합니다.
본 법률사무소는 AI 생성 표시·워터마크가 붙은 성적 딥페이크에서 경찰조사 단계의 무혐의·불송치 가능성을 우선 검토하기 위해 AI 표시가 생성 당시부터 있었는지와 실제 열람자가 볼 수 있었는지, 표시와 무관하게 대상자를 식별할 수 있었는지를 분석하는 작업을 진행합니다. 범죄일람표와 압수목록에서는 AI 생성 표시·워터마크가 붙은 성적 딥페이크 관련 파일 수가 독립 행위 수와 일치하는지, 자동 생성물·복제물·원본이 중복 집계됐는지 확인합니다. 객관자료가 AI 생성 표시·워터마크가 붙은 성적 딥페이크 혐의와 맞지 않는 지점은 기술 근거로 설명하고, 인정 가능성이 있는 부분은 대상·기간·횟수를 실제 범위로 특정합니다.
플랫폼이 자동으로 붙인 라벨과 제작자가 임의로 넣은 자막을 구분하고, 원본 파일과 게시된 버전의 차이를 대조합니다. 표시가 존재해도 대상자의 얼굴·음성이 그대로 인식되는지와 게시글이 실제 인물로 받아들이도록 유도했는지를 확인합니다. AI 생성 표시·워터마크가 붙은 성적 딥페이크의 사실관계를 다투는 자료와 합의·피해 회복·재범 방지 등 양형자료는 서로 다른 묶음으로 준비합니다. AI 생성 표시·워터마크가 붙은 성적 딥페이크에서는 직접 접촉이나 증거 변경 없이 첫 진술과 디지털 자료의 흐름을 일치시키는 일이 초기 대응의 핵심입니다.
표시의 명확성은 결과물의 오인 가능성이나 피해 확산 정도를 설명하는 자료가 될 수 있지만 형량을 자동으로 정하는 기준은 아닙니다. 제작·유포 범위, 반복성, 대상자 수와 피해 회복 등 다른 사정과 함께 평가됩니다.
플랫폼 자동 라벨과 제작자가 직접 넣은 표시를 구분해야 합니다. 업로드 시점의 설정, 플랫폼 공지와 게시 화면을 확인해 누가 언제 표시를 붙였는지 정확히 설명해야 합니다.
AI 생성 표시는 사실관계의 한 요소일 뿐 면책 문구가 아닙니다. 원본·게시본·재유포본에서 표시와 대상자 식별이 어떻게 나타났는지 각각 검토해야 합니다.
