딥페이크 영상물을 직접 편집하거나 합성했다면 다른 사람에게 보내지 않았더라도 제작 행위 자체가 문제 될 수 있습니다. 2024년 10월 16일 개정으로 편집·합성·가공죄에서 반포 목적 요건이 삭제되었기 때문입니다. 개인적으로 보려고 만들었다는 설명만으로 구성요건에서 벗어나는 것은 아닙니다. 어떤 원본을 사용했고 어느 정도의 작업을 했는지부터 구체적으로 확인해야 합니다.

성폭력처벌법 제14조의2 제1항은 사람의 얼굴·신체 또는 음성을 대상으로 한 영상물 등을 대상자의 의사에 반하여 성적 욕망이나 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 경우 7년 이하의 징역 또는 5천만원 이하의 벌금에 처하도록 규정합니다. 현행 조문에는 유포를 목적으로 해야 한다는 요건이 없습니다.

따라서 사건에서는 완성 파일이 외부로 전송되었는지만 확인해서는 부족합니다. 얼굴 이미지 수집, 합성 프로그램 설치, 프롬프트 입력, 중간 결과물 생성, 후보정, 파일 내보내기 과정도 제작 행위를 보여주는 자료가 될 수 있습니다.

직접 제작 여부를 다투는 사건에서는 다음 자료를 순서대로 확인합니다.

단순히 완성본 한 개가 발견되었다고 해서 해당 기기 소유자가 직접 제작했다고 단정할 수는 없습니다. 다른 사람이 보낸 파일을 내려받은 것인지, 프로그램에서 직접 생성한 것인지에 따라 적용되는 행위가 달라집니다. 파일의 메타데이터와 작업 프로그램 흔적을 연결해 봐야 합니다.

자동 생성 서비스가 대부분의 작업을 수행했더라도 사용자가 대상자의 사진을 선택하고 성적인 형태의 결과물을 생성하도록 지시했다면 편집·합성·가공 행위가 문제 될 수 있습니다. 반면 일반적인 이미지 변환을 요청했는데 예상하지 못한 결과가 출력되었다면 입력 내용, 재생성 여부, 저장 행동을 통해 고의를 살펴야 합니다.

조사에서는 “AI가 알아서 만들었다”는 표현만 반복하기보다 사용자가 직접 한 행동을 단계별로 말해야 합니다. 사진을 넣은 이유, 입력 문구, 결과 확인 횟수, 저장 여부, 이후 재작업 여부를 나누면 객관기록과 진술을 비교하기 쉽습니다.

직접 합성한 뒤 다른 사람에게 보냈다면 편집·합성 행위와 반포 행위가 각각 검토될 수 있습니다. 같은 영상 한 건이라도 제작과 전달은 서로 다른 행동이므로, 파일 생성 시점과 최초 전송 시점을 분리해야 합니다. 반복 제작, 다수 대상자, 공개 채널 게시가 확인되면 범행의 규모와 계획성에 관한 평가도 달라질 수 있습니다.

법률사무소 니케는 생성 프로그램의 작업 흔적과 완성 파일의 메타데이터를 대조해 직접 제작한 부분과 단순 수신한 부분을 구분합니다.

중간 결과물이 어느 정도 생성되었는지, 성적 욕망이나 수치심을 유발할 수 있는 형태에 이르렀는지, 사용자가 추가 작업을 계속했는지를 확인해야 합니다. 단순한 준비 단계인지 실제 편집·합성 결과물이 만들어졌는지는 파일 내용과 작업 로그에 따라 달라질 수 있으므로 임의로 결론 내리지 않아야 합니다.

직접 제작 혐의는 완성본의 존재만이 아니라 사진 수집부터 저장까지 이어지는 작업 과정으로 판단합니다. 유포가 없었다는 한 문장에 의존하지 말고 제작 경로와 고의, 외부 전송 여부를 각각 정리하는 것이 필요합니다.