생성형 AI 앱이 대부분의 작업을 자동으로 처리했다고 해도 딥페이크 제작 혐의가 당연히 사라지는 것은 아닙니다. 법은 특정 편집 프로그램을 사용했는지가 아니라 사람의 얼굴·신체·음성을 대상으로 한 영상물 등을 성적인 형태로 ‘편집·합성 또는 가공’했는지를 규정하고 있습니다. 그래서 실제 사건에서는 버튼을 몇 번 눌렀는지보다 사용자가 어떤 자료를 입력했고 어떤 결과물을 만들어 보관했는지를 확인하는 방향으로 접근할 필요가 있습니다.

성폭력처벌법 제14조의2는 얼굴·신체·음성을 대상으로 한 촬영물·영상물·음성물을 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성·가공하는 행위를 규율합니다. 현행 조문에는 포토샵, 영상 편집 프로그램, 생성형 AI처럼 특정 기술의 이름이 적혀 있지 않습니다.

정부가 2024년 11월 발표한 관계부처 합동 딥페이크 성범죄 대응 강화방안도 생성 기술을 이용한 성적 허위영상물을 디지털 성범죄 대응 대상으로 다루면서 처벌·수사체계를 강화하는 방향을 밝혔습니다.

따라서 앱의 ‘자동 생성’ 기능을 사용했다는 사실보다 누가 사람의 사진 등을 입력했고, 어떤 결과를 요구했으며, 결과물이 생성된 뒤 이를 선택·저장했는지가 사건별 쟁점이 될 수 있습니다.

법 조문은 ‘사람의 얼굴·신체 또는 음성을 대상으로 한’ 영상물 등을 전제로 하고 있습니다. 따라서 사건에서 특정 실존 인물이 실제로 대상이 됐는지를 먼저 확인해야 합니다.

예를 들어 사진 한 장이 있다는 이유만으로 곧바로 문제 된 딥페이크의 원본이라고 단정할 수는 없습니다. 이미지 파일의 출처, 얼굴 특징의 일치 여부, 생성서비스 업로드 내역, 파일명이나 메타데이터 등을 함께 봐야 합니다. 반대로 원본 사진과 생성 결과가 연속적으로 저장돼 있고 관련 프롬프트나 편집기록까지 남아 있다면 제작 과정에 관한 설명이 보다 구체적으로 검토될 수 있습니다.

여기서 중요한 점은 기술 자체를 어렵게 설명하는 것이 아니라 ‘누가 무엇을 입력해 어떤 결과물을 만들었는지’를 시간순으로 확인하는 것입니다.

경찰조사에서 “AI로 조금 만져본 것은 맞다”는 식으로 두루뭉술하게 설명하면 어느 파일을 만들었다는 의미인지 불분명해질 수 있습니다. 여러 결과물을 생성한 경우라면 각 파일을 구분해야 하고, 제작하지 않은 결과물까지 한꺼번에 자신의 행위로 인정하지 않도록 사실관계를 정리해야 합니다.

법률사무소 니케의 성범죄변호사는 생성형 AI 사용기록, 파일 메타정보와 대화 시퀀스를 나눠 확인한 뒤 수사 초기부터 인정할 사실과 다툴 사실을 구별해 무혐의·불송치 가능성을 검토합니다.

조사 전에 휴대전화나 앱 기록을 지우거나 계정을 초기화하는 것은 대응 방법이 아닙니다. 수사기관이 나중에 복구한 기록과 진술이 충돌하면 오히려 추가 설명이 필요해질 수 있습니다.

자동생성 기능이 있다는 이유만으로 일률적인 결론을 낼 수 없습니다. 사람이 어떤 입력을 했는지, 결과물을 선택하거나 저장했는지, 문제 된 인물을 대상으로 제작하려는 과정이 확인되는지가 사건별로 다릅니다. 기계가 처리한 기술적 단계와 사용자의 행위를 나눠 살펴야 합니다.

실제로 파일이 생성됐는지, 저장됐는지, 서비스 서버에 어떤 기록이 남아 있는지부터 확인해야 합니다. 결과물을 보지 않았다는 진술만으로 판단하기보다는 생성 기록과 기기 자료를 확인한 뒤 설명하는 편이 정확합니다.

AI 딥페이크 사건은 프로그램의 이름보다 제작 과정이 남긴 기록이 더 구체적인 단서가 됩니다.