아동·청소년 또는 아동·청소년으로 명백하게 인식될 수 있는 표현물을 이용해 성착취물을 제작한 사건은 성인 대상 딥페이크와 법정형부터 크게 다를 수 있습니다. 결과물이 아청법상 성착취물에 해당한다면 제작죄는 매우 중한 법정형을 두고 있으므로 “AI로 만든 가상 이미지였다”는 설명만으로 대응해서는 안 됩니다. 우선 결과물의 법적 성격과 자신이 실제 제작에 관여한 범위를 확인해야 합니다.

현행 아동·청소년의 성보호에 관한 법률 제11조 제1항은 아동·청소년성착취물을 제작·수입 또는 수출한 사람을 무기 또는 5년 이상의 징역에 처하도록 규정합니다. 같은 법 제2조는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하는 일정한 성적 내용의 화상·영상 등도 정의에 포함하고 있습니다.

생성형 AI 서비스에서 결과물이 나왔다는 사실만으로 이용자의 행위를 평가할 수는 없습니다. 어떤 원본을 입력했는지, 프롬프트에 연령이나 외형을 어떻게 기재했는지, 생성된 결과를 선택하고 추가 수정했는지 등을 봐야 합니다.

특히 제작 혐의를 다투는 경우 자신의 기기에서 결과물이 발견됐다는 것과 자신이 직접 생성했다는 것을 구별해야 합니다. 타인에게서 전달받은 파일이라면 최초 수신일과 대화기록이 중요합니다.

파일에 미성년자로 보이는 인물이 있다는 이유만으로 아청법 제11조를 바로 적용할 수 있는 것은 아닙니다. 법이 정한 아동·청소년성착취물의 정의에 실제로 들어가는 결과물인지 확인해야 합니다.

반대로 실제 아동의 얼굴을 사용하지 않고 AI가 만든 가상 인물이라는 사정만으로 정의에서 당연히 제외된다고 생각해서도 안 됩니다. 법문은 일정한 표현물까지 포함하고 있기 때문입니다.

수사기관이 물을 가능성이 있는 부분은 다음과 같습니다.

객관자료가 있는데도 단순히 “성인인 줄 알았다”고 답하는 방식은 충분하지 않을 수 있습니다. 그 인식을 뒷받침할 자료가 무엇인지까지 검토해야 합니다.

법률사무소 니케는 아동·청소년 딥페이크 제작 혐의에서 프롬프트, 원본 이미지, 생성 이력과 대화기록을 분석해 성착취물 해당 여부와 실제 제작 관여 범위를 분리합니다.

결과물이 아동·청소년으로 명백하게 인식될 수 있는 표현물인지가 별도 쟁점이 될 수 있습니다. 실제 원본 인물의 나이만으로 결론을 내리지 말고 생성된 결과와 제작 설정을 함께 확인해야 합니다.

아청법 제작죄는 법정형이 무겁기 때문에 혐의 적용 자체가 맞는지 초기부터 세밀하게 검토할 필요가 있습니다. 실제 제작과 단순 소지·수신을 혼동하지 않는 것도 중요합니다.