플랫폼의 딥페이크 필터링 의무, 기술적·관리적 조치는 무엇인가요?
일정한 온라인 사업자는 불법촬영물과 성적 딥페이크 등의 유통을 줄이기 위한 기술적·관리적 조치를 해야 합니다. 다만 플랫폼의 필터링 제도와 개별 이용자의 형사책임은 별개의 문제이므로, 파일이 필터에 걸렸다는 사실만으로 곧바로 범죄가 확정됐다고 해석해서는 안 됩니다.

- 1.업로드하자마자 차단됐다면 성범죄가 확정된 건가요?
- 2.필터에 걸리지 않고 올라간 딥페이크라면 적법한 파일인가요?
- 3.플랫폼에서 계정을 정지한 자료도 경찰이 볼 수 있나요?
- 4.업로드 기록이 제 계정에 있지만 다른 사람이 올렸다면 어떻게 해야 하나요?
- 5.이 사안에서 먼저 확인해야 할 기준
- 6.본 법률사무소의 사건별 대응 방식
현행 전기통신사업법 제22조의5 제2항은 대통령령이 정하는 조치의무사업자에게 불법촬영물등의 유통을 방지하기 위한 기술적·관리적 조치를 하도록 규정하고 있습니다. 허위영상물도 같은 조 제1항에서 불법촬영물등의 범위에 포함됩니다.

플랫폼의 기술적 차단과 형사사법기관의 범죄 판단은 구별됩니다. 자동 식별 시스템에서 차단됐다는 사실은 수사의 단서가 될 수 있지만, 형사책임은 실제 파일과 행위, 인식 등을 확인한 뒤 판단됩니다.
수사를 받게 됐다면 차단 안내 화면만 보고 혐의를 전부 인정할 필요는 없습니다. 자신이 업로드한 파일의 원본과 생성 경위를 확인해야 합니다.
그렇다고 볼 수 없습니다. 기술적 조치가 모든 위법 콘텐츠의 법적 판단을 대신하는 것은 아닙니다. 필터링되지 않았다는 사정과 성폭력처벌법 적용 여부는 따로 검토해야 합니다.

구체적으로 어떤 자료가 보관·제공되는지는 플랫폼과 수사절차에 따라 달라질 수 있습니다. 계정이 정지됐다는 사실만으로 관련 기록이 모두 없어졌다고 전제해서는 안 됩니다.
누가 실제로 계정과 기기를 사용했는지 확인할 자료가 필요합니다. 공용 PC 사용내역, 계정 접근 대화, 로그인 시각 등이 있다면 그대로 보존해야 합니다.

플랫폼 사건에서는 계정 소유, 로그인, 파일 선택, 업로드를 각각 구분합니다. 한 사람이 계정을 만들고 다른 사람이 파일을 올린 사건이라면 각 단계의 실제 행위자가 다를 수 있습니다.
이런 상황에서 무작정 계정을 탈퇴하거나 관련 기록을 삭제하면 오히려 자신이 하지 않은 부분을 설명할 자료를 잃을 수 있습니다.

법률사무소 니케의 성범죄변호사는 플랫폼 차단이 포함된 딥페이크 사건에서 필터링 결과와 실제 업로드 기록을 분리해 피의자의 행동이 어느 단계까지 확인되는지 살펴봅니다.
경찰조사 단계에서는 플랫폼의 자동 조치가 아니라 형사법상 구성요건을 기준으로 혐의 성립 여부를 검토합니다. 계정만 연결돼 있고 실제 업로드를 했다는 자료가 부족하다면 해당 부분의 불송치 가능성을 확인합니다.
플랫폼의 콘텐츠 차단과 형사처벌은 같은 절차가 아닙니다. 기술 시스템의 결과보다 실제 이용기록과 파일 내용이 수사의 핵심 자료가 됩니다.
