딥페이크 범죄 419명 검거…경찰 ‘AI 3중 대응’은 어떻게 추적하나

인공지능으로 만든 가짜 영상은 어떤 흔적을 남길까. 경찰이 딥페이크 여부를 자동으로 판별하는 데서 나아가 영상의 제작 도구와 편집 전 원본, 유포 과정까지 추적하는 수사체계를 운영하고 있다.

경찰청 국가수사본부는 올해 1월부터 7월까지 허위영상물 범죄 피의자 419명을 검거하고 17명을 구속했다고 8월 13일 밝혔다. 검거는 수사기관이 피의자를 특정해 입건한 단계이며 법원의 유죄 확정과는 다르다.

경찰이 설명한 대응체계는 세 단계다. 첫 단계에서는 자체 개발한 딥페이크 탐지 소프트웨어가 얼굴 생성·교체 여부, 눈 깜빡임과 혈류 변화 같은 생물학적 특징, 파일 메타데이터 구조를 함께 분석해 합성 가능성을 가린다.

자동 분석에서 조작 여부가 불분명하거나 추가 확인이 필요하면 과학수사 영상분석관이 영상분석 프로그램으로 위·변조 흔적을 다시 검증한다. 마지막에는 AI 디지털 포렌식 기법으로 어떤 생성형 AI 프로그램이 사용됐는지, 어느 부분이 바뀌었는지 분석해 제작부터 유포까지의 과정을 재구성한다.

이 구조는 AI 탐지기가 수사를 돕는 도구이지 최종 판정자가 아니라는 점을 보여준다. 경찰도 과거 탐지 소프트웨어의 결과는 정밀 수사의 기초자료이며 탐지율이 완벽하지 않아 교차검증이 필요하다고 안내했다.

탐지 소프트웨어는 개발 이후 1,636건의 수사에 활용됐다. 올해에는 선거범죄 등 디지털 성범죄 이외 분야에도 72건 사용됐다. 경찰은 허위정보 유포와 전기통신금융사기처럼 AI를 악용하는 다른 범죄로 적용 범위를 넓힐 계획이다.

경찰은 지난 3월 해외 성인사이트에 여러 피해자의 사진을 합성한 성적 허위영상물이 올라왔다는 신고를 접수한 사례를 공개했다. 여러 지역에 접수된 영상에서 동일한 특징을 찾아 같은 제작자가 관여했을 가능성을 좁혔고, 포렌식으로 제작에 사용된 AI 프로그램과 편집 전 원본 사진을 추가 확보해 20대 피의자를 검거하고 구속 송치했다.

다만 올해 검거된 419명 모두가 동일한 AI 도구 하나로 적발됐다는 의미는 아니다. 공식 발표는 3단계 대응체계의 운영 실적과 전체 딥페이크 범죄 검거 현황을 함께 제시한다. 개별 사건에서 어떤 증거가 결정적이었는지는 사건마다 다를 수 있다.

피해자가 합성 영상을 발견했다면 혼자서 재유포 경로를 추적하거나 가해자와 협상하기보다 게시물 주소와 계정, 대화 기록을 보존하고 공식 지원기관에 도움을 요청하는 것이 안전하다.

중앙디지털성범죄피해자지원센터는 딥페이크 피해 상담, 삭제지원, 유포 모니터링과 수사·법률·의료 연계를 제공한다. 삭제지원을 빠르게 받으려면 게시물의 구체적인 URL, 영상이나 사진 형태의 피해물, 게시글 제목처럼 검색 가능한 키워드를 확보해 두는 것이 좋다고 안내한다.

센터 상담전화는 02-735-8994이며 여성긴급전화 1366은 24시간 운영된다. 미성년 피해자는 법정대리인의 동의 없이도 직접 삭제지원을 신청할 수 있다. 수사를 원하면 경찰 사이버범죄 신고시스템이나 가까운 경찰서를 이용할 수 있다.

딥페이크 탐지 기술이 고도화돼도 모든 합성물이 자동으로 걸러지는 것은 아니다. 피해 신고와 증거 보존, 사람의 재검증, 플랫폼의 신속한 삭제, 수사기관의 포렌식이 함께 작동해야 실제 피해를 줄일 수 있다.