경찰, 딥페이크 범죄 AI 3중 대응으로 강력 수사1년간 100명 검거

경찰청 국가수사본부가 허위영상물(딥페이크) 범죄에 인공지능(AI) 3중 대응체계를 구축하고 고도화하여 2026년 1년간 100명(구속 17명)을 검거했다고 13일 밝혔다. 경찰은 진화하는 AI 범죄에 맞서 딥페이크 탐지 소프트웨어, AI 포렌식 기법, AI 범행도구 분석 등 3가지 대응책을 활용해 강력히 수사하고 있다.

실제로 지난 3월 경찰청 사이버범죄신고시스템에는 해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다는 피해 신고가 잇따라 접수됐다. 경찰청은 즉시 4개 청에 접수된 사건 관련 증거를 확보하고 유포된 사이트의 범행 계정 및 게시물을 삭제 조치했다. 경찰청 ''''딥페이크 탐지 소프트웨어''''로 영상물을 분석한 결과 동일한 특징을 확인했으며, 집중 수사를 통해 피의자(20대, 남)를 신속하게 검거하고 구속 송치했다.

또 다른 사례에서는 누리소통망(SNS) 계정을 통해 성착취 허위영상물을 제작하던 피의자가 검거되는 과정에서, 그가 만든 영상물과 다른 패턴의 허위영상물이 발견됐다. 경찰은 ''''딥페이크 탐지 소프트웨어''''로 1차 판별 후 ''''인공지능(AI) 디지털 포렌식'''' 기법을 활용해 영상 제작에 쓰인 생성형 AI 프로그램과 편집 전 원본 사진까지 추가 확보했다. 이를 토대로 의뢰자의 제작 혐의까지 수사 중이다.

위 사례에서 활용된 ''''딥페이크 탐지 소프트웨어''''는 다수의 해외 법집행 기관에서도 사용되는 기술이다. 얼굴 생성 및 교체 여부, 생물학적 특징 분석(눈 깜빡임, 혈류 변화), 파일 메타데이터 구조 등을 종합적으로 분석하여 합성 여부를 가려낸다. 특히 국내 허위영상물 탐지에 특화되도록 훈련된 AI 모델을 탑재하는 등 성능을 지속해서 고도화하고 있다. 개발 후 현재까지 총 1,636건에 활용됐으며, 올해는 선거범죄 등 기타 수사 분야에서도 72건 활용되는 등 적용 영역을 넓히고 있다.

''''딥페이크 탐지 소프트웨어''''로도 조작 여부가 모호하여 추가 분석이 필요한 경우, 과학수사 영상분석관에게 의뢰하여 ''''영상 분석 프로그램''''을 통해 위·변조를 검증하는 절차를 구축했다. 디지털 포렌식 분야에서는 딥페이크에 악용되는 상용 AI 프로그램의 특이점을 분석한 ''''인공지능(AI) 포렌식 기법''''을 개발 완료하여 수사에 활용 중이다. 시·도경찰청 소속 전문분석관이 피의자가 어떤 프로그램으로 영상을 조작했는지, 어느 부분을 변경했는지 등 범행 전 과정을 기술적으로 분석하고 재구성하여 여죄 확인 및 범행 고의성 입증의 핵심 증거로 사용한다.

경찰청은 이러한 딥페이크 탐지기술 활용을 디지털 성범죄 대응에만 국한하지 않고, 허위정보 유포 등 AI 범죄 전반으로 기술 적용 범위를 넓혀갈 계획이다. 경찰청 국가수사본부 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다"며 "관련 시스템 고도화와 집중 단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 강조했다.