성평등부 AI 자동탐지 시스템 가동 25일, 성착취물 수집 2.7배·유인정보 80배 증가 — 건당 1분 삭제의 실체

배경 — AI 성착취물이 260배 급증하는 현실

이번 시스템 도입의 배경에는 AI를 악용한 디지털 성범죄의 폭발적 증가가 있습니다. 영국 인터넷감시재단(IWF)이 2026년 3월 24일 발표한 보고서에 따르면, 2025년 한 해 동안 확인된 AI 생성 아동 성착취 이미지·영상은 8,029건이었습니다. 특히 AI 생성 아동 성착취 동영상은 3,443건으로, 2024년 13건 대비 약 260배 급증했습니다.

더 충격적인 것은 이 동영상의 65%가 강간·성고문 등 가장 심각한 유형인 '카테고리 A'에 해당했다는 점입니다. 피해자의 97%는 여아였습니다. AI 기술이 발전하면서 이미지뿐 아니라 움직임과 음성까지 결합된 영상을 손쉽게 만들 수 있게 되었고, 성착취물을 경쟁적으로 제작하는 현상까지 나타나고 있습니다.

한국도 예외가 아닙니다. 경찰청의 사이버성폭력 집중단속 1년(2024년 11월~2025년 10월) 결과, 3,557명이 검거되고 221명이 구속되었으며, 딥페이크 관련 범죄가 1,553건으로 전체 유형 중 최다를 기록했습니다. 피의자의 62%가 10대라는 점도 심각한 문제입니다.

IWF 2026 보고서 핵심 수치: AI 생성 아동 성착취 이미지·영상 8,029건(2025년), AI 생성 아동 성착취 동영상 3,443건(2024년 13건 → 260배 증가), 동영상 65%가 카테고리 A(가장 심각한 유형), 전체 AI 성착취물 피해자의 97%가 여아.

3대 핵심 시스템 — 무엇이 달라졌나

1. 피해영상물 삭제요청 자동화 — 기존에는 피해 영상물이 발견되면 상담원이 개별 사이트에 수동으로 삭제를 요청해야 했습니다. 이번 시스템은 약 2만 개 사이트에 대한 삭제 요청부터 처리 이력 관리까지 전 과정을 자동화했습니다. 건당 처리 시간은 1분 이내로 단축되었습니다.

특히 미국 국립실종·착취아동센터(NCMEC) 및 클라우드플레어(Cloudflare)와 연동하여, 우회 인터넷 주소에 대한 일괄 자동 삭제 요청도 가능해졌습니다. 구글 삭제 양식(takedown form) 제출과 전기통신사업법 기반 신고도 자동으로 처리됩니다.

2. AI 기반 아동·청소년 온라인 성착취 선제 대응 시스템 — 국내 최초로 랜덤채팅앱 데이터 자동 수집 기술을 탑재한 이 시스템은, SNS와 랜덤채팅앱 등에서 아동·청소년 성착취물 및 유인정보를 24시간 자동으로 수집·분석합니다.

AI 모델은 다단계 분석을 수행합니다.

• 1단계 — 키워드 탐지: 성착취 관련 은어·키워드를 AI가 자동 식별
• 2단계 — 이미지 텍스트 추출: 이미지 내 삽입된 텍스트를 OCR로 분석
• 3단계 — 신체 노출도 판단: AI가 이미지의 성적 노출 수준을 자동 판별
• 4단계 — 아동·청소년 여부 추정: 피사체의 연령대를 AI가 추정
• 5단계 — 유사 이미지 대조: 기존 DB의 성착취물과 유사도 비교

수집된 성착취물은 자동 신고되고, 성착취 유인정보는 전문 상담원이 개입하는 '온라인 아웃리치'를 통해 맞춤형 통합지원으로 연결됩니다. 또한, NCMEC의 사례를 참고하여 종사자가 성착취물에 직접 노출되지 않도록 콘텐츠 필터링 기능도 적용했습니다.

3. AI 기반 딥페이크 탐지 — 세 번째 핵심 기술은 AI 딥페이크 탐지 솔루션입니다. 육안으로는 판별이 어려운 합성물을 AI가 정확히 식별하여, 피해자가 인지하지 못한 합성물까지 찾아내고 추가 유포를 사전에 차단합니다.

온라인 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면, 딥페이크 탐지 솔루션을 적용하여 진위 여부를 판별합니다. 이를 통해 피해자가 아직 알지 못하는 합성물도 선제적으로 삭제 지원할 수 있게 되었습니다.

시범운영 25일 — 숫자로 보는 성과

시범운영 결과(25일간): 종사자 1인당 아동·청소년 성착취물 일평균 수집 2.7배 이상 증가, 종사자 1인당 성착취 유인정보 일평균 수집 80배 이상 증가, 삭제 요청 대상 사이트 약 2만 개, 건당 처리 시간 1분 이내, 운영 방식은 24시간 자동 탐지-분석-신고.

특히 성착취 유인정보 수집이 80배 증가했다는 것은, 기존에 인력으로는 도저히 감당할 수 없었던 규모의 유인 행위가 온라인에서 벌어지고 있었다는 의미입니다. AI 시스템이 이를 실시간으로 포착할 수 있게 되면서, 아동·청소년이 성착취 범죄에 노출되기 전에 선제적 개입이 가능해졌습니다.

법적 처벌 현황 — 소지·시청만으로도 징역형

한국은 2024년 9월 성폭력범죄처벌특례법 개정을 통해 딥페이크 성착취물에 대한 처벌을 대폭 강화했습니다. 전 세계적으로 딥페이크 성착취물의 단순 제작까지 처벌하는 국가는 한국이 유일합니다.

허위영상물 편집·합성·가공(성폭력처벌법 제14조의2 ①): 7년 이하 징역 / 5천만 원 이하 벌금. 유포·재유포(제14조의2 ②): 7년 이하 징역 / 5천만 원 이하 벌금. 영리 목적 유포(제14조의2 ③): 3년 이상 유기징역. 소지·구입·저장·시청(제14조의2 ⑤): 3년 이하 징역 / 3천만 원 이하 벌금.

그러나 한국여성정책연구원의 판결문 분석(2020~2024년 1심 152건)에 따르면, 전체 가해자의 47.17%가 집행유예를 선고받았습니다. 피해자의 98.7%가 여성이었고, 피해 대상은 지인(40.25%)과 연예인(25.78%)이 가장 많았습니다. 법이 강화되었지만, 실제 양형이 범죄의 심각성을 충분히 반영하고 있는지에 대한 논란은 계속되고 있습니다.

남은 과제 — 기술만으로는 부족하다

AI 자동탐지 시스템의 도입은 분명한 진전이지만, 몇 가지 과제가 남아 있습니다.

• 탐지 정확도 한계 — AI 생성 기술이 발전하면서 탐지 모델도 지속적으로 업데이트해야 합니다. 현재 한국 정부의 딥페이크 탐지 모델 정확도는 92%로, 8%의 사각지대가 존재합니다.
• 해외 서버 한계 — 텔레그램 등 해외 플랫폼에서 유통되는 성착취물에 대한 삭제 요청의 실효성이 여전히 제한적입니다.
• 양형 강화 필요 — 집행유예율 47%는 피해자에게 2차 가해가 될 수 있습니다. 2026년 10월까지 예정된 집중단속 기간 동안 양형 기준의 상향 논의가 필요합니다.
• 피해자 지원 체계 — 기술적 삭제 이후에도 피해자의 심리적 회복과 법률 지원이 병행되어야 합니다.

결론

성평등가족부의 AI 자동탐지 시스템 도입은 한국이 디지털 성범죄 대응에서 '사후 대응'에서 '선제 대응'으로 전환하고 있음을 보여줍니다. 25일 시범운영만으로 성착취물 수집 2.7배, 유인정보 80배라는 성과는, 기존 인력 중심 시스템이 얼마나 많은 범죄를 놓치고 있었는지를 역설적으로 증명합니다.

그러나 AI 기술은 도구일 뿐입니다. IWF 보고서가 보여주듯 AI 생성 성착취물은 260배 속도로 증가하고 있으며, 탐지 기술과 범죄 기술 간의 군비경쟁은 이제 시작입니다. 실효성 있는 양형 기준, 국제 공조 강화, 피해자 중심 지원 체계가 함께 작동해야만 이 시스템이 진정한 성과를 낼 수 있을 것입니다.

만약 당신이나 주변 사람이 디지털 성범죄 피해를 겪고 있다면, 혼자 감당하지 마세요. AI가 인터넷 전체에서 유포 현황을 자동으로 탐지하고 삭제를 지원합니다.