딥페이크 탐지 기술 총력전 — 한국 92% 정확도 AI 투입, 유튜브 정치인 보호, DEFIANCE Act 하원 진출

한국 — 6·3 지방선거에 AI 딥페이크 탐지 모델 투입

행정안전부는 국립과학수사연구원(국과수)과 공동 개발한 'AI 딥페이크 탐지 분석 모델'을 6월 3일 지방선거에 본격 투입한다고 발표했습니다. 이 결정의 배경에는 급증하는 선거 딥페이크가 있습니다.

선거 딥페이크 삭제 요청 추이: 2024년 제22대 총선 388건 → 2025년 대선 10,510건(27배 증가) → 2026년 지방선거에 AI 탐지 모델 최초 투입.

268개 팀이 만든 최정예 탐지 모델

이번 탐지 모델은 단순한 정부 프로젝트가 아닙니다. 지난해 열린 '딥페이크 범죄 대응 AI 탐지 모델 경진대회'에 268개 팀, 1,077명의 AI 전문가가 참가했고, 상위 5개 모델을 결합하여 최종 정확도 92%를 달성했습니다.

국과수 박남인 연구관에 따르면, 기존 딥페이크 탐지 기술은 얼굴 영역 위주로 분석했지만, 이번 모델은 영상 전체 영역까지 분석 범위를 확장했습니다. 영상 전체 흐름을 파악하는 '전역 분석'과 얼굴 등 특정 부위를 확인하는 '국소 분석'을 결합하고, 음성 분석 기능까지 추가하여 영상에서 추출한 오디오를 별도로 검증합니다.

유튜브 — 정치인·기자 대상 딥페이크 탐지 확대

2026년 3월 10일, 유튜브는 AI 딥페이크 탐지 기술인 '유사성 감지(Likeness Detection)' 도구를 정치인, 정부 관계자, 기자 등으로 확대 적용한다고 발표했습니다.

유튜브 딥페이크 탐지 도구 작동 방식: 업로드된 영상에서 특정 인물의 얼굴을 자동 스캔하고, AI 생성 콘텐츠가 감지되면 해당 인물에게 알림을 전송합니다. 본인 확인 후 삭제 요청이 가능하며(셀카 + 정부 발급 신분증 필요), 향후 음성 복제 및 캐릭터 도용까지 탐지 확대가 예정되어 있습니다.

유튜브는 향후 이 기술을 콘텐츠 업로드 전 단계에서 차단하는 시스템으로 발전시킬 계획이며, Content ID와 유사하게 딥페이크 콘텐츠의 수익화 통제까지 가능하게 만들겠다고 밝혔습니다.

미국 — DEFIANCE Act, 하원 초당파 지지 확보

2026년 1월 미국 상원을 만장일치로 통과한 DEFIANCE Act(비동의 성적 딥페이크 피해자 보호법)가 3월 10일, 하원의 Problem Solvers Caucus(문제해결 의원단)의 공식 지지를 받았습니다. 이는 하원 통과를 위한 중요한 이정표입니다.

DEFIANCE Act 핵심 내용: 비동의 성적 딥페이크의 제작·유포자에 대한 민사소송권 부여, 법정 손해배상 최대 $150,000(약 2억 원), 성폭력·스토킹 연계 시 최대 $250,000(약 3.3억 원), 법원 명령을 통한 콘텐츠 강제 삭제. 상원 만장일치 통과(2026년 1월) → 하원 심의 중.

DEFIANCE Act는 기존 Take It Down Act(플랫폼의 48시간 내 삭제 의무)를 보완하는 법안입니다. Take It Down Act가 플랫폼에 삭제 의무를 부과한다면, DEFIANCE Act는 피해자가 직접 가해자를 상대로 민사소송을 할 수 있는 길을 열어줍니다.

서울시 AI 추적 기술 — 전국 무상 보급 시작

3월 초, 서울시는 자체 개발한 '디지털 성범죄 추적 AI' 기술의 전국 무상 보급을 시작했습니다. 이 기술은 기존 대비 정확도가 200~300% 개선되었으며, 복제본이나 같은 피해자의 다른 촬영물, 딥페이크 영상물까지 탐지할 수 있습니다.

육안으로 찾아내는 데 3시간이 걸리던 작업을 6분이면 완료할 수 있어, 피해자의 골든타임을 확보하는 데 결정적 역할을 합니다.

탐지 기술의 한계 — 아직 갈 길이 멀다

플로리다대학교 연구팀의 최신 연구에 따르면, AI는 딥페이크 사진 탐지에서 최대 97% 정확도를 보이지만, 딥페이크 영상 탐지에서는 성능이 급격히 떨어져 우연 수준에 머물렀습니다. 반면 인간은 영상 탐지에서 약 66%의 정확도를 보여, 영상 분야에서는 아직 인간이 AI보다 나은 셈입니다.

더 우려스러운 점은, 최신 AI 생성 영상이 기존 탐지 도구를 90% 이상의 확률로 우회할 수 있다는 것입니다. 이는 탐지 기술과 생성 기술 간의 '군비 경쟁'이 계속되고 있음을 의미합니다.

피해를 입었다면

• 즉시 증거 확보 — URL, 스크린샷, 게시 날짜 등 모든 정보 기록
• 경찰 신고 — 사이버범죄 신고 (경찰청 182)
• 디지털 성범죄 피해자 지원센터 — 여성가족부 운영 (전화 02-735-8994)
• 플랫폼 신고 — 유튜브, SNS, 해당 사이트에 직접 삭제 요청
• AI 기반 유포 추적 — 전문 서비스를 통해 인터넷 전체에서 해당 이미지 검색 및 삭제

결론

한국의 92% 정확도 AI 탐지 모델, 유튜브의 딥페이크 탐지 확대, 미국 DEFIANCE Act의 초당파적 지지 — 2026년 3월은 딥페이크에 맞선 글로벌 대응이 본격화된 시점으로 기록될 것입니다. 하지만 탐지 기술의 한계와 생성 기술의 진화 속도를 고려하면, 기술적 대응만으로는 충분하지 않습니다. 법적 규제, 플랫폼 책임, 그리고 피해자 지원 시스템이 동시에 작동해야 합니다.

만약 당신이나 주변 사람이 딥페이크 피해를 입었다면, 혼자 감당하지 마세요. 전문 팀이 유포 현황을 파악하고 삭제를 도와드립니다.