← 블로그무료 검색
글로벌 사건 분석·통계딥페이크 연구 오진단·NCII 실제 피해감각적 제로트러스트·음성 복제 사기

딥페이크 연구의 오진단 — 우리가 준비한 위협은 오지 않았고, 실제 피해는 다른 곳에서 왔다: arXiv 2605.12075 × 감각적 제로트러스트 완전 분석

2026-07-06·13분 읽기
SNS에 침투한 딥페이크 사기와 음성 복제 기술 — 실제 피해는 공인 영상이 아닌 NCII·음성 복제 사기에서 발생

2026년 5월 12일, 머신러닝 연구자 Shaina Raza는 arXiv에 도발적인 포지션 페이퍼를 게재했습니다(arXiv:2605.12075). 제목은 '우리가 놓친 딥페이크: 우리는 오지 않은 위협을 위한 탐지기를 만들었다(The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive)'입니다. 논문의 핵심 주장은 충격적입니다. 9년간의 딥페이크 탐지 연구가 2017~2019년 공인(公人) 얼굴 합성 위협을 중심으로 설계됐지만, 그 위협은 결국 오지 않았다는 것입니다. 그리고 실제로 수백만 명의 피해자를 낳은 위협 — 피어 생성 NCII(비동의 성적 이미지), 음성 복제 사기 전화, 감정 조작 사기 — 은 연구의 사각지대에 방치됐습니다. 같은 달, 브라질의 보안 연구자 Fabio Correa Xavier는 arXiv:2507.00907에서 '감각적 제로트러스트(Sensorial Zero Trust)'라는 새로운 패러다임을 제시합니다. AI 생성 현실 시대에, 우리의 눈과 귀마저 이제 더 이상 검증 없이 믿어서는 안 된다는 것입니다.

9년간 잘못된 곳을 겨냥했다: 연구 집중도 71% vs. 실제 피해 분포

arXiv:2605.12075는 2022~2026년 사이에 실제로 보고된 딥페이크 피해 사례를 유형별로 분류합니다. 결과는 명확합니다. 피해자 수 기준 1위: 피어 생성 NCII(비동의 성적 이미지). 이 범주에는 AI 생성 아동 성착취물(AI-CSAM)이 포함됩니다. 금전 피해액 기준 1위: 음성 복제 사기 전화. 가족 납치 빙자 사기(그랜드패런트 스캠), 재무 책임자 사칭 사기(CFO 임퍼소네이션), 거래처 결제 사기(벤더 페이먼트 사기) 등이 이에 해당합니다. 그리고 세 번째 피해 범주는 '감정 조작 사기(emotional-manipulation fraud)'입니다. AI 동반자 앱, 가짜 연인, 가짜 유명인을 이용한 장기 심리 착취가 여기에 해당합니다. 반면 논문이 분석한 딥페이크 탐지 연구 문헌의 약 71%는 공인(公人)의 얼굴 합성·조작 탐지에 집중되어 있었습니다. 이 연구들이 대비하려 한 시나리오 — 대통령이나 유명인을 대상으로 한 대규모 딥페이크 허위정보 캠페인 — 은 2024~2025년 선거 주기 동안 연구자들이 우려했던 규모로는 실현되지 않았습니다.

논문은 이 '연구-피해 불일치(research-harm misalignment)'가 왜 지속됐는지 구조적 원인 세 가지를 제시합니다. 첫째, '벤치마크 상속(benchmark inheritance)'입니다. FaceForensics++, DFDC 등 초기 딥페이크 탐지 벤치마크 데이터셋이 공인 영상 기반으로 구성됐고, 이후 연구자들이 이 벤치마크를 그대로 사용하면서 연구 방향이 고착됐습니다. 둘째, '데이터셋 윤리 비대칭(dataset-ethics asymmetry)'입니다. NCII나 AI-CSAM을 포함한 데이터셋을 구축하거나 공개하는 것은 윤리적·법적으로 극도로 제약됩니다. 이는 연구자들이 실제 가장 큰 피해를 일으키는 범주를 연구하기 어렵게 만들었습니다. 셋째, '현저성 주도 주의(salience-driven attention)'입니다. 공인 딥페이크는 언론의 주목을 끌고, 국회 청문회에서 인용되며, 연구 기금을 유치합니다. NCII 피해자의 고통은 사회적으로 보이지 않는 경우가 많습니다. 이 세 요인이 결합하여, 연구 투자가 가장 많은 위협(공인 영상 조작)과 실제 피해가 가장 심각한 위협(NCII·음성 복제 사기) 사이의 구조적 괴리가 고착됐습니다.

NCII: 딥페이크 콘텐츠의 96~98%가 비동의 성적 이미지

현재까지 집계된 데이터에 따르면, 온라인에 유통되는 딥페이크 콘텐츠의 96~98%는 NCII, 즉 실제 인물을 동의 없이 성적으로 묘사한 합성 이미지·영상입니다. 그리고 이 NCII 딥페이크 피해자의 99~100%는 여성과 소녀입니다. 피해 규모도 급격히 커지고 있습니다. 2019년 이후 딥페이크 전체 건수가 550% 이상 증가했으며, 2022~2023년에는 딥페이크 포르노 볼륨이 464% 증가했습니다. AI 생성 아동 성착취물(AI-CSAM)은 더 가파른 증가세를 보입니다. 영국 인터넷 감시 재단(IWF)이 보고한 AI-CSAM 영상 건수는 2024년 13건에서 2025년 3,443건으로 265배 폭증했습니다. 미국 아동 착취 및 음란물 신고 기관 NCMEC에는 2025년 한 해에만 AI-CSAM 관련 신고가 수십만 건 접수됐습니다. arXiv:2605.12075는 이 데이터를 인용하면서, NCII 탐지 연구가 상대적으로 극소수에 불과한 현실을 비판합니다. 공인 얼굴 합성 탐지 연구가 학술 데이터베이스에서 수천 편에 달하는 반면, NCII 특화 탐지 연구는 비교할 수 없을 정도로 적습니다. 가장 많은 피해자를 낳고 있는 위협이 가장 적은 연구 자원을 받고 있는 역설입니다.

NCII 피해의 또 다른 특징은 피해자의 침묵입니다. 딥페이크 NCII 피해 사례 중 실제로 신고되는 비율은 극히 낮습니다. 수치심·보복에 대한 공포·낙인·신뢰할 수 있는 신고 메커니즘의 부재가 그 원인으로 꼽힙니다. 이는 공식 통계가 실제 피해의 극히 일부만 반영한다는 것을 의미합니다. 영국 스태퍼드셔 대학교의 추계에 따르면, 영국에서만 딥페이크 NCII 피해자가 약 700만 명에 달할 수 있습니다. 미국 SWGfL(South West Grid for Learning)과 NCII.org의 2026년 공동 보고서는 전 세계적으로 4,900만 명이 NCII 피해에 노출됐을 가능성이 있다고 추계했습니다. 이 침묵의 구조는 법적 대응을 더욱 어렵게 만듭니다. 미국에서는 2026년 4월 발효된 TAKE IT DOWN 법(연방법)이 최초로 NCII 및 AI 생성 NCII의 배포를 연방 형사 범죄로 규정했습니다. 그러나 신고→삭제→기소까지의 실제 집행 과정은 여전히 피해자에게 극도로 높은 장벽을 부과합니다. 피해자가 자신의 피해를 인식하더라도 신고 자체를 포기하게 만드는 구조적 문제가 해결되지 않는 한, 어떠한 법제도도 온전히 작동할 수 없습니다.

음성 복제 사기: '구분 불가능 문턱'을 넘은 가장 빠르게 성장하는 딥페이크 피해

arXiv:2605.12075가 '금전 피해 기준 딥페이크 1위 위협'으로 꼽는 음성 복제 사기는, 포춘(Fortune)이 2025년 12월 인용한 보안 연구자 발언처럼 이미 '구분 불가능 문턱(indistinguishable threshold)'을 넘었습니다. 현재 몇 초 분량의 음성 샘플만 있으면, 자연스러운 억양·리듬·강세·감정·발음 습관까지 포함된 완벽한 음성 클론을 생성하는 것이 가능합니다. 소셜미디어에 올라온 짧은 영상, 유튜브 인터뷰, 음성 메시지 하나만으로 충분합니다. 실제 피해 사례들은 이 기술이 이미 일상화됐음을 보여줍니다. 미국 일부 대형 소매업체들은 하루 1,000건 이상의 AI 생성 사기 전화를 받고 있다고 보고했습니다. Pindrop의 분석에 따르면, 콘택트 센터에서 음성 딥페이크 사기 시도는 2024년 한 해에만 1,300% 증가했고, 월 1건에서 하루 7건으로 급증했습니다. FBI의 2025년 인터넷 범죄 신고 센터(IC3) 보고서는 처음으로 'AI 관련' 범죄 분류를 신설했는데, AI 투자 사기(AI investment fraud) 단일 항목에서만 6억 3,200만 달러의 손실이 집계됐습니다. 이 중 상당 부분이 음성 복제 기반 사기입니다.

음성 복제 사기의 가장 잔인한 형태는 '가족 납치 빙자 사기(grandparent scam)'입니다. 자녀나 손자의 목소리를 복제해, '사고가 났어요, 지금 경찰서에 있어요, 보석금이 필요해요'라고 부모·조부모에게 전화하는 방식입니다. 피해자들은 자녀의 목소리를 들으며 진짜라고 믿습니다. FBI는 2024~2025년 이 유형의 사기가 노인 피해자를 중심으로 급증했으며, 건당 피해액이 수만 달러에서 수십만 달러에 달하는 사례도 있다고 보고했습니다. 기업 대상 음성 복제 사기도 심각합니다. CFO나 CEO의 목소리를 복제해 재무 담당자에게 긴급 해외 송금을 지시하는 'CEO 사기(BEC, Business Email Compromise)'의 음성 버전이 급증하고 있습니다. 가트너의 2025년 9월 조사에 따르면, 기업의 62%가 지난 12개월 내에 딥페이크 공격을 경험했으며, 이 중 41%는 음성 통화, 35%는 화상 통화를 이용한 사회공학 공격이었습니다. arXiv:2605.12075는 이러한 실제 피해가 '공인 얼굴 합성 탐지'에 집중된 연구가 아닌, '전화 오디오·VoIP 환경에서의 음성 딥페이크 탐지'라는 완전히 다른 연구 과제를 요구한다고 강조합니다.

감각적 제로트러스트(Sensorial Zero Trust): 눈과 귀도 검증 없이 믿을 수 없는 시대의 새 패러다임

브라질의 보안 연구자 Fabio Correa Xavier가 2025년 7월 arXiv:2507.00907에서 제안한 '감각적 제로트러스트(Sensorial Zero Trust)'는, 기존 제로트러스트(Zero Trust) 보안 패러다임을 인간의 감각 정보에까지 확장하는 개념입니다. 기존 제로트러스트는 네트워크 내부에 있더라도 어떤 접근도 기본적으로 신뢰하지 않고 검증을 요구한다는 원칙입니다. Xavier는 이 원칙이 이제 인간의 눈과 귀에도 적용되어야 한다고 주장합니다. '보여도 믿지 말고, 들려도 믿지 마라. 검증하라.' AI 생성 딥페이크와 음성 클론이 인간의 감각적 판단 능력을 넘어선 현재, 조직과 개인 모두 '보고 들은 것'을 그대로 믿는 기본 설정(default trust)을 버려야 한다는 것입니다. 이 프레임워크는 네 가지 검증 레이어로 구성됩니다. 첫째, 대역 외 검증(Out-of-Band Verification)입니다. 화상 통화나 전화로 받은 정보는 반드시 별개의 채널로 재확인해야 합니다. 예를 들어, CEO에게서 긴급 송금 지시 영상 통화를 받았다면, 해당 CEO의 공식 사무실 번호로 전화해 다시 확인하는 절차를 필수화해야 합니다.

감각적 제로트러스트의 두 번째 레이어는 VLM(비전-언어 모델) 기반 법과학적 보조(Vision-Language Models as Forensic Collaborators)입니다. 인간 눈이 딥페이크를 24.5% 정확도로밖에 판별하지 못하는 현실에서, VLM은 이미지·영상의 조작 징후를 자동으로 분석하는 포렌식 보조 도구로 활용됩니다. 특히 기업 환경에서 HR 화상 면접, 경영진 회의 등의 영상 통화를 실시간으로 모니터링하는 데 적용됩니다. 세 번째 레이어는 암호학적 출처 추적(Cryptographic Provenance)입니다. C2PA(콘텐츠 출처 및 진위성 연합)가 제안하는 콘텐츠 진위 인증 표준처럼, 영상·음성 콘텐츠의 생성 시점·장치·편집 이력이 암호학적으로 서명되고 추적 가능해야 한다는 원칙입니다. 네 번째 레이어는 인간 훈련(Human Training)입니다. 기술적 레이어만으로는 충분하지 않습니다. 조직 구성원 전체가 '보고 들은 것을 의심하는 훈련'을 체계적으로 받아야 합니다. Xavier는 이 4개 레이어가 통합된 프레임워크만이 AI 생성 현실 시대의 기관적 취약성을 최소화할 수 있다고 주장합니다.

한국에 대한 함의: 법과 연구, 모두 '실제 피해'를 향해 재조정해야 한다

arXiv:2605.12075와 arXiv:2507.00907이 한국에 던지는 메시지는 분명합니다. 한국은 딥페이크 성범죄 처벌 법체계에서 세계 최고 수준입니다. 그러나 법 집행의 실질적 효과는 '탐지 기술'의 뒷받침 없이는 한계가 있습니다. 그리고 현재 딥페이크 탐지 연구의 71%가 공인 영상 조작 탐지에 집중돼 있다면, 한국의 주요 피해 유형 — 텔레그램 기반 NCII 배포, 지인 음성 복제 사기, 교내 딥페이크 — 에 직접 대응하는 탐지 기술은 여전히 부족한 상태입니다. 한국 방송통신위원회·과학기술정보통신부·여성가족부가 2026년 7월 1일부터 시행하는 AI 자동 탐지 시스템(2만 개 사이트 대상)은 주로 온라인 유통 NCII를 탐지하는 데 초점을 맞추고 있습니다. 이는 긍정적이지만, 음성 복제 사기와 감정 조작 사기에 대한 대응 체계는 별도로 강화해야 합니다. arXiv:2605.12075가 제안하는 '실제 피해 중심 연구 의제 재설정'은 한국의 AI 기본법 시행령 설계, 딥페이크 탐지 기술 국가 R&D 투자 방향, 그리고 경찰청 사이버수사국의 수사 역량 개발에서 반드시 참고해야 할 지침입니다.

개인 차원에서도 감각적 제로트러스트 원칙의 적용은 이미 현실적 필요가 됐습니다. 음성 복제 사기로부터 가족을 보호하는 가장 효과적인 방법 중 하나는 '가족 코드 워드(family code word)' 설정입니다. 긴급 상황에서 전화로 가족임을 증명할 수 있는 사전에 약속된 단어나 문구를 정해두고, 그 코드를 말하지 못하면 아무리 목소리가 같아도 의심하는 훈련이 필요합니다. 화상 통화에서 딥페이크를 의심할 때는 고개를 좌우로 빠르게 돌려달라거나, 예상하지 못한 즉흥적인 질문을 하는 것이 실시간 딥페이크 탐지에 효과적입니다. 현재 실시간 딥페이크 기술은 빠른 얼굴 움직임이나 즉흥적 반응을 완벽하게 처리하는 데 한계가 있기 때문입니다. arXiv:2605.12075와 arXiv:2507.00907이 공통으로 주장하는 핵심 메시지를 마지막으로 정리합니다. 딥페이크 문제의 해결은 '탐지 기술'만의 문제가 아닙니다. 어떤 위협을 대비하고 있는지, 그 위협이 실제 피해와 일치하는지를 끊임없이 재검토하는 자세 — 이것이 2026년 딥페이크 시대가 우리 모두에게 요구하는 근본적 역량입니다.

참고 자료 / References