AI 범죄 산업화 2026 — 무검열 LLM 6,644개·다크웹 딥페이크 $5, ThreatDown·Group-IB 글로벌 생태계 분석

ThreatDown 긴급 경고: 허깅페이스에 6,644개 무검열 모델, 6개월 제로데이 경고창

ThreatDown 연구팀은 2026년 7월 기준으로 허깅페이스(Hugging Face) 플랫폼에서 'abliterated(가드레일 제거)', 'uncensored(무검열)', 'heretic(이단)', 'decensored(검열 해제)', 'unfiltered(필터 없음)' 등의 자체 선언 라벨을 달고 공개된 AI 모델이 6,644개를 초과했으며, 이 모델들이 30일 만에 수천만 건의 다운로드를 기록했다고 밝혔습니다. 이 모델들의 핵심 위험은 제공업체 로그를 회피한 채 로컬에서 실행할 수 있다는 점입니다. 클라우드 기반 AI 서비스는 이상 쿼리를 기록하고 당국에 신고할 수 있지만, 로컬에서 구동되는 무검열 모델은 그런 탐지망을 완전히 빠져나갑니다.

더욱 심각한 경고는 AI가 생성한 제로데이 취약점의 등장입니다. ThreatDown 보고서는 2026년 5월 구글 위협인텔리전스 그룹(Google TIG)이 범죄자들이 AI를 활용해 개발한 최초의 제로데이 익스플로잇을 확인했다고 밝혔습니다. 이 취약점은 인기 웹 관리 도구의 2단계 인증(2FA)을 우회하는 것으로, 소수의 전문 보안 연구자들만 발견할 수 있었던 수준의 공격이 이제 AI를 통해 자동 생성되고 있음을 의미합니다. ThreatDown은 이러한 'AI가 발견한 제로데이' 역량이 범죄 마켓플레이스에 유입되기까지 약 6개월의 경고 창이 남아 있다고 경고하며, 즉각적인 자동화 취약점 평가 및 패치 관리 도입을 촉구했습니다.

보고서는 '그림자 AI(Shadow AI)' 침해가 기업 보안의 새로운 뇌관이 됐다고 강조합니다. IBM 데이터를 인용한 ThreatDown 보고서에 따르면 2025년 5개 기업 중 1개(20%)가 그림자 AI 관련 침해를 경험했으며, 이로 인한 사고 처리 비용이 표준적인 침해 사고보다 평균 67만 달러(약 9억 원) 더 높았습니다. 또한 파이어폭스는 2026년 4월 423건의 보안 패치를 배포했는데, 이는 전년 동월의 31건 대비 13배를 웃도는 수치입니다. 이는 AI가 코드 취약점 발견 속도를 획기적으로 끌어올리고 있음을 보여주는 단적인 사례입니다. WormGPT, Xanthorox 등 범죄자용 AI 도구들은 독자적인 AI를 개발하지 않고 Cloudflare, Google Cloud, Anthropic 등 합법적 제공업체의 인프라를 임차해 사용하는 것으로 추적됐습니다.

Group-IB '제5의 파도': 다크웹 AI 게시물 371% 급증·딥페이크 킷 $5의 현실

Group-IB는 2026년 1월 발표한 '무기화된 AI: 제5의 사이버범죄 파도' 보고서에서 2022년 이후 사이버범죄가 새로운 '제5의 파도'에 진입했다고 선언했습니다. 1파(대중 인터넷 해킹) → 2파(사이버간첩·국가 지원 공격) → 3파(랜섬웨어 산업화) → 4파(서비스형 범죄 생태계, CaaS) → 5파(무기화된 AI) 순서로 진화해 왔으며, 지금의 5파는 인간의 숙련된 기술을 규모화된 서비스로 변환하는 생성형 AI의 급속한 채택이 특징입니다. 다크웹 포럼에서 AI 키워드를 포함한 게시물은 2019년 대비 371% 급증했고, 답글 수는 무려 1,199%(10배) 증가했습니다. 2025년 한 해에만 2만 3,621건의 최초 게시물과 29만 8,231건의 답글이 포착됐습니다.

Group-IB는 다크웹에서 거래되는 AI 범죄 도구를 세 가지로 분류합니다. 첫째는 '다크 LLM(Dark LLMs)'으로, 윤리적 제한이 없는 독자 언어 모델입니다. 구독료는 월 $30~$200이며 사용자 수가 1,000명을 넘는 서비스도 확인됐습니다. 둘째는 '탈옥 프레임워크(Jailbreak frameworks)'로, ChatGPT 등 정상적인 LLM의 안전장치를 우회하는 서비스입니다. 셋째이자 가장 충격적인 것은 '딥페이크-as-a-Service'입니다. AI 영상 배우, 복제된 음성, 바이오메트릭 데이터셋을 포함한 '합성 신원 킷(synthetic identity kit)'이 단 $5(약 6,700원)부터 판매되고 있으며, 2025년 딥페이크 서비스 고유 사용자 수가 52% 증가했습니다. KYC(고객 실명 확인) 우회를 목적으로 딥페이크를 검색하는 다크웹 게시물도 300건 이상 확인됐습니다.

Group-IB의 CEO 드미트리 볼코프(Dmitry Volkov)는 "AI는 사이버범죄를 산업화했다. 한때 숙련된 운영자와 시간이 필요했던 것이 이제는 구매하고 자동화하며 전 세계적으로 확장할 수 있다"고 경고했습니다. Group-IB High-Tech Crime Trends 2026 보고서는 공급망 공격(supply chain attack)이 올해 최상위 글로벌 사이버 위협으로 부상했다고 밝혔으며, AI가 이 공급망 공격의 규모와 정교함을 극대화하는 핵심 증폭제 역할을 하고 있다고 분석했습니다. META 지역(중동·아프리카·터키) 피싱 분석에서는 인터넷 서비스(52.49%), 금융기관(28.50%), 물류 분야(11.20%)가 AI 기반 피싱의 주요 표적으로 확인됐습니다.

Rapid7·Trend Micro 추가 분석: 범죄자들이 '합법 AI 인프라'를 임차하는 이유

Rapid7가 2026년 공개한 '서비스형 AI 범죄(Criminal AI-as-a-Service)' 보고서는 다크 LLM의 전략적 의미를 심층 분석합니다. 보고서는 범죄자들이 독자적인 AI를 구축하지 않고 합법 서비스를 임차·탈취·악용하는 이유가 명확하다고 설명합니다. 첫째, 개발 비용을 제로로 낮춥니다. 수억 달러의 AI 모델 훈련 비용을 아마존·구글·앤트로픽 등 빅테크가 대신 부담합니다. 둘째, 탐지 회피가 쉬워집니다. 합법 인프라를 통해 발생하는 트래픽은 보안 솔루션이 악성으로 분류하기 어렵습니다. 셋째, AI 발전의 혜택을 무임승차합니다. 합법 기업들이 AI를 개선할수록 범죄자들도 더 강력한 도구를 자동으로 얻게 됩니다.

Trend Micro는 2026년 '형사 AI의 현황(State of Criminal AI)' 보고서에서 지하 AI 스택이 방어자들이 예상했던 것보다 훨씬 저렴하고 탄력적이며 접근 가능해졌다고 평가했습니다. Trend Micro는 AI 기반 범죄가 2026년 폭발적으로 증가하지는 않겠지만, 더욱 정밀해지고 내성이 강해질 것이라고 예측했습니다. 특히 탈옥·프롬프트 남용 서비스 주변으로의 통합이 두드러지며, 초기의 탈옥 챗봇과 개념 증명 수준의 딥페이크 사기가 범죄자들이 빌려 재사용할 수 있는 서비스로 진화했습니다. 다크웹 AI 도구 대량 구매는 2025년 22% 증가해 조직적 범죄 활동의 징표를 나타냈습니다.

한국의 위협 지형 — AI 범죄 서비스 접근성 확대가 가져오는 실질적 위험

한국 사이버안보 전문가들은 AI 범죄 서비스 접근성의 확대가 국내 디지털 성범죄·사기 생태계에 미치는 영향을 주시하고 있습니다. 딥페이크-as-a-Service가 $5 수준으로 내려온 상황에서, 과거에는 고급 기술 능력이 필요했던 딥페이크 성착취물 제작이 기술 지식이 전혀 없는 일반인도 손쉽게 접근할 수 있게 됐습니다. 실제로 경찰청 통계에 따르면 2025년 딥페이크 성착취물 관련 범죄 검거 건수는 전년 대비 134% 급증했으며, 피의자 중 10대 비중이 40%를 넘어섰습니다. AI 범죄 서비스의 가격 하락과 접근성 확대는 이 비중을 더욱 높일 것으로 전망됩니다.

무검열 AI 모델은 보이스피싱·스미싱의 고도화에도 직접 활용되고 있습니다. 과거 어눌한 한국어가 보이스피싱의 손쉬운 식별 신호였다면, 이제 AI가 생성한 유창하고 자연스러운 한국어로 무장한 사기 전화·문자가 급증하고 있습니다. 금융감독원에 따르면 2025년 보이스피싱 피해액은 역대 최고치인 7,744억 원에 달했으며, AI 기반 자동화 시스템이 개입된 사례가 전체의 30%를 넘어선 것으로 추정됩니다. ThreatDown 보고서의 '6개월 제로데이 경고창'은 공공기관 및 금융기관의 사이버 방어 인프라가 AI 기반 공격의 속도를 따라가지 못할 경우, 대형 전산 침해 사고로 이어질 수 있다는 구조적 위험을 내포합니다.

대응 전략과 시사점 — AI 위협 속도에 맞선 방어 체계 재설계

ThreatDown은 보고서에서 세 가지 즉각 행동을 권고합니다. 첫째, 취약점 평가와 패치 관리를 즉시 자동화해야 합니다. AI가 제로데이를 발견하는 속도를 인력 중심의 대응이 따라갈 수 없기 때문입니다. 둘째, 행동 기반 엔드포인트 탐지(behavioral endpoint detection)를 포함한 24시간 연속 모니터링 체계를 구축해야 합니다. 무검열 로컬 모델은 서명(signature) 기반 탐지로는 잡아낼 수 없으므로, 이상 행동 패턴 분석이 핵심입니다. 셋째, 조직 내 그림자 AI(Shadow AI) 사용 현황을 파악하고 관리 정책을 수립해야 합니다. 직원들이 무허가 AI 도구를 업무에 활용하는 행위 자체가 대형 침해의 진입점이 될 수 있습니다.

개인 차원에서도 AI 범죄 생태계의 저가화·고도화를 인식한 실질적 대응이 필요합니다. 딥페이크 합성 신원 킷이 $5에 거래되는 현실에서, 영상통화나 음성통화만으로 상대방의 신원을 확인하는 것은 더 이상 안전하지 않습니다. 처음 만난 사람이 온라인에서 투자를 권유하거나, 긴급히 돈을 요구하거나, 개인정보 제공을 요청하는 경우 반드시 오프라인 확인을 병행하십시오. AI 생성 피싱 이메일과 문자는 과거의 문법 오류·어색한 표현 없이 완벽한 언어로 작성됩니다. 발신자 주소·링크 도메인을 반드시 직접 확인하고, 의심스러운 사이버 범죄는 사이버범죄신고시스템(ECRM, www.police.go.kr) 또는 경찰청 사이버수사국(182)에 신고하십시오.