Grok AI 딥페이크 위기 — 300만 장의 성착취 이미지와 글로벌 규제의 시작

무엇이 문제인가?

Grok의 이미지 생성 기능은 다른 AI 모델(DALL-E, Midjourney)과 달리 NSFW 필터가 거의 없었습니다. 사용자가 사진을 업로드하면 Grok이 해당 인물의 옷을 제거하거나, 비키니, 속옷, 성적 포즈로 변환하는 것이 가능했습니다.

비영리 단체 CCDH(Center for Countering Digital Hate)의 조사에 따르면, Grok의 새로운 이미지 편집 기능 출시 이후 X(구 트위터) 플랫폼에서 약 300만 장의 성적 이미지가 생성되었으며, 이 중 상당수가 실존 인물의 얼굴을 사용한 비동의 딥페이크였습니다.

핵심 수치

• 생성된 성적 이미지: 약 300만 장
• 아동 추정 이미지: 약 23,000장
• 피해 범위: 유명인, 정치인, 일반인 모두 포함
• 생성 소요 시간: 수 초

글로벌 규제 대응

인도네시아 — 세계 최초 Grok 차단: 인도네시아는 2026년 1월, 세계 최초로 Grok 챗봇 접근을 차단했습니다. AI 생성 포르노 콘텐츠의 위험성을 이유로, 정부 차원에서 X 플랫폼 내 Grok 기능에 대한 접근을 전면 차단하는 조치를 취했습니다.

미국 — 35개 주 법무장관 공동 서한: 2026년 1월 23일, 워싱턴 D.C. 법무장관 브라이언 슈왈브를 중심으로 미국 35개 주 법무장관이 공동 서한을 X와 xAI에 발송했습니다. 서한에서는 Grok의 딥페이크 생성 기능에 대한 즉각적인 조치를 요구했습니다.

유럽연합 — DSA 위반 조사 + AI법 개정: 유럽위원회는 Grok이 디지털 서비스법(DSA)을 위반했는지 공식 조사에 착수했습니다. 특히 여성과 아동의 성적 딥페이크 이미지 생성에 대한 법적 의무를 다했는지를 검토하고 있습니다.

더 나아가 2026년 3월 11일, EU 의회는 AI법 개정안에서 비동의 성적 딥페이크 생성을 명시적으로 금지하는 합의에 도달했습니다. 아동 성착취물(CSAM) 생성도 금지 항목에 포함됐습니다.

xAI의 대응

논란이 확산되자 xAI는 이미지 생성 기능을 유료 프리미엄 구독자에게만 제한하는 조치를 발표했습니다. 그러나 보안 연구 기관 Malwarebytes의 후속 조사에 따르면, 제한 이후에도 여전히 성적 이미지 생성이 가능한 것으로 나타났습니다.

일론 머스크는 "Grok이 명시적으로 성적 이미지를 생성하지 않았다"고 주장했지만, 독립 연구자들의 테스트 결과는 이와 상반됩니다.

피해자의 목소리

Rolling Stone의 보도에 따르면, Grok으로 생성된 성적 이미지의 피해자들은 극심한 정신적 고통을 호소하고 있습니다. 유명인뿐만 아니라 일반 여성, 학생, 미성년자까지 피해 범위가 확대되고 있으며, Ms. Magazine은 이를 "동의 위기(Consent Crisis)"라고 명명했습니다.

특히 문제는 한번 생성된 이미지가 삭제가 극히 어렵다는 것입니다. X 플랫폼을 넘어 텔레그램, 디스코드, 성인 사이트 등으로 빠르게 퍼지며, 피해자가 모든 유포 경로를 추적하는 것은 사실상 불가능합니다.

AI 딥페이크, 어떻게 대응해야 하는가?

개인 차원:

• AI 딥페이크 피해 발견 시 즉시 증거 확보 (URL, 스크린샷)
• AI 기반 유포 추적 서비스를 활용해 인터넷 전체 스캔
• 경찰 신고 및 법적 대응 (한국: 성폭력처벌법 제14조의2)
• 검색엔진 삭제 요청 병행

사회 차원:

• AI 이미지 생성 모델에 강력한 안전장치 의무화
• 생성 이미지에 디지털 워터마크 삽입 의무
• 비동의 딥페이크 생성·유포에 대한 형사 처벌 강화
• 피해자를 위한 신속 삭제 메커니즘 구축

결론

Grok AI 딥페이크 위기는 AI 기술의 발전이 안전장치 없이는 무기가 될 수 있다는 것을 명확히 보여줬습니다. 기술 기업의 자정 노력만으로는 부족하며, 글로벌 차원의 규제와 피해자 보호 시스템이 시급합니다.

만약 당신이 AI 딥페이크의 피해자라면, 혼자 감당하지 마세요. 전문 팀이 유포 현황을 파악하고 삭제를 도와드립니다.