10대 소녀들, xAI 상대로 집단소송 — Grok이 생성한 딥페이크 성착취물의 충격

무슨 일이 있었나?

소장에 따르면, Grok의 AI 이미지 생성 기술을 라이선스받은 제3자 앱을 통해 피해자들의 사진이 성적 이미지와 영상으로 변환되었습니다. 이미지는 X 웹사이트나 Grok 앱에서 직접 생성된 것이 아니지만, 생성 과정에서 xAI의 서버와 기술이 사용되었고, xAI는 이를 통해 수익을 얻었습니다.

소송은 13개 혐의를 포함하며, 아동 포르노 배포 의도부터 고의적 정서적 고통 유발(IIED)까지 광범위합니다. 원고 측은 Grok의 AI 도구로 피해를 입은 미성년자가 "수천 명"에 달할 것으로 추정하며 집단소송 자격을 요청했습니다.

소송 핵심 내용

• 원고: 테네시주 10대 소녀 3명 (1명 미성년자)
• 피고: xAI, 일론 머스크
• 법원: 캘리포니아 연방법원
• 혐의: 13개 (아동 포르노 배포 의도, IIED 등)
• 대리: Lieff Cabraser 로펌
• 추정 피해자: 수천 명의 미성년자

왜 Grok만 문제인가?

핵심 쟁점은 안전장치의 부재입니다. 소장은 xAI가 "다른 모든 주요 AI 회사가 사용하는 업계 표준 CSAM 방지 조치를 구현하기를 거부하면서도, 실제 인물의 성적 콘텐츠를 생성할 수 있는 AI를 의도적으로 설계하고 마케팅하고 수익을 창출했다"고 주장합니다.

실제로 OpenAI, Google, Meta 등 대부분의 AI 기업은 실존 인물의 성적 이미지 생성을 차단하는 안전 필터를 적용하고 있습니다. 그러나 Grok은 이러한 보호 장치 없이 출시되었고, 그 결과 제3자 앱을 통한 대규모 악용이 가능해졌습니다.

법적 허점 — 누구도 처벌받지 않는 구조

현행법 하에서는 심각한 법적 허점이 존재합니다. AI가 생성한 콘텐츠를 소셜 미디어에 게시한 사람만 법적 책임을 질 수 있습니다. 그런데 Grok의 경우, 사용자가 프롬프트를 입력하면 Grok이 이미지를 게시하는 구조이기 때문에:

• 프롬프트를 입력한 사용자는 직접 게시하지 않았으므로 처벌 곤란
• xAI는 Grok이 "사람"이 아니므로 형사 책임 면제 주장 가능
• 결과적으로 누구도 처벌받지 않는 사각지대 발생

DEFIANCE Act — 피해자가 직접 소송할 수 있는 길

이러한 법적 공백을 메우기 위해, 미국 상원은 2026년 1월 13일 DEFIANCE Act(비동의 성적 딥페이크 피해자 소송권법)를 만장일치로 통과시켰습니다.

DEFIANCE Act 핵심

• 딥페이크 피해자에게 연방 민사소송권 부여
• 손해배상: 최소 $150,000 (약 2억 원)
• 보복·성폭력 연계 시 $250,000 (약 3.3억 원)까지
• 생성자, 배포 의도 보유자, 고의 수령자 모두 대상
• 현재 하원 심의 대기 중 (초당적 지지)

이 법안은 Grok 사태가 직접적 계기가 되었습니다. 상원 사법위원장 딕 더빈(Dick Durbin) 의원이 발의했으며, 린지 그레이엄(Lindsey Graham) 공화당 의원이 공동 발의에 참여해 초당적 지지를 확보했습니다. 하원에서는 AOC(알렉산드리아 오카시오-코르테즈) 의원이 주도하고 있습니다.

글로벌 규제 동향 — EU도 움직인다

EU — AI법 개정안에 딥페이크 금지 명시

2026년 3월 11일, EU 의회는 AI법 개정안에 대한 정치적 합의를 이루었습니다. 이 개정안에는 비동의 성적 딥페이크 생성 금지가 명시되어 있으며, 이는 누디파이 앱과 같은 도구 자체를 불법화하는 근거가 됩니다.

미국 — Take It Down Act, 5월 발효

2025년 서명된 Take It Down Act의 플랫폼 삭제 의무가 2026년 5월 19일부터 본격 발효됩니다. 플랫폼은 피해자 신고 접수 후 48시간 이내에 비동의 성적 이미지와 딥페이크를 삭제해야 합니다.

캘리포니아 — xAI에 직접 중단 명령

캘리포니아주는 2026년 1월 xAI에 대해 성적 딥페이크 공유 즉시 중단 명령을 내렸습니다. 주 차원에서 AI 기업에 직접적인 규제를 가한 선례적 조치입니다.

한국에서의 의미

한국에서는 성폭력처벌법 제14조의2에 의해 허위 영상물의 편집·합성·유포가 처벌 대상입니다. 그러나 Grok과 같은 해외 AI 서비스를 통한 피해에 대해서는 국내 법 적용에 한계가 있습니다.

다만, 미국에서의 DEFIANCE Act 통과와 EU의 AI법 개정은 한국 피해자도 해외 법원을 통해 구제받을 수 있는 가능성을 열어줍니다. 특히 Take It Down Act의 5월 발효 이후에는 글로벌 플랫폼에 대한 삭제 요청의 법적 근거가 더욱 강화됩니다.

한국 피해자를 위한 실질적 변화

• 5월 19일 이후: 글로벌 플랫폼에 48시간 내 삭제 요청 법적 근거 확보
• DEFIANCE Act 통과 시: 미국 법원에서 AI 기업 상대 민사소송 가능
• EU AI법 개정: EU 내 딥페이크 생성 도구 자체 불법화
• 국내법: 성폭력처벌법 제14조의2 — 최대 5년 징역 또는 5,000만 원 벌금

피해를 입었다면

• 즉시 증거 확보 — 생성된 이미지, 사용된 앱/서비스 스크린샷, URL
• 경찰 신고 — 사이버범죄 신고 (경찰청 182)
• 디지털 성범죄 피해자 지원센터 — 여성가족부 운영 (02-735-8994)
• 플랫폼 삭제 요청 — Take It Down Act 근거로 48시간 내 삭제 요청
• AI 기반 유포 추적 — 전문 서비스를 통해 인터넷 전체에서 이미지 검색 및 삭제

결론

10대 소녀들이 세계에서 가장 부유한 사람의 AI 회사를 상대로 법정에 선 이번 소송은 AI 딥페이크 규제의 분수령이 될 수 있습니다. DEFIANCE Act의 하원 통과, EU AI법 개정, Take It Down Act 발효 등 2026년은 딥페이크 성범죄에 대한 글로벌 법적 프레임워크가 비로소 형태를 갖추기 시작하는 해입니다.

그러나 법이 만들어지는 동안에도 피해는 계속됩니다. AI 딥페이크 피해를 겪고 있다면, 혼자 감당하지 마세요.