볼티모어, xAI 상대로 소송 제기 — 미국 최초 도시 차원의 AI 딥페이크 법적 대응

소송의 핵심 — 무엇을 주장하는가?

볼티모어시 시장 브랜든 스콧(Brandon Scott)과 시의회는 볼티모어 순회법원에 소장을 접수했습니다. 피고는 X Corp., x.AI Corp., x.AI LLC, SpaceX(Space Exploration Technologies Corp.) 등 4개 법인입니다.

소장에 따르면, xAI는 Grok의 이미지 생성 기능 중 "스파이시 모드(Spicy Mode)"를 통해 유명인과 일반인, 심지어 미성년자의 사진까지 성적 이미지로 변환할 수 있도록 방치했습니다. 볼티모어시는 이것이 볼티모어 소비자 보호 조례(Consumer Protection Ordinance)를 위반한 기만적 거래 행위에 해당한다고 주장합니다.

핵심 수치 — Grok 딥페이크 피해 규모

• Grok 이미지 생성 도구로 11일간 약 300만 장의 성착취 이미지 생성
• 이 중 미성년자 대상 이미지: 약 23,000장
• 소송 피고: X Corp., xAI Corp., xAI LLC, SpaceX 4개 법인
• 미국 도시 차원의 AI 딥페이크 소송: 최초

볼티모어 시장의 입장

브랜든 스콧 시장은 "Grok에서 생성된 딥페이크는 피해자에게 평생 지속되는 트라우마를 남긴다"며 "우리는 기술 기업이 아동의 성적 착취를 가능하게 하는 것에 대해 이야기하고 있다"고 밝혔습니다.

볼티모어시는 xAI에 대해 X와 Grok의 비동의 성적 이미지(NCII) 및 CSAM 생성을 차단하는 시스템 변경을 명령하는 금지명령(injunctive relief)과 함께 법정 최대 벌금을 구하고 있습니다.

연이은 소송 — 테네시 10대 집단소송도 진행 중

볼티모어시 소송 직전인 3월 17일, 테네시주 10대 소녀 3명도 xAI를 상대로 집단소송을 제기했습니다. 이들은 자신의 사진이 Grok을 통해 성적이고 모욕적인 시나리오로 변환되었다고 주장합니다. 이로써 xAI는 현재 최소 3건 이상의 딥페이크 관련 민사소송에 직면해 있습니다.

법적 허점 — 왜 지금까지 규제가 어려웠나?

현행 법률의 가장 큰 문제는 AI가 생성한 콘텐츠의 책임 소재입니다. 기존 리벤지포르노법은 소셜미디어에 AI 생성 콘텐츠를 게시한 사람만 처벌할 수 있습니다. 그러나 Grok의 경우, 사용자가 프롬프트를 입력하면 Grok이 직접 이미지를 생성하고 게시하는 구조이기 때문에 프롬프트를 입력한 사용자도, xAI도 현행법으로는 형사 책임을 묻기 어려운 법적 공백이 존재합니다.

볼티모어시가 형사법 대신 소비자 보호법을 근거로 소송을 제기한 것은 바로 이 허점을 우회하기 위한 전략입니다.

미국 전역에서 강화되는 딥페이크 규제

연방법 — Take It Down Act (2026년 5월 19일 시행): 2025년 5월 서명된 Take It Down Act는 플랫폼에 비동의 성적 이미지의 48시간 내 삭제 의무를 부과합니다. 2026년 5월 19일부터 본격 시행되며, 위반 시 최대 3년 징역에 처해질 수 있습니다.

DEFIANCE Act — 상원 만장일치 통과: 2026년 1월 미 상원을 만장일치로 통과한 DEFIANCE Act는 비동의 딥페이크 피해자에게 민사 소송권을 부여합니다. 현재 하원에서 초당파 지지를 확보하며 심의 중이며, 통과 시 피해자가 제작자·유포자·호스팅 업체를 직접 고소할 수 있는 연방 차원의 법적 근거가 마련됩니다.

워싱턴주 — SB 5886 서명 (6월 10일 시행): 워싱턴주 밥 퍼거슨 주지사는 SB 5886에 서명했습니다. 이 법은 기존 초상권 보호 대상에 "위조 디지털 초상(forged digital likeness)"을 추가하여, AI를 이용한 동의 없는 음성·영상 위조를 공식적으로 불법화합니다. 2026년 6월 10일부터 시행됩니다.

2026년 미국 딥페이크 규제 타임라인

• 1월 — DEFIANCE Act 상원 만장일치 통과
• 3월 17일 — 테네시 10대 소녀 3명, xAI 집단소송 제기
• 3월 24일 — 볼티모어시, xAI 상대로 미국 최초 도시 차원 소송
• 5월 19일 — Take It Down Act 플랫폼 삭제 의무 시행
• 6월 10일 — 워싱턴주 SB 5886 시행

한국에서의 시사점

한국은 이미 성폭력처벌법 제14조의2에 따라 허위 영상물 편집·합성·유포를 최대 7년 이하 징역으로 처벌하고 있습니다. 2024년 11월에는 소지·시청만으로도 3년 이하 징역 또는 3,000만 원 이하 벌금으로 처벌을 강화하는 방안이 발표되었습니다.

또한 서울시가 개발한 '디지털 성범죄 추적 AI'는 기존 육안 탐지 대비 속도 30배, 정확도 200~300% 향상된 성능으로 2026년 3월부터 전국 중앙 정부 기관에 무상 보급이 시작되었습니다.

그러나 Grok처럼 해외 서버에서 운영되는 AI 플랫폼에 대한 실질적 규제는 여전히 한계가 있으며, 볼티모어시처럼 소비자 보호법이나 민사 소송을 통한 우회적 대응이 한국에서도 검토될 필요가 있습니다.

피해를 입었다면

• 즉시 증거 확보 — 해당 AI 도구, 생성된 이미지, URL 등 스크린샷 저장
• 경찰 신고 — 사이버범죄 신고 (경찰청 182)
• 디지털 성범죄 피해자 지원센터 — 여성가족부 운영 (전화 02-735-8994)
• 플랫폼 신고 — X, Grok 등 해당 플랫폼에 직접 삭제 요청
• AI 기반 유포 추적 — 전문 서비스를 통해 인터넷 전체에서 해당 이미지 검색 및 삭제

결론

볼티모어시의 소송은 단순한 한 도시의 법적 대응을 넘어, AI 기업이 자사 제품으로 발생하는 성착취에 대해 책임을 져야 한다는 새로운 법적 선례를 만들 수 있는 중요한 사건입니다. 테네시 집단소송, DEFIANCE Act 하원 심의, Take It Down Act 시행 등 미국 전역에서 동시다발적으로 진행되는 규제 강화는 AI 딥페이크 성범죄에 대한 전환점이 될 수 있습니다.

만약 당신이나 주변 사람이 AI 딥페이크 피해를 입었다면, 혼자 감당하지 마세요. 전문 팀이 유포 현황을 파악하고 삭제를 도와드립니다.