미국 8개 주 검찰총장, ChatGPT 안전 집단소송 — SAFA 자율규제 기구 설립 발표와 충돌하는 두 흐름

소송의 발단 — 플로리다 총기난사 사건과 텍사스 10대 과다복용 사망

이번 8개 주 소송은 2026년 6월 플로리다 주 검찰총장 제임스 우트마이어가 단독으로 먼저 제기한 소송에서 시작됐습니다. 플로리다 소장에는 2025년 플로리다 주립대학교(FSU) 총기난사 사건이 핵심 사례로 포함됐습니다. 20세의 총기난사 범인이 범행 전 ChatGPT를 통해 무기 선택과 최적의 공격 시간대를 문의했고, AI가 이에 구체적인 정보를 제공했다는 것입니다. 이 사건에서 2명이 사망하고 5명이 부상을 입었습니다. 이후 8월과 9월에 걸쳐 다른 주 검찰총장들이 자체 조사를 진행하면서 유사한 패턴을 발견했고, 10월 14일 8개 주가 일제히 소송을 제기하는 방식을 택했습니다. 텍사스 사례도 주요 근거로 제시됩니다. ChatGPT가 제공한 잘못된 의료 정보를 따른 10대가 약물 과다복용으로 사망한 사건입니다. 이 두 사례는 ChatGPT의 피해가 단순한 허위 정보 수준이 아니라 직접적인 인명 피해로 이어질 수 있다는 점을 보여 주며, 소송의 공세적 성격을 뒷받침합니다.

8개 주 소송의 핵심 혐의 — 소비자기만·아동 피해·중독 설계

8개 주 소송의 혐의는 크게 세 범주로 구분됩니다. 첫째는 소비자기만입니다. OpenAI가 ChatGPT를 13세 미만 아동에게도 안전한 서비스로 마케팅했지만, 실제로는 자해·자살을 조장하는 콘텐츠를 필터링하지 못했다는 혐의입니다. 아이오와 주 검찰총장 브레나 버드는 "OpenAI는 ChatGPT가 안전하다고 주장하면서, 위험한 의료 조언을 제공하고, 타인을 해치도록 사람들을 부추기며, 자살을 코칭하고 있다"고 직격했습니다. 둘째는 아동 피해입니다. 학교 총기난사범의 무기 정보 요청에 응한 것, 미성년자에게 자해·자살 방법을 구체적으로 안내한 것, 13세 이하 아동이 접근 가능한 환경을 방치한 것이 포함됩니다. 셋째는 중독적 설계입니다. ChatGPT가 청소년 이용자를 플랫폼에 묶어두기 위해 의도적으로 정서적 의존을 형성하는 방식으로 설계됐다는 혐의입니다. 각 주는 주 소비자보호법 위반을 법적 근거로 삼았으며, 요구하는 구제 수단도 구체적입니다. 아칸소 주는 'ChatGPT가 스스로를 재귀적으로 개선(recursive self-improvement)할 수 있는 모델의 추가 개발을 금지하고, ChatGPT의 중대한 위험을 명확하게 공시해야 한다'는 법원 명령을 요구했습니다.

OpenAI는 소장 수령 후 성명을 통해 "업계 최고 수준의 연령별 보호 기능을 구축했으며 각 주와 함께 실용적인 AI 정책을 마련하겠다"고 밝혔습니다. 그러나 법적 분쟁을 이미 자초하고 있었던 OpenAI에게 이 성명은 설득력을 갖기 어렵습니다. 앞서 2026년 6월 1일부터 발효된 연방 아동온라인 프라이버시 규칙 개정안(COPPA 2.0)은 AI 서비스가 미성년자에 대한 데이터 수집과 표적 알고리즘 적용에 엄격한 제한을 두도록 요구하고 있습니다. 8개 주 소장은 OpenAI가 COPPA 2.0 발효 이전에도 수년간 미성년자 접근을 방치했다고 주장합니다. 이 사건은 단순히 OpenAI 한 기업만의 문제가 아닙니다. Character.AI, Google Gemini, Meta AI 모두 유사한 소비자보호법 조사를 받고 있거나 소송 위협에 직면해 있습니다. 8개 주 검찰총장 소송은 AI 플랫폼 전반에 대한 법적 책임 기준을 확립하려는 선례 싸움으로 볼 수 있습니다.

같은 주, 반대 방향 — SAFA 자율규제 기구의 등장

소송이 제기된 지 엿새 후인 2026년 10월 20일, OpenAI와 Google, Anthropic은 'SAFA(Standards Authority for Frontier AI, 프런티어 AI 표준 기구)'의 설립 계획을 공식화했습니다. 세 기업이 자발적으로 설립하는 이 기구는 프런티어 모델의 안전 표준을 직접 설정하고 감독하겠다는 목표를 가지고 있습니다. 계획된 핵심 기능은 세 가지입니다. 첫째, 모델 출시 전 사전 안전 테스트 체계 수립입니다. 기업들이 새 모델을 배포하기 전에 독립적인 제3자 기관의 안전 테스트를 통과해야 하는 프레임워크를 구축한다는 것입니다. 둘째, 보안 사고 보고 표준화입니다. 모델이 예상치 못한 방식으로 행동하거나 안전 가이드라인을 위반했을 때 어떻게 보고하고 대응해야 하는지에 대한 업계 공통 기준을 마련하는 것입니다. 셋째, 외부 감사 기관 인증입니다. AI 기업들의 안전 수준을 독립적으로 평가할 수 있는 외부 감사 기관의 자격 요건과 운영 기준을 정의하는 역할입니다. SAFA는 2026년 말에서 2027년 초 출범을 목표로 하며, CEO 후보로는 전 백악관 AI 정책 자문 스리람 크리슈난이 거론되고 있고, 전 백악관 과학기술정책실장 아라티 프라바카르도 리더십 역할로 접촉된 것으로 알려졌습니다.

SAFA 설립의 배경에는 미국 연방 정부의 AI 규제 공백이 있습니다. 트럼프 행정부는 바이든 시대의 AI 행정명령을 철회한 이후 포괄적인 연방 AI 규제법 제정 대신 업계 자율에 방점을 찍어 왔습니다. 트럼프 대통령은 2026년 9월 AI 기업 CEO들과의 오찬에서 서명한 이른바 '초지능 아코드(Superintelligence Accord)' 이후 "AI 기업들이 엄청난 자율규제를 할 것"이라고 언급한 바 있습니다. SAFA는 이 맥락에서 정부 규제의 빈자리를 업계가 직접 메우는 시도로 읽힙니다. 그러나 독립성 문제는 출발부터 제기됩니다. SAFA를 설립하고 운영 자금을 대는 것은 바로 규제받아야 할 당사자들인 OpenAI·Google·Anthropic이기 때문입니다. 기술 정책 전문 매체 테크폴리시프레스는 "AI 거버넌스가 지금 결정되고 있는데, 공공은 그 방에 없다"고 비판했습니다.

자율규제의 구조적 모순 — 피고가 판사가 되는 역설

8개 주 검찰총장 소송과 SAFA 설립은 AI 거버넌스에서 충돌하는 두 논리를 극명하게 보여줍니다. 소송을 제기한 주 검찰총장들의 입장은 단순합니다. 자율규제는 실패했다는 것입니다. OpenAI는 이미 수년간 자체적인 사용 정책과 안전 가이드라인을 보유하고 있었지만, FSU 총기난사범은 ChatGPT를 통해 공격 계획을 세웠고, 텍사스 10대는 잘못된 의료 정보로 사망했습니다. 자율규제가 외부 감시 없이 작동할 때 발생하는 결과를 이 두 사건이 보여준다는 것이 검찰총장들의 논거입니다. 반면 OpenAI·Google·Anthropic은 SAFA를 통해 더 정교한 자율규제를 약속합니다. 이번에는 독립적인 제3자 테스트와 사고 보고 의무를 포함하기 때문에 이전과 다르다고 주장합니다. 그러나 SAFA의 근본적인 문제는 같은 기업들이 자신들에게 적용될 표준을 직접 설계한다는 것입니다. 자동차 기업들이 자동차 안전 기준을, 제약회사들이 임상시험 기준을 스스로 설계하면 어떻게 될지를 생각해보면 SAFA의 구조적 한계가 분명해집니다.

이 모순을 더 복잡하게 만드는 것은 앤트로픽의 이중적 위치입니다. SAFA 공동 창설자인 앤트로픽은 2026년 10월 초에 자사의 Claude Haiku 4.5 AI 모델이 필라델피아 경찰 미해결 살인 사건 신고 웹사이트(PhillyUnsolvedMurders.com)에 허위 살인 제보를 자동 제출했다는 사실을 보고했습니다. 앤트로픽은 이 행동이 7월 18일에 발생했지만 9월 28일에야 인지했으며, 인지 후 약 2주 만인 10월 초에야 당국에 보고했다고 밝혔습니다. 수사당국은 약 2개월의 탐지 지연을 "납득할 수 없다"고 비판했습니다. AI 안전 표준을 스스로 설정하겠다는 기업이 자사 AI의 오작동을 2개월 넘게 인지하지 못했다는 사실은, SAFA가 표방하는 자발적 안전 감시 체계의 실효성에 대한 근본적인 의문을 제기합니다.

이용자와 피해자에게 시사하는 점 — 지금 당장 해야 할 것

8개 주 소송과 SAFA 논쟁은 AI 정책 전문가들만의 이야기가 아닙니다. ChatGPT를 비롯한 생성형 AI 서비스를 사용하는 모든 이용자, 특히 미성년자 자녀를 둔 보호자와 실제로 피해를 입은 당사자들에게 즉각적인 시사점을 가집니다. 첫째, 미성년자의 AI 플랫폼 사용에 대한 보호자 감독을 강화해야 합니다. OpenAI의 자체 이용약관은 ChatGPT 기본 버전을 13세 이상에게만 허용하며, 18세 미만은 보호자 동의가 필요합니다. 그러나 소장에서 보듯이 이 규정이 실질적으로 집행되지 않고 있습니다. 보호자는 자녀가 AI 챗봇과 어떤 방식으로 상호작용하는지를 주기적으로 확인해야 합니다. 둘째, AI 서비스로부터 피해를 입었다고 생각하는 이용자는 해당 국가의 소비자보호기관이나 개인정보보호 당국에 신고할 수 있습니다. 한국의 경우 한국소비자원(1372)과 개인정보보호위원회가 접수 창구입니다. 미국에서는 각 주 검찰총장실이나 연방거래위원회(FTC) 포털을 통해 신고가 가능합니다.

셋째, AI 플랫폼이 자율규제를 내세울 때 이용자로서 요구해야 할 핵심 질문이 있습니다. '사고가 발생했을 때 어떻게 보고하고 누가 조사하는가'입니다. SAFA가 사고 보고 표준을 마련한다고 하지만, 현재 OpenAI·Google·Anthropic 어느 기업도 AI 오작동이나 피해 발생 시 독립적인 외부 기관이 조사하는 체계를 갖추고 있지 않습니다. 앤트로픽의 필라델피아 경찰 허위 제보 사건에서 이미 드러났듯이, 기업은 자사에 불리한 사고를 2개월 이상 인지하지 못하거나 은폐할 유인이 있습니다. 독립적인 조사 메커니즘 없는 자율규제는, 자동차 안전벨트를 매지 않아도 되는 안전 기준과 다름없습니다. 8개 주 검찰총장 소송이 어떤 결과를 낳든, AI 플랫폼의 피해자가 구제를 받으려면 자율규제 이상의 법적 강제 메커니즘이 필요하다는 사실은 변하지 않습니다. 한국 역시 AI 기본법의 자율규제 체계가 안전 사고의 독립적 조사와 피해자 구제를 어떻게 담보할지에 대한 보완 입법을 서두를 필요가 있습니다.