앤트로픽, 의회에 AI 안전법안 초안 제출 — '10억 달러 피해·50명 사망' 기준으로만 정부 개입 허용하는 역대 최약체 규제안 논란

유출된 법안의 핵심 구조 — 무엇이 허용되고 무엇이 금지되는가

앤트로픽이 2026년 9월 29일자로 의원들에게 회람한 법안 초안은 총 네 가지 핵심 메커니즘으로 구성됩니다. 첫 번째는 180일 주기 모델 평가 의무입니다. 일정 규모 이상의 프런티어 AI 모델(법안은 컴퓨팅 임계값으로 정의)을 개발하는 기업은 상무부에 등록된 독립 평가 기관으로부터 6개월마다 안전 평가를 받아야 합니다. 두 번째는 72시간 위험 알림 의무입니다. 평가 기관이 위험을 식별하면 72시간 이내에 상무부에 통보해야 합니다. 세 번째가 논란의 핵심인 차단 명령 기준입니다. 평가 기관의 통보를 받은 상무부 장관은 연방 지방 법원(D.C. 지역 관할)에 차단 명령을 신청할 수 있는데, 그 조건이 '10억 달러 이상의 피해 또는 50명 이상의 사망·중상 위험'이 임박해야 한다는 것입니다. 법원은 최장 45일의 차단 명령을 발할 수 있습니다. 네 번째는 투명성 보고입니다. 기준 이하의 위험이라도 기업은 새 모델 배포마다 투명성 보고서를 공개하고, 중대 사고를 15일 이내에 보고하며, 사망·부상 임박 위험을 24시간 이내에 통보해야 합니다. 이 구조에서 눈에 띄는 것은 상무부 외 다른 연방 기관의 행동을 명시적으로 제한한다는 점입니다. FTC·DOJ·NIST 등이 독자적인 AI 안전 규제 조치를 취하는 것을 법안이 차단하는 구조입니다.

법안이 커버하는 위험의 유형도 극히 제한적입니다. 차단 명령을 신청할 수 있는 위험은 단 세 가지입니다. 첫째, 생물학 무기 제조 지원, 둘째, AI가 개발자의 통제에서 벗어나는 경우(자율적 행동으로 외부 시스템 접근 등), 셋째, 공격적 사이버 작전 수행입니다. AI 기반 금융 사기, 딥페이크 성착취물, 개인 프라이버시 침해, 노동 시장 교란, 허위정보 유포 등 현재 실제로 발생하고 있는 AI 피해의 대부분은 이 세 범주 어디에도 해당하지 않습니다. 앤트로픽은 이 범위를 '가장 치명적인 위험'에 집중하기 위한 것이라고 설명했지만, 비판자들은 이것이 실질적으로 현존하는 AI 피해를 규제 밖으로 빼내는 설계라고 지적합니다. AI 안전 단체 퓨처 오브 라이프 인스티튜트(Future of Life Institute)의 선임 연구원 매트 위조렉은 "이 법안은 AI 기업들에게 '우리는 대규모 생물 테러 공격을 지원하지 않겠다'고 약속하는 것 외에 거의 아무것도 요구하지 않는다"고 직격했습니다.

비판의 다섯 가지 핵심 논점

법안 유출 이후 각 진영에서 제기된 비판은 크게 다섯 가지로 정리됩니다. 첫 번째는 '사실상 규제 면제' 비판입니다. 마더 존스, AI 나우 인스티튜트, 알고리즘 저스티스 리그 등은 10억 달러·50명 기준이 현실에서 달성되기 불가능에 가까운 문턱이라고 주장합니다. AI 안전 위반으로 인해 '10억 달러 이상의 피해가 임박했다'고 사전에 증명하는 것은 법원에서 사실상 불가능한 입증 부담입니다. AI가 실제로 그 피해를 끼치기 전에는 문턱을 충족할 수 없고, 끼친 이후에는 이미 늦다는 구조입니다. 두 번째는 '주 정부 권한 선점(preemption)' 비판입니다. 초안은 상무부만이 차단 명령을 신청할 수 있도록 하면서, 캘리포니아·텍사스·뉴욕 등 주 정부가 독자적으로 AI를 규제하는 권한을 암묵적으로 봉쇄합니다. 이것은 캘리포니아가 통과시킨 AI 투명성 관련 각종 주법, 텍사스의 AI 차별금지법 등을 무력화할 수 있는 조항입니다. 세 번째는 '스타트업 죽이기' 우려입니다. 전 백악관 AI 정책 자문 데이비드 색스는 법안의 컴퓨팅 임계값 기준이 '실리콘밸리 대부분의 기업을 포괄한다'며 소규모 스타트업에 불균형한 규제 부담을 준다고 비판했습니다. 이것은 거대 기업에 유리한 규제 포획(regulatory capture)의 전형적 패턴이기도 합니다.

네 번째 비판은 '구멍 뚫린 사전 감사' 문제입니다. 법안은 독립 평가 기관의 사전 감사를 의무화하지만, 그 평가 기관을 누가 선정하고 인증하는지는 명확히 규정하지 않았습니다. AI 전문 법률 매체 스탠포드 인터넷 옵서버토리는 이것이 기업이 자신에게 우호적인 평가 기관을 선택하는 '감사 쇼핑(audit shopping)' 문제를 야기할 수 있다고 지적했습니다. 특히 평가 기관이 AI 기업의 용역 계약을 통해 수익을 올리는 구조라면, 독립성이 근본적으로 훼손됩니다. 다섯 번째 비판은 '앤트로픽의 자기 이익 설계' 의혹입니다. 앤트로픽은 현재 GPT-5·제미나이 2 등 경쟁사 모델보다 작은 규모의 클로드 시리즈를 운영하고 있습니다. 이 법안의 컴퓨팅 임계값이 앤트로픽의 현행 모델은 포함하지 않거나 간신히 포함하는 수준으로 설정돼 있다는 분석이 나왔습니다. 규제 컨설팅 기업 테크폴리시프레스는 "앤트로픽이 규제 부담을 경쟁사에 집중하면서 자신은 상대적으로 가볍게 적용받는 구조를 설계했다"는 의혹을 제기했습니다. 앤트로픽 대변인은 이를 강하게 부인했지만, 초안을 직접 읽은 여러 법학자들은 이 구조적 편향이 법안 전체에 걸쳐 일관되게 나타난다고 평가했습니다.

앤트로픽의 반응과 백악관의 입장 — 안전 기업의 역설

법안 초안 공개 이후 앤트로픽의 대응은 신중하면서도 방어적이었습니다. 앤트로픽 연방정부 담당 수석인 제이슨 퍼셀은 10월 20일 의회 보좌진과의 비공개 브리핑에서 '주 정부 역할 보존을 위해 선점(preemption) 조항을 다시 쓰겠다'고 약속했습니다. 그러나 10억 달러 기준이나 50명 사망 문턱을 낮추겠다는 약속은 하지 않았습니다. 앤트로픽 CEO 다리오 아모데이는 같은 날 소셜미디어를 통해 "우리는 단지 시작점을 제공한 것이다. 의회가 최종 결정한다"고 밝혔습니다. 아모데이의 발언은 기업 입장을 방어하면서도 법안의 주인은 의회라는 점을 강조해 책임을 회피하는 이중적 전략으로 비쳐졌습니다. 백악관의 반응은 미묘하게 긍정적이었습니다. 트럼프 행정부 관료들은 법안 초안에 직접 논평을 피하면서도, '업계가 스스로 안전 기준을 만들려는 노력을 지지한다'는 일반론적 지지를 표명했습니다. 이것은 트럼프 행정부가 9월 초지능 아코드 이후 일관되게 내세워온 자율규제 우선 기조와 맥락을 같이합니다. 문제는 앤트로픽이 그동안 자신을 업계 최선도 '안전 중심' AI 기업으로 포지셔닝해 왔다는 점입니다. 아모데이는 여러 공개 포럼에서 "AI는 핵무기에 필적하는 위험성을 가질 수 있다"고 경고해왔습니다. 그러나 정작 법안에서는 그 핵무기에 필적하는 위험으로부터 사회를 보호하는 정부의 권한을 극히 좁게 설정했습니다. AI 안전 연구자들은 이것을 '안전 세탁(safety washing)'의 전형으로 비판합니다. 위험성을 강조해 공공의 신뢰를 얻은 뒤, 실제 규제 국면에서는 정부 개입을 최소화하는 전략이라는 것입니다.

앤트로픽의 로비 강화와 AI 법안 지형의 변화

이번 법안 논란은 앤트로픽의 워싱턴 DC 정치 관여가 전례 없는 수준으로 확대되고 있는 맥락에서 이해해야 합니다. 연방 로비 공시 자료에 따르면, 앤트로픽은 2026년 1~6월 로비 활동에 220만 달러를 지출했습니다. 이는 2025년 전체 지출액인 170만 달러를 반기 만에 초과한 수치입니다. 같은 기간 앤트로픽은 전직 상원 법사위원회 수석 자문관 2명, 전직 상무부 AI 정책 담당관 1명을 로비스트로 채용했습니다. 업계 전체로 보면, OpenAI·구글·메타·마이크로소프트·앤트로픽 등 주요 AI 기업들이 2026년 상반기에만 미국 AI 정책 로비에 총 2,400만 달러 이상을 지출한 것으로 집계됩니다. 이 숫자는 2025년 상반기 대비 약 86% 증가한 것입니다. 법안 지형 자체도 변화하고 있습니다. 앤트로픽의 법안 외에도, 상원에는 척 슈머 원내대표가 지원하는 AI 거버넌스 법안, 하원에는 테드 리우 의원의 AI 안전 감독법, 그리고 테크-친화적인 상원 상무위원회 AI 소위의 대안 법안 등이 경쟁 중입니다. 앤트로픽의 초안은 이 경쟁에서 '업계 친화적'인 기준점을 먼저 설정해 입법 논의를 자신들에게 유리한 방향으로 끌고 가려는 전략으로 해석됩니다. 기술 정책 연구소 조지타운 보안·신기술 센터(CSET)의 한 연구원은 "앤트로픽 법안이 의회에서 통과될 가능성은 낮지만, 기준점(anchor)으로서의 역할은 강력히 수행할 것"이라고 분석했습니다.

한국과 글로벌 AI 규제에 주는 시사점 — '안전 우선'의 이름으로 포장된 규제 약화

앤트로픽 법안 논란은 한국 AI 거버넌스 논의에도 직접적인 교훈을 제공합니다. 한국은 2026년 초 AI 기본법을 제정하면서 프런티어 AI에 대한 자율규제와 정부 감독의 균형을 어떻게 설정할지를 시행령에서 구체화하는 작업을 진행 중입니다. 앤트로픽 법안 사례는 세 가지 구체적인 교훈을 제공합니다. 첫째, 피해 기준 설정이 핵심입니다. 정부 개입을 허용하는 피해 기준을 어떻게 설정하느냐가 법의 실효성을 결정합니다. '중대한 피해'나 '심각한 위험' 같은 추상적 표현은 기업 변호사들의 좁은 해석으로 무력화됩니다. EU AI법이 구체적인 금지 행위 목록을 열거하는 방식을 택한 이유입니다. 둘째, 산업부처 독점 대 다부처 공조입니다. 앤트로픽 법안은 상무부 독점 집행을 명시했습니다. 한국 AI 기본법은 과기정통부 주도 거버넌스를 기본으로 하는데, 디지털 성범죄나 금융 사기 같은 실제 AI 피해 현장을 다루는 여성가족부·금융위원회·개인정보보호위원회 등이 독자적 집행 권한을 가질 수 있어야 합니다. 셋째, 독립적 평가 기관의 실질적 독립성 확보입니다. 평가 기관이 AI 기업과의 유상 계약 관계에 있을 경우 독립성이 훼손됩니다. 한국도 국가정보원 산하 검증 기관이나 한국인터넷진흥원 등 공공기관이 독립적 역할을 맡거나, 완전히 독립된 민관합동 기구를 신설하는 방안을 검토할 필요가 있습니다.

앤트로픽 법안 사례는 AI 거버넌스의 핵심 딜레마를 드러냅니다. AI 위험을 가장 잘 이해하는 기업이 입법 논의를 주도할 때, 그 기업의 지식은 공공의 안전이 아니라 자신의 이익을 위해 사용될 수 있습니다. 이것이 정부 규제 기관과 시민사회 단체, 독립 기술 정책 연구자들이 업계 로비로 형성된 기준점에 대해 체계적이고 지속적인 반론을 제기해야 하는 이유입니다. AI 안전은 기업이 '안전 중심'을 자처한다고 달성되지 않습니다. 측정 가능하고 집행 가능한 기준, 독립적인 평가, 실효성 있는 정부 개입 권한, 그리고 피해자가 구제를 받을 수 있는 법적 경로가 동시에 갖춰질 때 비로소 달성됩니다. 앤트로픽의 법안 초안은 이 네 가지 중 어느 것도 충분히 보장하지 않으며, 이것이 AI 안전 단체들이 강하게 반발하는 근본 이유입니다.