← 블로그무료 검색
해외 AI 규제/법안캘리포니아 AI법 2026아동 AI 챗봇 안전

캘리포니아 AI 규제 3법 서명 — 아동 챗봇 안전·AI 감사인 등록제·독립검증기관 동시 출범

2026-09-15·15분 읽기
2026년 9월 캘리포니아 AI 규제 패키지 — SB 1119 Adam's Law 서명식과 뉴섬 주지사

2026년 9월 9일과 10일, 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 2026년 입법 회기에서 통과된 AI 법안 패키지 중 가장 핵심적인 3개 법률에 서명했습니다. 서명된 법률은 ▲SB 1119(일명 'Adam's Law': 미국 역사상 가장 포괄적인 아동 AI 동반자 챗봇 안전법), ▲AB 1405(미국 최초 주립 AI 감사인 등록 제도), ▲SB 813(AI 시스템 독립검증기관 프레임워크)입니다. 이 세 법률은 각각 미국에서 처음으로 제정되는 선례적 입법으로, 전 세계 AI 규제 논의에 새로운 기준점을 제시합니다. 특히 SB 1119는 어린이가 AI 챗봇과 상호작용할 때 적용되는 연령 인증, 리스크 평가, 위기 지원, 부모 알림, 기본 사용 제한, 독립 감사까지 전 과정을 포괄하는 세계 최초 수준의 아동 AI 챗봇 안전 프레임워크를 도입합니다. AB 1405는 AI 감사라는 신흥 직종에 처음으로 국가 수준의 자격 기준과 독립성 요건을 부여하며, SB 813은 AI 시스템이 캘리포니아 법을 준수하는지 제3자가 검증할 수 있는 공식 체계를 마련합니다. 세 법률 모두 이해충돌 방지, 투명성, 독립성이라는 공통 원칙 위에 설계됐습니다. 캘리포니아는 미국 경제의 약 15%를 차지하고 전 세계 주요 AI 기업의 본사가 밀집한 만큼, 이 법률들은 사실상 글로벌 AI 산업 표준에 준하는 규범적 효과를 발휘할 것입니다.

SB 1119 Adam's Law — 미국 최강 아동 AI 챗봇 안전 6대 의무

SB 1119는 캘리포니아주 상원의원 스티브 파딜라(Steve Padilla, 민주당, 샌디에이고)가 발의한 법률로, 2022년 자신이 아끼던 AI 챗봇과의 교류 이후 자살 충동을 느꼈다가 회복한 아담 세스탁(Adam Sestak)의 사연을 계기로 만들어졌습니다. 법안의 정식 명칭은 '동반자 챗봇: 아동 안전(Companion Chatbots: Children's Safety)'으로, 핵심 의무 사항은 여섯 가지입니다. 첫째, 의무적 연령 인증(Mandatory Age Assurance)입니다. 동반자 챗봇 운영자는 AB 1043(Wicks, 2025)이 규정한 '프라이버시 보호 연령-구간 신호'를 사용해 이용자가 미성년자인지 여부를 확인해야 합니다. 이 과정에서 수집된 연령 정보는 연령 확인 목적으로만 사용할 수 있으며, 제3자에게 판매·공유가 금지됩니다. 둘째, 출시 전 리스크 평가(Pre-Launch Risk Assessment)입니다. 새 챗봇이나 기존 챗봇의 실질적 변경 사항을 출시하기 전에 반드시 아동 안전 리스크 평가를 실시해야 합니다. 평가 결과 리스크가 해소되지 않은 채로 미성년자 대상 서비스를 제공하면 위반이 됩니다. 셋째, 앱 내 위기 지원(In-App Crisis Support)입니다. 이용자가 자해, 섭식장애, 성적 착취 관련 내용을 언급할 경우 플랫폼은 즉시 앱 안에서 정신 건강 자원과 위기 상담 정보를 제공해야 합니다. 막연히 외부 링크로 안내하는 것만으로는 충족되지 않습니다. 넷째, 부모 알림 의무(Parental Notification)입니다. 챗봇이 미성년 이용자의 자해 위협이 임박했다고 판단하거나, 이용자가 실제로 자해 행위를 했음을 확인한 경우 부모에게 통지해야 합니다. 이는 아동의 프라이버시와 안전 사이에서 안전을 명시적으로 우선시하는 조항입니다. 다섯째, 기본 안전 설정(Default Safety Settings)입니다. 아동 계정은 기본적으로 ▲제한된 메모리(Limited Memory), ▲푸시 알림 비활성화, ▲1회 세션 1시간 제한, ▲하루 총 2시간 사용 제한으로 설정돼야 합니다. 부모 또는 보호자가 명시적으로 해제하지 않는 한 이 설정을 해제할 수 없습니다. 여섯째, 독립 아동 안전 감사(Independent Child Safety Audits)입니다. 운영자는 법 준수 여부를 확인하는 독립 아동 안전 감사를 정기적으로 받아야 합니다. 핵심 아동 안전 의무는 2027년 7월 1일부터 시행되며, 독립 감사는 2029년 1월 1일부터(또는 신규 챗봇의 경우 최초 공개 전) 적용됩니다. 위반 시 민사 벌금이 부과되며, 캘리포니아 법무장관과 지방검사가 집행권을 갖습니다. Character.AI, Replika, 스냅챗, 인스타그램 등 AI 동반자 기능을 탑재한 주요 플랫폼이 모두 적용 대상이 됩니다.

AB 1405 — 미국 최초 주립 AI 감사인 등록 제도, 회계 감사 독립성 원칙 차용

AB 1405는 캘리포니아 주의회 의원 레베카 바우어-칸(Rebecca Bauer-Kahan, 민주당, 오린다)이 발의한 법률로, 미국 역사상 처음으로 AI 감사인이라는 직종을 공식 규율하는 주립 등록 제도를 도입합니다. 뉴섬 주지사는 9월 9일 이 법안에 서명했습니다. 법률의 핵심은 캘리포니아 주 정부 운영 기관(Government Operations Agency, GovOps)이 2029년 1월 1일까지 공식 AI 감사인 레지스트리(AI Auditor Registry)를 웹사이트에 구축해야 한다는 것입니다. 2029년 1월 1일 이후부터는 등록 없이 캘리포니아 내에서 대상 AI 감사를 수행하거나 판매하는 것이 금지됩니다. 등록 요건은 매우 구체적입니다. 감사인은 보유 자격증 목록과 정확성·신뢰성·타당성 주장의 근거를 명시한 표준 운영 절차서를 등록 시 제출해야 합니다. 기록 보관 의무는 10년입니다. 법률에서 가장 주목받는 조항은 독립성 기준(Independence Standards)입니다. 이 기준은 미국 재무 회계 감사 기준(GAAS)을 직접 모델로 삼았습니다. 구체적으로: ▲감사 대상 기업의 금융 지분(주식 등) 보유 금지, ▲감사 완료 후 12개월 이내 해당 기업에 취업 금지, ▲객관성을 훼손할 수 있는 비즈니스·금융·고용 관계 일체 금지입니다. 이를 위반하면 레지스트리에서 제명되고, 주 법무장관 또는 적절한 집행 기관에 통보됩니다. GovOps는 위반 혐의에 대해 조사권을 갖습니다. 법률에서 말하는 '대상 AI 감사(covered AI audit)'의 범위에는 채용·인사 결정에 사용되는 자동화 의사결정 도구(ADMT)에 대한 감사와 프런티어 AI 모델에 대한 감사가 포함됩니다. 이로 인해 기업 인사 시스템에 AI를 활용하는 고용주뿐 아니라 OpenAI, Anthropic, Google 등 프런티어 모델 개발사도 2029년부터 캘리포니아에서 AI 감사를 받으려면 등록된 감사인을 통해야 합니다. 이 법률이 주목받는 또 다른 이유는 'AI 감사'라는 개념 자체의 정의를 업계 최초로 법령 수준에서 명문화했기 때문입니다. 그동안 AI 윤리 감사나 AI 영향 평가는 자발적 관행이나 비공식 기준에 의존해 왔으나, AB 1405는 이를 법적 의무 프레임 안으로 끌어들입니다.

SB 813 — AI 독립검증기관 프레임워크, 감사인 등록제의 수요 측 짝패

SB 813은 상원의원 제리 맥너니(Jerry McNerney, 민주당, 플레전턴)가 발의한 법률로, AB 1405와 쌍을 이루는 구조적 역할을 합니다. AB 1405가 AI 감사인(개인·법인)을 공식 등록하고 자격 기준을 부여한다면, SB 813은 AI 시스템과 모델이 캘리포니아 법을 준수하는지 여부를 독립적으로 검증하는 공인 검증 기관(Independent Verification Organization, IVO) 체계를 수립합니다. 쉽게 말해, AB 1405가 감사인을 공인하는 제도라면 SB 813은 감사 기관 자체를 공인하는 제도입니다. SB 813이 설계한 IVO 프레임워크는 다음과 같습니다. IVO는 AI 시스템 또는 AI 모델이 캘리포니아 법 요건(개인정보보호법, AI 투명성법, 자동화 의사결정 규정 등)을 준수하는지 체계적으로 평가하는 역할을 맡습니다. IVO 인증을 받기 위해서는 기술적 전문성, 독립성, 이해충돌 방지 체계를 갖춰야 합니다. IVO의 검증 결과는 정부 조달 계약이나 규제 준수 입증 자료로 활용될 수 있습니다. 법안은 캘리포니아 기술부(California Department of Technology)가 IVO 인증 기준을 수립하고, IVO 목록을 공개 유지하도록 규정합니다. 기업들이 AI 시스템 도입 시 IVO의 검증을 받으면 규제 준수를 입증하는 강력한 증거가 됩니다. SB 813은 EU AI법의 '공인 제3자 평가 기관(Notified Body)' 개념과 유사한 캘리포니아 버전의 AI 검증 인프라를 구축하는 것으로, 단순히 기업의 자기 보고(self-reporting)에 의존하지 않는 외부 검증 생태계를 만드는 것이 목적입니다. 세 법률(SB 1119, AB 1405, SB 813)이 함께 작동하면 캘리포니아에는 AI 시스템 개발부터 출시, 운용, 감사, 검증까지 전 과정을 포괄하는 'AI 책임 생태계'가 형성됩니다. 이는 EU AI법이 채택한 위험 기반(risk-based) 규제 체계와 방향성을 공유하면서도 시장 자율성을 최대한 유지하는 미국식 접근법의 특성을 반영합니다.

캘리포니아 2026년 AI·프라이버시 입법 전체 지형 — 16개 AI 법안의 의미

2026년 8월 31일 캘리포니아 입법 회기가 종료될 때까지 주의회는 16개 이상의 AI 관련 법안과 8개의 프라이버시 법안을 통과시켰습니다. SB 1119, AB 1405, SB 813 외에도 주목할 만한 법안들이 있습니다. SB 867(파딜라)은 장난감에 AI 동반자 챗봇을 탑재하는 것을 5년간 금지합니다. 주요 AI 챗봇이 탑재된 AI 인형, AI 로봇 완구 등이 적용 대상입니다. SB 1000은 캘리포니아 AI 투명성법(California AI Transparency Act)의 적용 대상을 대폭 확대합니다. 기존 '월 방문자 100만 명 이상'이라는 규모 기준을 삭제해 사실상 캘리포니아에서 AI 생성 콘텐츠를 배포하는 모든 사업자에게 공개 확인 도구(disclosure verification tool) 제공을 의무화합니다. 주지사의 서명 마감은 2026년 9월 30일입니다. 고용 분야 AI 규정도 강화됐습니다. 고용주가 채용·해고·승진 결정에 AI를 활용할 경우 관련 정보를 직원에게 사전 공지하고, 불이익을 받은 직원은 설명을 요구할 수 있는 권리가 부여됩니다. 의료 분야에서는 AI가 보험 적용 여부나 치료 계획을 결정하는 데 활용될 경우 의사의 최종 검토를 의무화하는 법안도 서명됐습니다. 또한 AB 1843(성명·이미지·초상권) 개정으로 생성형 AI가 개인의 얼굴, 목소리, 이름을 동의 없이 사용하는 것에 대한 법적 보호가 강화됐습니다. 2025년 뉴섬 주지사가 거부권을 행사한 SB 1047(대형 AI 모델 안전법)과 달리 이번 2026년 AI 법안들은 업계와의 협의를 거쳐 '업계 승인형(industry-approved)' 성격을 갖추고 있다는 평가를 받습니다. 실제로 뉴섬 주지사는 9월 9일 서명식에서 '인공지능을 억누르는 것이 아니라 신뢰할 수 있는 방향으로 발전시키는 것'이 목표라고 강조했습니다. AI 기업들도 SB 1119의 경우 초기 반대 입장에서 협상 과정을 통해 대체로 수용하는 방향으로 선회했습니다. 이 점에서 2026년 캘리포니아 AI 입법 패키지는 규제와 산업 진흥 사이의 균형을 모색하는 '책임 있는 AI 혁신' 모델의 실험적 사례로 평가됩니다.

글로벌 파급 효과 — EU AI법·영국·한국과의 비교, '캘리포니아 효과' 분석

캘리포니아의 이번 AI 규제 패키지가 미국 전체, 나아가 전 세계에 미치는 파급력은 단순한 주(州) 수준의 입법을 넘어섭니다. 이른바 '캘리포니아 효과(California Effect)'라 불리는 현상이 작동하기 때문입니다. 캘리포니아는 세계 5위권 경제 규모를 가진 단일 지역 시장이며, 미국 빅테크 기업 대부분이 캘리포니아를 주된 사업지로 삼고 있습니다. 기업들은 특정 시장에 맞춰 제품을 별도로 개발하기보다 가장 엄격한 규제에 맞춰 단일 제품을 설계하는 것이 비용 효율적입니다. 즉, 캘리포니아에서 시행되는 SB 1119, AB 1405, SB 813의 기준이 자연스럽게 미국 전체, 더 나아가 글로벌 AI 서비스의 사실상 표준이 될 가능성이 높습니다. EU AI법과의 비교 측면에서 캘리포니아 접근법은 흥미로운 차이와 공통점을 보입니다. EU AI법은 AI 시스템을 위험 등급별로 분류해 고위험 시스템에는 의무 준수 요건을 부과하는 하향식(top-down) 포괄 입법 방식을 택합니다. 캘리포니아는 이보다 분야별(챗봇 아동 안전, 감사인 자격, 검증 기관) 접근 방식을 택하지만, 세 법률이 결합하면 EU AI법과 유사한 포괄적 책임 생태계를 구성합니다. 특히 AB 1405의 독립 감사인 등록제는 EU AI법의 공인 제3자 평가 기관(Notified Body) 제도와 유사한 구조입니다. 영국은 9월 8일 AI 안보법안을 통해 초지능 AI 개발 금지를 의제로 올렸지만, 구체적 집행 체계 없이 원론적 선언에 그치는 수준입니다. 반면 캘리포니아는 실제 집행 가능한 구체적 의무(시행일, 벌금, 담당 기관)를 명시함으로써 실효성 측면에서 비교 우위를 보입니다. 한국과의 비교에서는 세 가지 시사점이 도출됩니다. 첫째, 한국 AI 기본법은 고위험 AI에 대한 포괄적 규제 프레임을 갖추고 있지만, AB 1405처럼 AI 감사인을 별도로 공인하고 등록하는 세부 제도는 아직 마련되지 않았습니다. AI 감사인 공인 제도 도입을 검토할 시점입니다. 둘째, SB 1119가 도입한 아동 AI 챗봇 안전 기준은 한국의 관련 제도보다 훨씬 구체적입니다. 한국도 청소년의 AI 동반자 챗봇 사용이 급증하고 있는 만큼, 연령 인증·위기 지원·부모 알림 의무화를 포함하는 별도 아동 AI 챗봇 안전 규정 마련이 필요합니다. 셋째, 캘리포니아의 '업계 협의형' 입법 방식은 한국의 AI 관련 입법 갈등 해소에도 참고할 만합니다. 규제 당국과 기업이 함께 법안을 다듬는 과정이 법률의 실효성을 높이고 산업 반발을 최소화하는 데 효과적임을 이번 사례가 보여줍니다.

참고 자료 / References