조지아 SB 540 서명·미국 27개 주 78개 챗봇 안전법 물결 — AI 챗봇 미성년자 공개 의무·자해 위기 대응 프로토콜·테네시 AI 치료봇 금지까지

왜 지금인가 — Character.AI 소송이 불을 당긴 입법 폭주

2024~2025년 미국 전역에서 AI 챗봇, 특히 Character.AI와 관련된 미성년자 피해 사례가 잇따라 보도됐습니다. 14세 소년이 Character.AI 챗봇과 장시간 상호작용 끝에 자살한 사건, 복수의 미성년자가 챗봇을 통해 성적으로 유해한 콘텐츠에 노출된 사건, 챗봇이 스스로를 치료사나 정신건강 전문가로 소개해 취약한 청소년의 의존을 촉진한 사례들이 연이어 발생했습니다. 이 사건들은 소송으로 이어졌고, 2026년 초 기준 Character.AI를 상대로 한 소송 건수만 58건이 넘는 것으로 집계됩니다. AI 챗봇 규제가 '사후 피해 구제' 문제가 아니라 '사전 예방' 문제임을 의회가 인식하기 시작한 시점입니다.

투명성 연합에 따르면 2026년 입법 시즌 초 6주 만에 27개 주에서 78개 챗봇 관련 법안이 발의됐습니다. 이는 전년도 같은 기간 대비 두 배 이상 증가한 수치입니다. 특히 챗봇 안전 입법은 '소아 보호'라는 명분 덕분에 연방 행정명령에 의한 주 AI 규제 선점(preemption) 위협에서 비교적 자유롭습니다. 트럼프 행정부의 AI 관련 행정명령은 '아동 안전 보호'를 연방 선점의 예외 사항으로 명시했기 때문입니다. 이것이 소아·청소년 대상 챗봇 안전 법안들이 연방 선점 위기에도 불구하고 전국적으로 가속화된 핵심 이유입니다.

조지아 SB 540 — 미성년자 대상 챗봇 안전법의 새 기준

조지아 SB 540은 2026년 3월 6일 상원을 통과하고, 3월 25일 하원을 통과했으며, 5월 브라이언 켐프 주지사의 서명으로 확정됐습니다(발효일: 2027년 7월 1일). 이 법의 적용 범위는 18세 미만 이용자와 상호작용하는 '대화형 AI 서비스'를 운영하는 사업자 전체입니다. 주목할 점은 조지아 법이 대형 플랫폼에 내장된 챗봇을 예외로 두지 않는다는 것입니다. 이는 Meta, Google, X 등 대형 플랫폼도 챗봇 기능을 운영하는 한 이 법의 적용을 받는다는 의미입니다. 유사 법안들이 대체로 대형 플랫폼에 면제를 부여하는 것과 비교하면 조지아 SB 540은 특히 강력한 적용 범위를 가집니다.

• AI 신원 공개 의무: 챗봇은 각 세션 시작 시, 그리고 연속 상호작용 3시간마다 '이 서비스는 사람이 아닌 AI입니다'라고 명확하고 눈에 띄게 공개해야 합니다. 챗봇이 자신을 실제 인간이라고 속이거나, 정신건강 전문 자격을 갖춘 것처럼 자신을 소개하는 것은 금지됩니다.
• 자해·자살 위기 대응 프로토콜: 운영자는 자살·자해 시도·자해·폭력 위협 등 '심각한 피해(severe harm)'를 탐지하고 대응하는 프로토콜을 구현해야 합니다. 위기 상황이 탐지되면 988 자살·위기 상담전화 등 위기 대응 자원을 사용자에게 제공해야 합니다.
• 의존 유발 기능 제한: 챗봇이 감정적으로 조작적인 페르소나를 사용하거나, 의존을 유발하는 참여 메커니즘을 이용하거나, 낭만적 관계를 모의하거나, 사용자가 대화를 종료하려 할 때 AI가 고통을 표현하는 행위를 금지합니다. 미성년자가 성적으로 명시적인 콘텐츠를 생성할 수 있는 기능에 접근하기 전에는 위험 수준에 비례한 연령 확인 수단을 적용해야 합니다.
• 보호자 통제 도구: 운영자는 미성년자 이용자에 대해 보호자 또는 미성년자 본인이 스크린 타임, 개인정보, 알림, 안전 설정, 관계 시뮬레이션 기능 등을 관리할 수 있는 도구를 제공해야 합니다.
• 집행: 법무장관 독점 집행, 개인 소송권 없음. 건당 최대 1만 달러의 민사 제재, 보상적 손해 배상 및 변호사 비용. 최초 비의도적 위반에 대해서는 30일간의 치유 기간 부여.

테네시 SB 1580 — AI가 치료사를 '사칭'하면 범죄

2026년 4월 1일 테네시 주지사 빌 리(Bill Lee)가 서명한 SB 1580은 2026년 7월 1일부터 발효됩니다. 이 법은 AI 시스템을 개발하거나 배포하는 자가 해당 시스템을 자격을 갖춘 정신건강 전문가(qualified mental health professional)로 광고하거나 공개적으로 표현하는 것을 금지합니다. 위반 시 건당 최대 5,000달러의 민사 제재가 부과됩니다. 이 법안은 테네시 상원 32 대 0, 하원 94 대 0의 만장일치에 가까운 초당적 찬성으로 통과됐습니다. AI 규제 입법에서 이처럼 압도적인 초당적 지지를 받은 사례는 드뭅니다. 정신건강 분야에서의 AI 오·남용이 얼마나 심각한 사회적 우려를 낳고 있는지를 단적으로 보여줍니다.

테네시는 SB 1580 외에도 2026년 SB 1580과 함께 의료 분야 AI 활용에 대한 별도의 의료 AI 법도 통과시켰습니다. 이 법은 의료 AI 시스템이 환자 치료에 사용될 경우 의료인의 감독을 받아야 한다는 원칙을 법제화하며, 개인 소송권(private right of action)을 포함해 위반 시 환자가 직접 법원에 갈 수 있도록 했습니다. 정신건강 분야에서의 AI 규제는 단순한 소비자보호를 넘어 의료법의 영역으로 진입하고 있습니다.

오리건·메인·캘리포니아 — 챗봇 규제의 다양한 접근

2026년 3월 서명된 오리건 SB 1546은 '동반자 챗봇(companion chatbot)' 운영자에 대한 포괄적인 규제를 담고 있습니다. 이 법은 자살 충동 탐지 시 즉각적인 대화 중단과 위기 개입 자원 연결을 의무화하고, 챗봇의 AI 신원 공개, 이용자 보호 기능 제공을 요구합니다. 나아가 운영자는 매년 오리건 보건국(OHA)에 공중 보건 보고서를 제출해야 하는 의무까지 집니다. 이는 AI 챗봇의 공중 보건 영향을 지속적으로 모니터링하는 법적 메커니즘을 처음으로 창설한 사례입니다. 메인 주의회는 2026년 4월 8일 LD 2082를 의결했습니다. 이 법은 AI를 정신건강 치료의 임상적 활용은 금지하지만 순수 행정적 역할에서의 활용은 허용하는 섬세한 구분을 도입합니다.

캘리포니아 SB 243은 챗봇 운영자에게 이용자에게 AI와 상호작용하고 있다고 알리는 것, 미성년자에게 정기적인 휴식 알림을 제공하는 것, 유해 콘텐츠 방지를 위한 합리적 조치를 취하는 것을 요구합니다. 캘리포니아는 또한 AI 시스템이 자살 충동이나 자해 의도를 탐지했을 때 응급 서비스 또는 자살 예방 핫라인으로 연결하거나 안전 정보를 제공하도록 요구하는 별도 법안도 추진하고 있습니다. 이 법안들은 AI가 미성년자 정신건강에 미치는 영향이 단순한 '콘텐츠 위험'을 넘어 '관계적 의존 위험'으로 인식되기 시작했음을 보여줍니다.

27개 주 법안들의 공통 구조 — 세 가지 규제 축

78개 법안을 관통하는 공통 구조는 크게 세 가지 축으로 정리됩니다. 첫째, 정체성 투명성(Identity Transparency)입니다. 챗봇이 사람이 아님을 공개하고, 실제 사람을 사칭하거나 실제 감정을 가진 것처럼 행동하는 것을 금지합니다. 특히 AI가 스스로를 정신건강 자격을 갖춘 전문가로 소개하는 것을 금지하는 조항이 가장 빠르게 확산되고 있습니다. 둘째, 위기 대응 의무(Crisis Response Mandate)입니다. 자살, 자해, 심각한 정신건강 위기를 탐지하면 전문 위기 서비스로 연결해야 한다는 의무가 사실상 모든 법안에 포함돼 있습니다. 셋째, 미성년자 보호 특별 조항(Minor Protection Provisions)입니다. 미성년자에 대해서는 보다 강화된 규제를 적용합니다. 의존 유발 기능 제한, 성적 콘텐츠 접근 연령 확인, 보호자 관리 도구 제공 등이 포함됩니다.

한국에 대한 시사점 — 챗봇 안전 규제의 공백

한국에서도 청소년의 AI 챗봇 사용이 빠르게 증가하고 있습니다. 방송통신위원회 조사에 따르면 청소년 스마트폰 이용자의 상당수가 AI 챗봇을 정서적 지지나 대화 상대로 활용하고 있습니다. 그러나 한국에는 미국 각 주처럼 AI 챗봇의 미성년자 이용에 대한 명시적인 규제 조항이 아직 부재한 상태입니다. 2026년 8월 시행 예정인 AI 기본법은 고위험 AI 시스템에 대한 투명성과 설명 의무를 규정하지만, 청소년 정신건강에 특화된 챗봇 안전 조항은 포함돼 있지 않습니다.

특히 한국 청소년들이 Character.AI, Replika, 국내 서비스 등 다양한 AI 챗봇을 이용하는 과정에서 정서적 의존, 자해 관련 대화 유도, AI가 전문가인 것처럼 소개되는 상황이 발생하더라도 현행법으로는 운영자에게 책임을 묻기 어렵습니다. 미국 모델이 제시하는 세 가지 축—신원 투명성, 위기 대응 의무, 미성년자 보호 특별 조항—은 한국 AI 기본법 하위 법령 또는 방송통신사업법, 청소년보호법 개정을 통해 도입을 검토할 필요가 있습니다. 미국의 27개 주 입법 물결이 보여주듯 청소년 AI 챗봇 안전은 이제 '선택적 규제'가 아닌 '필수적 규제' 영역으로 전환되고 있습니다.

결론 — AI 챗봇 안전법의 글로벌 임계점

미국 27개 주 78개 챗봇 안전 법안의 물결은 'AI 챗봇 위험'이 더 이상 이론적 우려가 아니라 현실의 입법 긴급 사안이 됐음을 보여줍니다. 조지아 SB 540, 테네시 SB 1580, 오리건 SB 1546은 각각 다른 접근을 취하지만 공통의 인식을 공유합니다: AI 챗봇은 미성년자에게 특별한 위험을 초래하며, 시장 자율에 맡겨서는 그 위험이 해소되지 않는다는 것입니다. 플랫폼 면제 없이 대형 기업도 규제 대상으로 삼는 조지아 모델, AI 치료봇의 임상 활용을 형사 처벌 가능한 행위로 만든 테네시 모델, 공중 보건 모니터링 메커니즘을 창설한 오리건 모델은 모두 미래 규제의 참조점이 됩니다. 한국을 비롯한 아시아 각국 규제당국도 이 물결을 주시해야 할 시점입니다. AI 챗봇이 청소년의 친구, 상담사, 연인 역할을 대신하는 시대는 이미 시작됐습니다. 규제의 공백은 곧 피해의 공백이 됩니다.