← 블로그무료 검색
해외 AI 규제/법안중국 AI 동반자 규제 2026감정형 AI 안전

중국 AI 동반자 서비스 규제 시행 — CAC '의인화 AI 관리 임시조치' 전면 분석

2026-08-17·13분 읽기
중국 CAC AI 의인화 동반자 서비스 규제 2026 — Doubao Qwen 서비스 중단

2026년 7월 15일, 중국에서 세계 최초의 AI 동반자(컴패니언) 전문 규제가 전면 시행됐습니다. 국가인터넷정보판공실(CAC)이 주도하고 국가발전개혁위원회(NDRC), 공업정보화부(MIIT), 공안부(MPS), 국가시장감독관리총국(SAMR)이 공동 발표한 '인공지능 의인화 상호작용 서비스 관리 임시조치(AI 의인화 임시조치)'가 공식 발효된 것입니다. 이 규제는 가상 연인, 노인 동반자, 아동 돌봄, 감정 지원 AI 등 인간의 성격과 감정 패턴을 모방해 지속적인 정서적 상호작용을 제공하는 모든 AI 서비스에 적용됩니다. 규제 발효와 함께 ByteDance의 Doubao와 Alibaba의 Qwen은 동반자 기능을 전격 중단했고, 수백만 명의 이용자가 저장된 대화 이력을 잃었습니다. 발효 첫 3주 동안 CAC는 12건의 과징금을 부과하며 총 420만 위안(약 8억 원)을 징수했습니다. 이 조치는 단순한 중국 내 규제를 넘어, 미국·유럽·한국 등 각국이 주목하는 '글로벌 감정형 AI 규제 모델'로 떠오르고 있습니다. 이 글은 임시조치의 입법 배경, 핵심 의무 사항, 미성년자 보호 조항, 첫 집행 사례, 그리고 빠르게 성장하는 한국 AI 챗봇 시장에 던지는 시사점을 종합 분석합니다.

규제 탄생의 배경 — 청소년 챗봇 집착·저출생·데이터 남용의 삼중 위기

중국 CAC가 AI 동반자 서비스를 전문으로 규율하는 법규를 마련하게 된 배경에는 세 가지 사회적 위기가 겹쳐 있습니다. 첫 번째는 청소년의 AI 챗봇 감정 의존 문제입니다. 2025년 하반기부터 중국 내 여러 언론과 학술 보고서는 중학생·고등학생들이 Doubao, 星野(Xingyě), Character AI 유사 서비스에 수십 시간을 소비하며, AI를 '진짜 친구' 혹은 '연인'으로 인식하는 사례를 집중 보도했습니다. 일부 청소년이 AI 동반자와의 관계가 끊기자 극단적 반응을 보였다는 사례도 보고됐습니다. CAC는 이를 청소년 정신 건강에 대한 구조적 위협으로 판단했습니다. 두 번째는 저출생 문제와의 연계입니다. 중국 정부는 AI 동반자 서비스가 젊은 세대의 실제 인간관계 형성 욕구를 대체함으로써 결혼율과 출생률 하락을 가속화할 수 있다고 우려했습니다. 2025년 중국의 합계출산율은 1.0 아래로 떨어졌으며, 정부는 AI 연애 시뮬레이션 서비스를 직접적 위협 요소로 지목했습니다. 실제로 임시조치의 제2조는 '실제 사람 간 감정적 유대 형성을 저해하는 방식으로 서비스를 설계하거나 운영해서는 안 된다'는 명시적 문구를 포함하고 있습니다. 세 번째는 감정형 AI 서비스의 개인정보 남용입니다. 이용자들이 AI 동반자에게 극도로 개인적인 감정·고민·비밀을 털어놓는 특성상, 서비스 제공자들이 이를 대규모 학습 데이터로 활용하거나 제3자에게 판매하는 사례가 문제시됐습니다. CAC는 2024년 말부터 감정형 AI 서비스의 데이터 흐름을 추적·조사해왔으며, 이를 근거로 동의 없는 훈련 데이터 활용 금지를 핵심 의무로 규정했습니다.

임시조치의 핵심 의무 — 알고리즘 신고부터 중독 방지까지

AI 의인화 임시조치가 서비스 제공자에게 부과하는 의무는 크게 여섯 가지 영역으로 구분됩니다. 첫째, 알고리즘 신고 및 안전 평가입니다. 의인화 AI 서비스를 출시하기 전에 제공자는 반드시 성급(省級) 사이버공간 관리기관에 알고리즘 신고를 완료하고 안전 평가 보고서를 제출해야 합니다. 또한 서비스가 등록 이용자 100만 명 또는 월활성이용자(MAU) 10만 명에 도달하면, 국가 차원의 추가 안전 평가를 받아야 합니다. 이는 신규 서비스뿐만 아니라 기존에 운영 중이던 서비스에도 소급 적용되는 조항입니다. 둘째, AI 정체 공개 의무입니다. 제공자는 서비스의 모든 접점에서 이용자에게 'AI와 상호작용하고 있다'는 사실을 명확히 고지해야 합니다. 서비스 명칭, 이용 약관, 대화 인터페이스 어디에서도 이용자가 인간과 대화하고 있다는 착각을 유발해서는 안 됩니다. 실제 인간이 아닌 AI임을 숨기거나 모호하게 처리하는 행위는 즉각적인 과징금 대상입니다. 셋째, 중독 방지 및 이용 시간 알림 시스템 구축입니다. 제공자는 이용자의 과도한 의존을 탐지하는 알고리즘과 이를 완화하는 개입 메커니즘을 의무적으로 구축해야 합니다. 연속 이용 시간이 일정 기준을 초과하면 자동으로 이용 중단을 권고하는 메시지를 표시해야 하며, 이용자가 감정적으로 불안정하거나 자해·자살 관련 언어를 사용할 경우 위기 개입 경로(상담 전화, 도움 리소스 안내 등)를 즉시 제공해야 합니다. 넷째, 개인 데이터 보호 및 훈련 데이터 제한입니다. 이용자와의 대화 내용은 이용자의 명시적 동의 없이 모델 훈련, 제3자 제공, 광고 프로파일링에 사용할 수 없습니다. 이는 감정형 AI 서비스 전반에 대한 데이터 권리를 법제화한 최초의 국가 수준 규정으로 평가됩니다. 다섯째, 실제 인간관계 대체 방지 설계 금지입니다. 서비스가 이용자의 실제 인간 관계를 약화시키거나, 서비스에 대한 감정적 의존을 조장하도록 의도적으로 설계해서는 안 됩니다. 이른바 '다크 패턴(dark pattern)' — 이용자를 서비스에 묶어두기 위한 심리적 조작 기법 — 의 활용이 명시적으로 금지됩니다. 여섯째, 사건 보고 의무입니다. 서비스 이용과 관련하여 이용자가 자해하거나 심각한 심리적 피해가 발생한 사건을 인지하면, 제공자는 72시간 이내에 관할 기관에 보고해야 합니다.

미성년자 보호 — 사실상 금지에 가까운 특별 조항

AI 의인화 임시조치에서 가장 강력한 조항 중 하나는 미성년자 보호 규정입니다. 18세 미만 이용자에 대한 의인화 AI 서비스는 일반 이용자와 별도의, 훨씬 엄격한 기준이 적용됩니다. 핵심 내용을 정리하면 다음과 같습니다. 우선, 미성년자에게 연애 시뮬레이션, 가상 연인, 또는 감정적 유대를 목적으로 하는 서비스를 제공하는 것이 원칙적으로 금지됩니다. 허용되는 서비스는 교육 보조, 학습 지원, 또는 실질적인 정보 제공 목적의 AI 상호작용에 한정됩니다. 보호자의 동의만으로는 이 금지를 해제할 수 없습니다. 또한 미성년자 이용 시간을 1일 2시간으로 제한하는 기술적 조치를 의무적으로 구현해야 합니다. 미성년자가 위기 징후(자해 관련 언어, 극도의 감정적 의존 표현 등)를 보이는 경우 보호자와 학교 카운슬러에게 자동으로 알림을 발송하는 시스템도 의무화됐습니다. 연령 인증 체계는 중국의 국가 신원 인증 시스템(身份证联网核查)과 연동하여 실질적인 검증이 이루어져야 합니다. 이 미성년자 보호 조항은 사실상 현재 시장에 존재하는 대부분의 AI 동반자 서비스가 미성년자에게 제공될 수 없다는 것을 의미합니다. ByteDance의 Doubao와 Alibaba의 Qwen이 서비스 전면 중단을 선택한 이유 중 하나가 바로 이 조항에 대한 기술적·법적 준비가 충분하지 않았기 때문이라고 알려져 있습니다. 반면 규정 준수를 선택한 일부 서비스들은 연령 확인 후 미성년자를 아예 교육 전용 모드로만 사용하게 하거나, 서비스 자체를 18세 이상 전용으로 전환했습니다.

첫 집행 3주 — 12건 과징금, Doubao·Qwen 중단, 글로벌 시장 충격

2026년 7월 15일 규제 발효 이후 첫 3주 동안 CAC는 총 12건의 과징금을 부과했습니다. 총액 420만 위안(약 8억 원)의 이 과징금들은 알고리즘 신고 미완료, AI 정체 미공개, 중독 방지 시스템 미구축 등 다양한 위반 유형에 걸쳐 있습니다. 개별 과징금 규모는 1만~20만 위안(약 190만~3,900만 원) 수준으로, 임시조치가 규정한 최대 과징금 한도 내에서 집행됐습니다. 특히 심각한 피해가 발생한 사건의 경우 최대 20만 위안(약 3,900만 원)이 부과됐습니다. 가장 주목받은 조치는 ByteDance의 Doubao와 Alibaba의 Qwen이 규제 발효 직전 동반자 기능을 전격 중단한 것입니다. ByteDance는 7월 12일 Doubao의 '파트너(伙伴)' 기능을 완전 종료했고, 이용자들은 저장된 대화 이력과 AI 캐릭터 설정을 더 이상 이용할 수 없게 됐습니다. Alibaba의 Qwen도 비슷한 시기에 동반자 대화 기능을 접었습니다. 두 회사 모두 공식적으로는 '서비스 개선을 위한 임시 중단'이라고 발표했지만, 업계에서는 알고리즘 신고 및 안전 평가를 완료하지 못한 상태에서 서비스를 유지할 수 없었던 것이 실제 이유라고 분석합니다. 반면 이 규제에 가장 빠르게 적응한 플랫폼은 MiniMax가 운영하는 星野(Xingyě)입니다. MiniMax는 규제 발효 전 6개월에 걸쳐 알고리즘 신고, 안전 평가, 미성년자 보호 시스템 구축을 완료했으며, 발효 당일 CAC의 준수 인증을 최초로 획득했습니다. 이로써 Xingyě는 중국 AI 동반자 시장에서 현재 가장 유리한 경쟁 위치를 점하고 있습니다. 국제적으로도 이 규제는 즉각적인 반응을 불러일으켰습니다. 미국의 Character AI, 한국의 카카오·뤼튼 등 글로벌 감정형 AI 서비스들은 자사 서비스의 중국 배포 계획을 재검토하기 시작했습니다.

글로벌 규제 모델로서의 함의 — 각국의 반응과 한국 AI 챗봇 시장 시사점

중국의 AI 의인화 임시조치는 전 세계 최초의 감정형 AI 전문 규제로서, 이미 여러 국가의 정책 입안자들로부터 '반면교사'와 '참고 모델' 양면으로 주목받고 있습니다. 유럽연합(EU) AI 사무국은 임시조치 발효 직후 내부 문건을 통해 중국의 접근법을 분석했습니다. EU는 이미 AI법(AI Act) Article 50을 통해 AI 정체 공개 의무를 규정하고 있지만, 중독 방지 시스템 의무화나 위기 개입 경로 강제화와 같은 구체적인 행동 설계 규제는 아직 EU 수준에서 존재하지 않습니다. 미국에서는 연방 차원의 직접적인 AI 동반자 규제 움직임은 없지만, 캘리포니아·워싱턴·오리건 등 여러 주에서 AI 챗봇의 청소년 대상 서비스를 제한하는 법안이 발의되거나 통과됐습니다. 한국의 경우 시사점이 특히 크게 다가옵니다. 국내 AI 챗봇 시장에서 감정형 서비스의 비중이 빠르게 커지고 있기 때문입니다. 카카오의 '카나나', 뤼튼(Wrtn)의 캐릭터 챗, SKT·네이버가 개발 중인 AI 에이전트 등은 모두 이용자와의 지속적인 감정적 유대를 지향하는 서비스입니다. 한국 정부와 기업이 중국 임시조치로부터 도출할 수 있는 시사점은 세 가지입니다. 첫째, AI 정체 공개 법제화의 시급성입니다. 현재 한국 AI 기본법 시행령에는 AI 동반자 서비스에 대한 명시적 정체 공개 의무가 아직 구체화되지 않았습니다. EU AI법과 중국 임시조치 모두 이를 핵심 의무로 규정하고 있는 만큼, 국내 법제화 작업에서 우선 과제로 다뤄져야 합니다. 둘째, 중독 방지 및 청소년 보호 기술 표준 마련입니다. 한국에는 게임 산업에서 적용되는 청소년 보호 기술 기준(셧다운제 경험 등)이 있지만, AI 동반자 서비스에 대한 구체적인 기술 기준은 아직 없습니다. 미리 기술 표준을 마련해두는 것이 향후 국내 규제 도입 시 혼란을 줄이는 데 필수적입니다. 셋째, 데이터 권리 명문화입니다. 감정형 AI 서비스의 이용자 데이터 보호는 일반적인 개인정보 보호법(PIPA)의 적용 범위로도 일부 다뤄지지만, AI 대화 내용의 훈련 데이터 전용 금지라는 특수한 조항을 별도로 명문화하는 방향이 필요합니다. 중국 AI 의인화 임시조치의 국제적 의미는 단순히 '중국이 AI를 다시 강력히 규제했다'는 차원에 머물지 않습니다. 이 조치는 AI 시대에 인간의 감정과 관계 맺음이 어떻게 보호돼야 하는가에 대한 국가 수준의 첫 번째 공식 입장입니다. 그 설계의 옳고 그름과 별개로, 이 규제는 각국 정부가 더 이상 미룰 수 없는 질문을 던집니다. '감정형 AI가 사람들의 삶에 깊이 들어온 지금, 우리는 어떤 규칙이 필요한가?'

참고 자료 / References