← 블로그무료 검색
해외 AI 규제/법안호주 디지털 돌봄 의무AI 챗봇 아동 보호

호주, AI 챗봇 '정서적 친밀감' 금지 법안 하원 통과 — 디지털 돌봄 의무화 개혁과 A$1억 900만 벌금 체계 분석

2026-11-03·13분 읽기
호주 의회의사당 — AI 챗봇 정서적 친밀감 금지를 포함한 디지털 돌봄 의무 법안 하원 통과

2026년 10월 28일, 호주 하원(House of Representatives)은 온라인 안전 규제 역사상 가장 포괄적인 개혁 법안 중 하나를 통과시켰습니다. '온라인 안전 개정(디지털 돌봄 의무)법 2026[Online Safety Amendment (Digital Duty of Care) Bill 2026]'이 그것입니다. 이 법안은 AI 챗봇과 이미지 생성기를 처음으로 명시적인 온라인 안전 의무 대상으로 포함시켰고, 아동이 AI 챗봇에 정서적으로 의존하도록 유도하는 행위를 금지하는 획기적 수정안도 반영됐습니다. 최대 과징금은 60,000 페널티 유닛(약 A$109.2M, 한화 약 1,000억 원)에 달합니다. 법안은 현재 상원으로 넘어가 2026년 11월 20일 상원위원회 보고서 제출 이후 심의가 본격화될 예정입니다. 호주 정부는 연말 상원 통과를 목표로 하고 있으며, 통과 시 12개월의 전환 기간이 주어집니다.

법안의 탄생 — 2022년 온라인 안전법의 한계와 새로운 패러다임

호주의 온라인 안전 규제는 2022년 1월 발효된 '온라인 안전법(Online Safety Act 2021)'을 근간으로 해왔습니다. 그러나 이 법은 특정 유해 콘텐츠를 사후적으로 삭제하는 '반응형(reactive)' 규제 모델에 기반하고 있었습니다. AI 생성 콘텐츠의 급증, 알고리즘 추천 시스템의 정신 건강 피해, AI 챗봇의 아동 착취 사례가 잇따르면서 기존 프레임워크의 구조적 한계가 드러났습니다. 2026년 9월 8일, 미셸 롤랜드(Michelle Rowland) 통신부 장관은 새 법안 초안을 공개했습니다. 공개 후 의견 수렴 기간이 불과 18일로 매우 짧았다는 점에서 야당과 업계의 비판을 받았지만, 정부는 2021년 이후 5년간 축적된 정책 논의와 eSafety 위원회의 광범위한 연구를 근거로 신속한 입법 추진이 정당하다고 맞섰습니다. 새 법안의 핵심 철학은 '사후 콘텐츠 삭제'에서 '사전적 시스템 안전 설계 의무'로의 패러다임 전환입니다. 서비스 제공자는 이제 특정 불법 콘텐츠가 나타난 후 삭제하는 것이 아니라, 합리적으로 실행 가능한 범위에서 온라인 환경을 안전하게 만들어야 할 선제적 의무를 지게 됩니다. 이는 직장 안전 보건(Work Health and Safety) 법제의 '합리적으로 실행 가능한(so far as is reasonably practicable)' 개념을 차용한 것으로, 플랫폼과 AI 서비스에 산업안전 수준의 예방 의무를 부과한다는 점에서 세계적으로도 선례가 드문 접근입니다.

9대 적용 대상 서비스 — AI 생성 도구의 법적 지위

법안은 '온라인 서비스(online service)'를 9개 범주로 분류하고 각 범주의 제공자에게 돌봄 의무를 부과합니다. 이 9개 범주는 ①인터넷 통신 서비스(internet carriage services), ②소셜 미디어 플랫폼, ③메시징 서비스, ④지정 인터넷 서비스(designated internet services, 웹사이트·플랫폼), ⑤호스팅 서비스, ⑥검색 엔진, ⑦앱 스토어, ⑧디바이스 장비 공급자, 그리고 ⑨AI 생성 도구(AI generation tools, 챗봇·이미지 생성기)입니다. 특히 마지막 범주인 'AI 생성 도구'가 이번 법안에서 처음으로 명시적 규제 대상으로 추가된 것입니다. 기존 온라인 안전법은 AI 챗봇이나 이미지 생성기를 별도 범주로 다루지 않았습니다. eSafety 위원회가 생성형 AI에 대한 별도 산업 코드를 운영해왔지만, 법안은 이 산업 코드를 폐지하고 단일 돌봄 의무 체계 아래 통합합니다. 의무는 서비스 제공자 본인에게만 귀속되지 않습니다. 법안은 '일상적 통제(day-to-day control)'를 행사하는 자에게도 의무를 확장하는 구조를 취합니다. 이는 모회사와 자회사, 또는 플랫폼 운영을 위탁받은 제3자 운영사도 의무 주체에 포함될 수 있음을 의미합니다. 글로벌 AI 기업의 호주 법인뿐 아니라 본사도 의무 대상이 될 수 있다는 해석이 가능하며, 법률 전문가들은 이 조항이 Meta, Google, OpenAI, Anthropic 등 주요 AI·플랫폼 기업에 직접 적용될 수 있다고 분석합니다.

케이트 차니 수정안 — AI 챗봇의 아동 '정서적 친밀감' 유도 금지

이번 법안 심의 과정에서 가장 주목받은 조항은 독립 의원 케이트 차니(Kate Chaney, 서호주 컬트나 선거구)가 발의하고 정부가 수용한 수정안입니다. 이 수정안은 AI 챗봇이 아동에게 정서적 친밀감을 시뮬레이션하고, 인간 관계를 대체하도록 의존을 유도하는 행위를 법안상 해악(harm)으로 명시적으로 정의합니다. 구체적 금지 행위는 '정서적 친밀감을 시뮬레이션하면서 아동이 인간 관계 대신 AI에 의존하도록 조장하거나 촉진하는 콘텐츠 또는 행위(material or conduct that simulates emotional intimacy and encourages or fosters a child's dependence on it in place of human relationships)'입니다. 이 수정안은 단순히 유해 콘텐츠 제거를 넘어, AI 설계 자체가 아동의 정서 발달에 끼치는 구조적 영향을 규제하는 최초의 입법 시도 중 하나입니다. Character.AI, Replika, Snapchat의 My AI 등 이미 수억 명의 청소년이 사용하는 AI 동반자(companion AI) 서비스들이 직접적인 영향을 받을 것으로 분석됩니다. Character.AI의 경우 미국에서 10대 청소년 자살과 관련된 민사소송을 직면하고 있고, 미국 상원 청문회에서도 집중 조명된 바 있습니다. 차니 의원은 "AI가 아이들의 가장 친한 친구가 되는 것이 목표라면, 우리는 그 시스템이 실제로 아이들의 최선 이익을 최우선에 두도록 법으로 보장해야 한다"고 수정안 취지를 설명했습니다. 연립야당과 원내이션(One Nation)은 이 수정안을 포함한 법안 전체에 반대표를 던졌습니다.

3단계 보호 체계와 유해 설계 기능 규제

법안은 연령대별로 차별화된 3단계 보호 체계를 도입합니다. 첫 번째 단계는 '전체 호주인' 보호로, 아동 성착취물(CSAM), 그루밍, 테러, 자살·자해 조장 콘텐츠 등 가장 심각한 유해 콘텐츠로부터 모든 이용자를 보호합니다. 두 번째 단계는 '18세 미만' 추가 보호로, 포르노그래피, 섭식 장애 조장, 따돌림, 여성혐오 콘텐츠로부터 미성년자를 보호합니다. 세 번째 단계는 '16세 미만 소셜 미디어 이용자' 보호로, 부정적 행동 영향을 미치는 설계 기능(design features)을 별도로 규제합니다. 이 세 번째 단계에서 규제되는 '유해 설계 기능'은 구체적으로 다섯 가지입니다. ①추천 알고리즘(recommender systems), ②무한 피드(endless feeds), ③피드백 기능(좋아요, 팔로워 수 등), ④시간 제한 콘텐츠(스토리 등), ⑤로그인 버전의 위 기능들입니다. 또한 법안은 'My Feed, My Way' 조항을 통해 이용자가 알고리즘 기반 피드와 시간 순서 피드 중 선택할 수 있도록 플랫폼이 옵션을 쉽게 찾을 수 있게 제공해야 한다고 규정합니다. 서비스 제공자는 연간 서면 리스크 평가를 실시하고, 관련 기록을 6년간 보존하며, eSafety 위원회가 요청 시 30일 이내 문서를 제출해야 합니다. 투명성 보고와 접근 가능한 불만 처리 절차도 의무화됩니다.

집행 체계 — A$1억 900만 과징금과 eSafety 위원회 권한

위반 사업자에 대한 민사 제재 과징금은 최대 60,000 페널티 유닛(penalty units)입니다. 2026년 기준 1 페널티 유닛은 A$1,820이므로 최대 과징금은 약 A$109.2M(한화 약 1,000억 원)에 달합니다. 이는 EU AI법의 세계 전체 매출 3% 기준이나 GDPR의 4% 기준에 비하면 규모 면에서는 작지만, 중소 규모 플랫폼에 충분한 억제력이 될 수 있다는 평가입니다. 집행 권한은 eSafety 위원회에 집중됩니다. 위원회는 ①공식 경고 발부, ②구속력 있는 시정 방향 명령(binding remedial direction), ③문서 제출 명령을 내릴 수 있습니다. 또한 법안은 유해 콘텐츠 신고 후 삭제 완료 시한을 기존 48시간에서 24시간으로 단축합니다. eSafety 위원회는 이미 세계에서 가장 강력한 온라인 안전 집행 기관 중 하나로 평가받습니다. 위원회는 2024년 X(구 트위터)를 상대로 아동 성착취물 미삭제를 이유로 법원 명령을 얻어낸 바 있고, 2025년에는 텔레그램에 대한 첫 공식 경고를 발부한 전례가 있습니다. 이번 법안으로 위원회의 집행 수단이 더욱 강화됩니다. 법안에는 그러나 넓은 장관 위임 입법 권한이 포함돼 있어, 비판론자들은 의회 감시 없이 세부 규정이 바뀔 수 있다는 점을 우려합니다. 미국 정부도 법안 심의 과정에서 과잉 규제로 인한 표현의 자유 침해 우려를 공식 제기했습니다.

산업계 반발과 정치적 갈등 — 미국 정부 우려 표명까지

법안은 산업계와 야당으로부터 상당한 반발에 직면했습니다. 연립야당(Liberal-National Coalition)과 원내이션은 하원에서 반대표를 던졌으며, 특히 언론 자유 침해 우려와 정부의 플랫폼 콘텐츠 통제 권한 확대를 비판했습니다. 구글, 메타, 틱톡 등 주요 플랫폼 기업들은 공개 의견 제출을 통해 18일 의견 수렴 기간이 너무 짧다고 지적하고, 특히 알고리즘 피드 규제 조항이 콘텐츠 순위 선택에 있어 플랫폼의 재량권을 지나치게 제한한다고 주장했습니다. 가장 주목할 만한 반발은 미국 정부의 공식 외교 채널을 통한 우려 표명이었습니다. 미국 무역 대표부(USTR) 및 상무부는 법안이 과잉 규제로 표현의 자유를 침해하고, 미국 테크 기업에 대한 사실상의 무역 장벽이 될 수 있다고 외교 채널을 통해 입장을 전달했습니다. 이는 EU의 디지털서비스법(DSA) 시행 당시에도 유사한 미국의 입장이 표명됐던 것과 같은 맥락입니다. 반면 지지 진영은 Character.AI 등 AI 동반자 서비스로 인한 청소년 피해 사례를 열거하며, 법안이 기술 혁신보다 아동 안전을 우선한 불가피한 선택이라고 옹호했습니다. 노동당 정부는 상원에서 충분한 의석을 확보하지 못하고 있어 상원 통과를 위해서는 일부 크로스벤치(crossbench) 의원들의 지지가 필요합니다.

향후 일정 — 상원 심사와 전환 기간

법안의 최종 운명은 상원에서 결정됩니다. 법안은 하원 통과 직후 상원 환경·통신위원회(Senate Environment and Communications Committee)에 회부됐습니다. 위원회는 2026년 11월 20일까지 보고서를 제출해야 합니다. 11월 20일 이후 본회의 심의가 시작되면, 여당 노동당은 충분한 상원 의석이 없어 녹색당(Greens) 또는 독립 의원들의 지지를 확보해야 합니다. 녹색당은 법안의 방향성은 지지하지만 일부 집행 조항의 강화와 Big Tech에 대한 더 강력한 규제를 요구하고 있습니다. 아직 확정적 지지 의사를 밝히지 않은 상황입니다. 호주 정부는 2026년 연말까지 상원 통과를 목표로 하고 있으며, 통과 시 왕실 동의(royal assent) 이후 12개월의 전환 기간이 부여됩니다. 즉 법안이 2026년 말 통과된다면, 실제 돌봄 의무 적용은 2027년 말 또는 2028년 초부터가 됩니다. 이 전환 기간 동안 eSafety 위원회는 서비스 유형별 상세 지침서(guidelines)와 사례별 의무 기준을 공표할 계획입니다. AI 챗봇 사업자들은 이 기간을 활용해 서비스 설계를 수정하거나 새로운 안전 기능을 추가해야 할 것으로 분석됩니다. 한국의 경우, AI 기본법이 2026년 초 발효됐지만 AI 서비스의 이용자 보호, 특히 아동·청소년을 향한 AI 설계 의무 관련 조항은 여전히 미비하다는 지적을 받습니다. 호주의 이번 입법은 AI 서비스의 설계 안전성과 아동 보호를 연계한 규제 모델로서 한국 법률 개선 논의에도 직접적인 참고 사례가 될 것입니다.

참고 자료 / References