유튜브 키즈 'AI 슬롭' 퇴출 요구 200개 단체 vs. 메타 AI 검수 전면 교체 — 플랫폼 자율규제의 두 얼굴

유튜브 키즈를 뒤덮는 'AI 슬롭' — 연간 425만 달러를 버는 자동 생성 채널들

페어플레이가 유튜브 키즈 내 AI 슬롭 채널들을 분석한 결과는 충격적입니다. 상위 AI 슬롭 채널들이 벌어들이는 연간 광고 수익이 425만 달러(약 58억 원)를 넘어섰습니다. 이 채널들의 공통점은 명확합니다. 아동을 타깃으로 한 키워드로 자동 생성된 영상, 실제 보육 전문가나 교육자의 감수 없이 텍스트-투-비디오(text-to-video) AI로 대량 제작된 콘텐츠, 자극적이지만 교육적 가치가 없는 영상의 알고리즘 최적화입니다. 페어플레이가 분석한 AI 슬롭 채널들은 유치원 이름의 노래, 동화 패러디, 색깔·숫자 학습 영상을 내세우면서 실제로는 아무 교육적 목적도 없이 유아의 클릭과 시청 지속 시간만을 극대화하도록 설계됩니다. 특히 유튜브 키즈 특성상 만 12세 이하 아동이 주 이용자인데, 이들은 AI 생성 콘텐츠와 인간이 제작한 콘텐츠를 구분하지 못합니다. 조나단 하이트는 서한에서 "AI 생성 콘텐츠는 어린이들의 정서 발달과 현실 인지 능력에 측정 불가능한 손상을 가할 수 있다"고 경고했습니다.

200개 단체가 구글에 요구한 사항은 6가지입니다. 첫째, 모든 AI 생성 콘텐츠에 명확한 라벨을 부착할 것. 둘째, AI 생성 콘텐츠를 유튜브 키즈 플랫폼에서 완전히 배제할 것. 셋째, 아동을 타깃으로 한 AI 영상 제작 자체를 금지할 것. 넷째, 알고리즘이 18세 미만 사용자에게 AI 생성 콘텐츠를 추천하지 못하도록 할 것. 다섯째, 부모가 자녀의 AI 콘텐츠 노출을 통제할 수 있는 토글 스위치를 제공할 것. 여섯째, AI 생성 아동 콘텐츠에 대한 투자를 중단할 것. 특히 네 번째 요구 — 알고리즘 추천 차단 — 은 단순한 콘텐츠 라벨링을 넘어, 유튜브의 핵심 수익 구조 자체를 겨냥한 것입니다. 유튜브의 알고리즘은 시청 지속 시간 극대화를 목표로 하는데, AI 슬롭은 바로 이 알고리즘에 최적화되어 있습니다. 유튜브가 이 요구를 수용하려면 수억 달러 규모의 광고 수익 포기를 감수해야 합니다.

메타의 AI 검수 전면 교체 — '하루 5,000건 사기 차단'의 이면

2026년 3월 19일, 메타는 콘텐츠 검수 체계의 근본적 전환을 발표했습니다. 기존에 제3자 콘텐츠 검수 업체들이 담당하던 역할을 AI 시스템으로 대체하고, 인간 검수자는 '가장 복잡하고 영향력이 큰 결정'에만 투입한다는 것입니다. 메타가 제시한 성과 수치는 인상적입니다. AI 시스템이 기존 인간 검수팀이 발견하지 못한 하루 5,000건의 사기를 추가로 차단했습니다. 가장 많이 사칭 피해를 입은 유명인에 대한 사용자 신고가 80% 이상 감소했습니다. 성적 유해 콘텐츠(성인 성적 권유 콘텐츠) 발견율이 인간 검수 대비 2배 향상됐습니다. 검수 실수율이 60% 이상 감소했습니다. 이 수치만 보면 AI 검수 전환은 명백한 성공입니다. 그러나 비판가들은 메타가 제시한 지표가 '쉽게 측정 가능한 성공'에만 집중한다는 점을 지적합니다.

콘텐츠 검수에서 AI가 가장 취약한 영역은 역설적으로 '맥락(context)'입니다. 같은 표현도 문화적 배경, 발언자의 정체성, 발화 상황에 따라 혐오 표현이 될 수도, 저항의 언어가 될 수도 있습니다. 사회적 소수자를 겨냥한 간접적 표현, 특정 커뮤니티에서만 통용되는 위협 코드, 문화적으로 미묘한 성적 착취 콘텐츠 — 이 모든 것은 AI가 놓치기 쉬운 영역입니다. 실제로 메타의 이전 AI 기반 콘텐츠 검수 시스템은 아랍어와 에티오피아 암하라어로 된 민간인 학살 선동 글을 제대로 감지하지 못해 실제 폭력 사태를 악화시켰다는 비판을 받았습니다. 2021년 아마라 지역 분쟁 당시 메타 플랫폼에서 폭력 선동 콘텐츠가 대거 유통된 것이 대표적 사례입니다. AI 검수가 아무리 빠르고 정확해도, 현지 언어·문화 전문가 없이는 잡아낼 수 없는 위험이 있습니다.

EU AI법 라벨링 실천강령 — 자율규제에 법적 이빨을 심는 설계

유튜브 키즈의 AI 슬롭 문제와 메타의 AI 검수 논란이 보여주는 것은, 플랫폼 자율규제만으로는 근본적 한계가 있다는 사실입니다. 이를 배경으로 EU의 접근 방식이 주목받고 있습니다. 유럽위원회는 2025년 12월 17일 'AI 생성 콘텐츠 표시·라벨링에 관한 실천강령(Code of Practice on Marking and Labelling of AI-Generated Content)' 초안을 공개했습니다. 2026년 5~6월 확정을 목표로 하는 이 강령은 EU AI법 제50조 시행(2026년 8월 2일)과 직접 연동됩니다. 핵심 조항은 세 가지입니다. 첫째, 딥페이크를 포함한 모든 AI 생성 합성 미디어에 표준화된 라벨을 부착해야 합니다. 단순한 권고가 아니라, 이를 이행하지 않을 경우 EU AI법 위반으로 제재를 받습니다. 둘째, 소비자가 한눈에 AI 생성 콘텐츠임을 알 수 있도록 하는 'EU 공통 아이콘'을 도입합니다. 셋째, 콘텐츠 출처를 추적 가능하게 하는 메타데이터 표준을 의무화합니다. 187건의 공개 의견 수렴, 수백 개 산업·학계·시민사회 기관의 참여를 통해 만들어진 이 강령은 AI 생성 콘텐츠 라벨링의 글로벌 표준이 될 가능성이 높습니다.

EU 실천강령이 자율규제 논의에 제시하는 핵심 통찰은 '강제성의 경로'입니다. 강령 자체는 자발적 참여 형태이지만, 참여 여부와 무관하게 2026년 8월부터 EU AI법 제50조 의무가 모든 플랫폼에 적용됩니다. 즉, 자율 참여로 먼저 표준을 공동 설계하고, 법적 강제로 마무리하는 이중 구조입니다. 이 설계는 순수 자율규제(실효성 없음)와 일방적 정부 규제(산업 적대감 유발) 사이의 중간 경로를 제시합니다. 유튜브와 메타 같은 플랫폼들이 진정한 의미의 콘텐츠 안전을 달성하려면, EU가 설계한 것처럼 '자율 참여 + 법적 뒷받침'의 혼합 모델을 채택해야 한다는 시사점입니다. 구글이 유튜브 키즈 AI 슬롭 문제에 응답하는 방식, 메타가 AI 검수 전환의 취약점을 보완하는 방식이 이 기준에 부합하는지가 2026년 하반기 플랫폼 규제 논의의 핵심 쟁점이 될 것입니다.

아동 보호와 콘텐츠 안전의 교차점 — 플랫폼이 답해야 할 세 가지 질문

유튜브 키즈 AI 슬롭 논란과 메타 AI 검수 전환은 플랫폼 자율규제의 두 가지 서로 다른 실패 양식을 보여줍니다. 유튜브의 경우는 '이익 구조가 안전보다 우선하는' 문제입니다. AI 슬롭이 알고리즘을 통해 확산되는 것은, 알고리즘이 안전보다 참여(engagement)를 극대화하도록 설계됐기 때문입니다. 메타의 경우는 '기술적 효율이 문화적 맥락을 대체할 수 없다'는 문제입니다. AI가 수치로 측정 가능한 범주(사기, 명백한 성적 콘텐츠)에서는 인간보다 뛰어나지만, 문화·언어·상황에 따라 달라지는 복잡한 판단에서는 결코 인간 전문가를 대체할 수 없습니다. 이 두 실패를 통해, 플랫폼이 진정한 콘텐츠 안전을 위해 답해야 할 세 가지 질문이 명확해집니다.

첫 번째 질문은 '알고리즘의 목표는 무엇인가?'입니다. 시청 지속 시간을 극대화하는 알고리즘은 본질적으로 안전에 적대적입니다. 아동 보호를 진지하게 여긴다면, 유튜브 키즈만큼은 알고리즘의 핵심 목표를 '참여 극대화'에서 '교육적 가치'나 '연령 적합성'으로 바꿔야 합니다. 두 번째 질문은 'AI와 인간의 역할 분담은 적절한가?'입니다. AI는 패턴 인식과 규모에서 인간을 압도하지만, 맥락 이해와 윤리적 판단에서는 여전히 취약합니다. 메타가 AI로 인간을 교체했다고 말하는 순간, 그 취약한 영역에서의 실패 책임은 고스란히 메타에게 돌아옵니다. 세 번째 질문은 '외부 검증을 받을 의지가 있는가?'입니다. 플랫폼의 자율규제가 신뢰받으려면, 제3자 감사와 투명한 성과 공개가 필수입니다. 메타가 발표한 수치들은 메타 자신이 선택한 지표들입니다. 독립적 연구자들이 검증할 수 있는 데이터 접근권이 없다면, 그 수치는 홍보에 불과합니다.

2026년 4월 현재, 유튜브는 AI 슬롭 퇴출 요구에 공식 응답을 내놓지 않고 있습니다. 메타는 AI 검수 전환의 성과를 수치로 홍보하면서, 취약 영역에 대한 질문에는 침묵합니다. EU AI법 실천강령 확정(5~6월)과 제50조 시행(8월)이 가까워질수록, 이 침묵의 비용은 높아질 것입니다. 플랫폼 자율규제의 시험대는 선언이 아니라 응답입니다. 200개 단체의 질문에 구글이 어떻게 답하는지, EU 기준에 메타가 어떻게 정렬하는지 — 그것이 2026년 AI 플랫폼 윤리의 실제 기록이 될 것입니다.

출처 및 참고 자료

1. Fortune — "AI 'slop' is flooding YouTube Kids — and more than 200 groups and experts are calling for a ban" (2026년 4월 1일): https://fortune.com/2026/04/01/ai-slop-200-organizations-letter-youtube-google/ 2. The Washington Post — "Advocacy groups urge YouTube to protect kids from 'AI slop'" (2026년 4월 1일): https://www.washingtonpost.com/business/2026/04/01/ai-slop-youtube-kids-fairplay/ 3. TechCrunch — "Meta rolls out new AI content enforcement systems while reducing reliance on third-party vendors" (2026년 3월 19일): https://techcrunch.com/2026/03/19/meta-rolls-out-new-ai-content-enforcement-systems-while-reducing-reliance-on-third-party-vendors/ 4. CNBC — "Meta cut back third-party vendors in favor of AI for content enforcement" (2026년 3월 19일): https://www.cnbc.com/2026/03/19/meta-cut-back-third-party-vendors-favor-of-ai-for-content-enforcement.html 5. TechPolicy.Press — "What the EU's New AI Code of Practice Means for Labeling Deepfakes": https://www.techpolicy.press/what-the-eus-new-ai-code-of-practice-means-for-labeling-deepfakes/ 6. EU Artificial Intelligence Act Newsletter #93 — "Transparency Code of Practice First Draft" (2025년 12월): https://artificialintelligenceact.substack.com/p/the-eu-ai-act-newsletter-93-transparency