딥페이크 사이버폭력 법 발효·ISBE 지침 지연·틱톡 AI 리터러시 확장 — 2026년 7월 청소년 AI 교육 최전선

일리노이 HB 3851 — 딥페이크를 사이버폭력으로 정의한 법, 7월 1일 발효

2025년 8월 JB 프리츠커 일리노이 주지사가 서명한 하원법안 HB 3851은 2026년 7월 1일부터 정식 발효됐습니다. 이 법은 일리노이 학교법(105 ILCS 5/27-23.7)의 사이버폭력 정의를 개정해, AI가 만들어낸 디지털 복제물(digital replica)을 사이버폭력의 한 유형으로 명시적으로 포함시켰습니다. 기존 법에서는 딥페이크가 사이버폭력 정의에 해당하는지 불분명해 학교 측이 처벌 및 지도 절차를 개시하지 못하는 경우가 많았습니다.

새 법의 핵심은 '간섭 기준'입니다. AI 생성 디지털 복제물의 게시 또는 유포가 기존 사이버폭력 기준—①학생의 학업을 방해하거나 ②학생이 신체적 위험을 합리적으로 우려하게 하거나 ③적대적 학교 환경을 조성하는 행위—에 해당할 경우 처벌 대상이 됩니다. 반대로 수업 과제 등 학교가 승인한 AI 활용은 명시적으로 제외됩니다. 법적 명확성을 확보하되 정당한 학업 활용은 보호하려는 균형을 담은 조문입니다.

법 적용 사례를 구체적으로 살펴보면, 학생 A가 동급생 B의 얼굴을 누드 이미지에 합성한 딥페이크를 학교 단체채팅방에 유포했을 때 이제 명확히 사이버폭력으로 처분됩니다. 법 발효 이전에는 학교 규정에 따라 해석이 달랐고, 어떤 학교는 '단순 사진 편집'으로 처리해 피해 학생이 구제받지 못하는 경우도 있었습니다. 이 법은 미국 전국 40%의 K-12 공립학교 학생이 교내 딥페이크를 인식하고 있다는 민주주의기술센터(CDT) 2024년 조사 결과에 대응한 입법 조치이기도 합니다.

ISBE, 7월 1일 지침 마감 날짜 놓쳐 — 학교는 '안내 없이 법만' 집행해야

문제는 HB 3851이 발효됐지만 이 법이 ISBE에 의무화한 '학교 지침' 마련이 7월 1일까지 완료되지 않았다는 점입니다. 일리노이 학교이사회협회(Illinois Association of School Boards)와 일선 교장들은 '법은 시행됐지만 우리에게 지침은 없다'는 상황에 놓였습니다. ISBE 측은 지침을 개발 중이라고 밝혔지만, 언제 발표될지는 명시하지 않았습니다.

레이크 주릭 커뮤니티 유닛 스쿨 디스트릭트 95와 타운십 하이 스쿨 디스트릭트 214 등은 이미 자체적으로 딥페이크 관련 정책을 학교 괴롭힘 방지 정책에 포함시켰습니다. 그러나 많은 소규모 학교구는 법률 전문가 없이 어떤 AI 생성 콘텐츠가 '교육 방해' 또는 '적대적 환경' 기준에 해당하는지를 자체 판단해야 하는 어려움을 토로합니다. 교사들은 실제 교실에서 딥페이크를 목격했을 때 어떻게 증거를 수집하고, 어느 기관에 신고해야 하는지도 불분명한 상태입니다.

전문가들은 입법만으로는 부족하다고 지적합니다. 소셜 이노베이트(The Social Institute)의 교육 전문가들은 학생들이 '딥페이크가 나쁘다'는 사실을 아는 것을 넘어, 딥페이크를 만들거나 공유하는 행위가 타인에게 어떤 심리적·법적 결과를 초래하는지를 직접 배워야 한다고 강조합니다. 즉 금지 규정을 만드는 것과 동시에 왜 그것이 해로운지를 가르치는 AI 리터러시 교육이 병행돼야 한다는 것입니다.

틱톡 AI 리터러시 전략 — 30억 건 라벨링·C2PA 가입·4백만 달러 투자

같은 주(7월 8일), 틱톡은 세 가지 AI 투명성 조치를 동시에 발표했습니다. 첫째, 지금까지 AI 생성 콘텐츠(AIGC) 30억 건 이상에 라벨을 부착했다고 밝혔습니다. 틱톡은 콘텐츠 증명(Content Credentials) 기술과 크리에이터 자발적 라벨링 도구, 그리고 비가시적 워터마킹 기술을 결합해 AI 생성 여부를 식별합니다. 특히 다른 플랫폼에서 만들어진 AI 영상이 틱톡에 업로드될 때도 자동으로 AIGC 라벨을 부착하는 기능을 추가했습니다.

둘째, 틱톡은 AI 콘텐츠 출처 및 진위 확인 연합(C2PA) 운영위원회에 가입했다고 밝혔습니다. C2PA는 어도비, 마이크로소프트, 구글, 오픈AI 등 글로벌 기술 기업들이 AI 생성 콘텐츠에 출처 정보를 첨부하는 표준을 개발하는 단체입니다. 틱톡이 이 운영위원회에 합류한 것은 숏폼 동영상 플랫폼 중 처음으로, 세계 최대 규모의 숏폼 플랫폼이 AI 출처 표준 확립에 동참한다는 상징적 의미가 있습니다.

셋째, AI 리터러시 교육 투자입니다. 틱톡은 전미미디어리터러시교육협회(NAMLE)와 딥페이크 전문가 헨리 아이더(Henry Ajder)와 협력해 제작한 AI 리터러시 콘텐츠 가이드를 공개했습니다. 2025년 11월 시작된 이 프로그램은 AI를 책임감 있게 사용하는 법을 교육하는 콘텐츠로 2억 회 이상의 조회수를 달성했습니다. 틱톡은 AI 리터러시 프로그램에 400만 달러(약 55억 원) 이상을 투자했다고 밝혔습니다. 또한 미디어와이즈(MediaWise)와 WITNESS 단체의 조언을 받아 개발한 새 미디어 리터러시 자료도 함께 공개했습니다.

UCD 연구 — 10대는 알고리즘을 안다, 하지만 통제권이 없다

아일랜드 더블린대학교(UCD) 인사이트 센터가 7월 7일 발표한 연구는 청소년 AI 리터러시 교육의 방향을 재정립하는 데 중요한 시사점을 제공합니다. 연구팀은 아일랜드 학교 전환학년(Transition Year) 학생 87명을 5개 포커스 그룹으로 나눠 소셜미디어 알고리즘과 개인 데이터에 대한 인식을 조사했습니다. 연구 결과, 15~18세 청소년들은 알고리즘 큐레이션에 대해 놀라울 만큼 세련된 이해력을 보였습니다.

특히 주목할 발견은 10대가 자신들이 '알고리즘을 훈련시키고 있다'는 것을 인식하고 있다는 점입니다. 이들은 자신이 특정 콘텐츠를 클릭하거나 머무는 시간이 플랫폼에 '이것을 더 보여달라'는 신호를 보낸다는 것을 알고 있습니다. 동시에 자신의 관심이 플랫폼에 광고 수익을 창출한다는 경제적 구조도 이해합니다. 그럼에도 불구하고, 청소년들은 알고리즘이 짧은 시선 처리조차 관심으로 해석해 유사한 자극—폭력, 혐오, 감정 조작 콘텐츠—을 반복 노출하는 것에 대해 실질적인 통제 방법이 없다고 느꼈습니다.

연구팀이 특히 주목한 것은 '개인 정보 경계 침해'의 사회적 맥락이었습니다. 참가 청소년들은 친구의 사진이나 정보가 본인 동의 없이 공유되거나, 알고리즘이 원치 않는 성인 콘텐츠나 극단적 콘텐츠로 유도할 때 극심한 무력감을 느꼈다고 보고했습니다. 연구팀은 이를 바탕으로 청소년들을 단순한 '알고리즘 피해자'가 아닌, 플랫폼 설계와 거버넌스의 공동 설계자(co-designer)로 참여시키는 교육 모델을 제안했습니다. 즉 리터러시 교육이 '알아차림(awareness)'에서 '행동 역량(agency)'으로 진화해야 한다는 결론입니다.

세 흐름이 가리키는 방향 — 2026~2027 청소년 AI 리터러시 교육의 핵심 과제

일리노이 HB 3851의 발효, 틱톡의 AI 리터러시 투자 확대, UCD 알고리즘 연구 — 이 세 흐름은 2026~2027년 청소년 AI 교육이 풀어야 할 세 가지 핵심 과제를 선명하게 드러냅니다.

첫째, 법률 집행 공백을 메우는 교육입니다. 법은 만들었지만 지침이 없는 일리노이 상황은 전 세계 학교가 처한 현실을 압축적으로 보여줍니다. AI 리터러시 교육은 단순히 '무엇이 금지된 행위인가'를 알려주는 것을 넘어, 학생들이 스스로 경계를 판단하고 대응할 수 있도록 해야 합니다. 교사들이 딥페이크 사건을 인지하고 처리할 수 있는 역량 개발도 병행되어야 합니다.

둘째, 플랫폼 리터러시의 제도화입니다. 틱톡의 30억 건 라벨링과 C2PA 가입은 플랫폼이 자발적 AI 리터러시 조치를 취하기 시작했다는 신호입니다. 그러나 자발적 조치만으로는 충분하지 않습니다. 어떤 플랫폼은 참여하고 어떤 플랫폼은 참여하지 않는 상황에서 콘텐츠 출처 표기 표준은 일관성을 잃습니다. 각국 정부와 교육 당국이 플랫폼의 AI 리터러시 도구 제공을 의무화하는 규제 프레임워크를 마련해야 합니다.

셋째, '알아차림'을 넘어 '행동 역량'으로의 교육 전환입니다. UCD 연구가 보여주듯 10대는 이미 알고리즘 작동 원리를 상당 부분 이해합니다. 그러나 지식이 있다고 해서 안전한 것은 아닙니다. 교육이 목표로 해야 할 것은 학생들이 유해 콘텐츠를 인식했을 때 ①플랫폼 신고 도구를 능숙하게 활용하고 ②주변에 도움을 요청하며 ③제도적 채널을 통해 변화를 요구할 수 있는 역량을 갖추는 것입니다. 이것이 바로 2026년이 요구하는 AI 리터러시의 새로운 정의입니다.

출처 및 참고 자료

본 기사는 다음 자료를 바탕으로 작성했습니다. ① Capitol News Illinois — Illinois schools grapple with AI cyberbullying, deepfakes as new law takes effect (capitolnewsillinois.com, 2026.07.03). ② ChannelX — TikTok expands AI literacy initiatives and joins C2PA Steering Committee (channelx.world, 2026.07.08). ③ University College Dublin / Insight Centre — Teenagers understand social media algorithms but want more control, UCD study finds (ucd.ie, 2026.07.07). ④ North Shore Weekly — New Illinois law requires North Shore schools to address AI deepfakes in bullying policies (northshoreweekly.com). ⑤ Center for Democracy & Technology — CDT Survey 2024: 40% of K-12 students aware of school deepfake.