← 블로그무료 검색
AI 윤리/플랫폼 자율규제UNESCO AI 윤리 권고플랫폼 콘텐츠 책임

UNESCO 제4회 AI 윤리 글로벌 포럼(GFEAI 2026) 리야드 개최 — 193개국 협약 5주년, '선언에서 이행으로' 전환점

2026-09-04·13분 읽기
사우디 리야드에서 열리는 유네스코 제4회 AI 윤리 글로벌 포럼 GFEAI 2026

2026년 9월 14일부터 17일까지 사우디아라비아 리야드에서 유네스코 제4회 AI 윤리 글로벌 포럼(GFEAI 2026)이 개최됩니다. 사우디 데이터·AI 청(SDAIA)과 유네스코, 국제 AI 연구·윤리 센터(ICAIRE)가 공동 주관하는 이번 포럼에는 194개국의 정책 결정자, 전문가, 학자, 국제기구 및 민간 부문 대표 100여 명의 연사가 참가하며, 아랍권 국가로는 최초로 사우디아라비아가 이 국제회의를 유치했습니다. 포럼의 주제는 '자율의 시대, 책임: 글로벌 협력으로 윤리적 AI 거버넌스 실현(Responsibility in the Age of Autonomy)'입니다. 이번 포럼이 특별한 의미를 갖는 것은 2021년 11월 193개국이 만장일치로 채택한 '유네스코 AI 윤리 권고(Recommendation on the Ethics of AI)'의 5주년이 되는 해이기 때문입니다. 이 권고는 AI 윤리 분야에서 전 세계가 합의한 유일한 규범적 국제 문서로, 인간 존엄과 권리, 투명성, 공정성, 책임, 프라이버시 등 11가지 원칙을 제시합니다. 그러나 유네스코가 2026년 3월 18일 발표한 첫 포괄적 이행 평가 보고서는 냉혹한 현실을 드러냈습니다. 113개 회원국의 자체 보고 데이터를 분석한 결과, AI 윤리 원칙에 대한 인식은 크게 높아졌지만 구체적인 입법화와 제도적 행동은 국가 간, 지역 간 격차가 여전히 심각하다는 것입니다. '선언에서 이행으로(From Declaration to Implementation)' — 이것이 GFEAI 2026의 핵심 화두입니다. 딥페이크·합성 미디어 범람, 플랫폼 콘텐츠 조작, AI 기반 차별 등 구체적 위험이 이미 현실화된 지금, 세계 각국의 플랫폼 자율규제 이행 수준은 천차만별입니다. 포럼 개막을 앞두고, 이 글은 GFEAI 2026의 의미와 주요 의제, 그리고 플랫폼 책임 이행의 현실을 종합적으로 살펴봅니다.

유네스코 AI 윤리 권고 — 5년의 여정과 193개국 합의의 의미

2021년 11월 23일, 유네스코 총회는 '인공지능 윤리에 관한 권고(Recommendation on the Ethics of Artificial Intelligence)'를 193개 회원국의 만장일치로 채택했습니다. 이 문서는 AI 윤리 분야에서 세계 각국이 합의한 최초이자 현재까지 유일한 규범적 국제 문서입니다. 비록 법적 구속력은 없지만, 국제연합 산하 전문기구가 전체 회원국의 동의를 받아 만든 권고라는 점에서 국제 규범의 출발점으로 인정받습니다. 권고는 AI 거버넌스의 토대로서 네 가지 핵심 가치를 제시합니다. 첫째, 인권과 인간 존엄성. 둘째, 평화롭고 공정한 사회. 셋째, 다양성과 포용성. 넷째, 환경 및 생태계 번영. 그리고 이 가치들을 구체화하는 11가지 원칙으로 비례성·무해성, 안전성, 공정성·비차별, 지속가능성, 프라이버시·데이터 보호, 인간 감독과 결정, 투명성·설명가능성, 책임성, 인식 제고·리터러시, 적응적 거버넌스·협력 등이 포함됩니다. 권고 채택 당시 세계 각국은 AI가 이미 의료, 교육, 금융, 사법, 노동 등 핵심 영역에 급속도로 침투하고 있음을 인식하면서도, 그 규범화는 이제 막 출발선에 섰음을 자인했습니다. 5년이 지난 2026년, 세계 AI 환경은 당시 예상을 훨씬 뛰어넘는 수준으로 변화했습니다. 생성형 AI는 수억 명의 일상에 깊숙이 들어왔고, 딥페이크·합성 미디어는 성범죄, 사기, 선거 조작의 도구로 광범위하게 악용되고 있습니다. AI 기반 채용 심사, 신용 평가, 범죄 예측 시스템이 알고리즘 차별 문제를 야기하는 사례도 급증했습니다. 바로 이러한 현실이 GFEAI 2026의 긴박한 출발점입니다.

2026년 첫 이행 보고서 — '인식은 높아졌지만 입법화는 불균등'

2026년 3월 18일, 유네스코는 'AI 윤리 권고 이행에 관한 글로벌 현황 보고서'를 발표했습니다. 113개 회원국이 자체 평가 데이터를 제출한 이 보고서는 AI 윤리 권고 채택 이후 처음으로 나온 포괄적 국제 이행 평가입니다. 보고서의 핵심 발견은 두 가지 상반된 신호로 요약됩니다. 긍정적 신호: AI 윤리 원칙에 대한 인식은 크게 높아졌습니다. 많은 국가들이 국가 AI 전략에 윤리 조항을 포함시켰고, 관련 자문위원회나 감독 기관을 설립했습니다. 유네스코의 준비도 평가 방법론(Readiness Assessment Methodology, RAM)을 도입해 자국의 AI 거버넌스 역량을 평가한 국가도 늘었습니다. 부정적 신호: 그러나 구체적인 입법화와 제도적 행동은 국가 간, 지역 간 격차가 여전히 심각합니다. 특히 글로벌 사우스(개발도상국) 국가들에서 법적 구속력 있는 AI 규범 마련이 뒤처지는 경향이 뚜렷합니다. 또한 합성 미디어와 딥페이크 같은 구체적 위협에 대한 규범적 대응이 부재하거나 단편적인 국가가 다수를 차지합니다. 보고서는 '원칙-실천 격차(principle-practice gap)'를 핵심 과제로 지목합니다. 많은 국가들이 AI 윤리의 중요성을 언급하고 선언하지만, 실질적으로 AI 시스템의 책임성을 강제할 수 있는 집행 메커니즘, 독립적 감사 제도, 피해자 구제 경로는 여전히 부족하다는 것입니다. 이 '격차'는 GFEAI 2026의 30개 이상 세션 전반에 걸쳐 핵심 의제로 등장합니다. 특히 '거버넌스를 위한 AI 재정 조달', '공공 행정의 제도적 역량 강화', '국제 AI 감독 협력 강화', '책임 있는 AI 연구의 글로벌 협력' 세션들은 모두 이 격차를 좁히는 구체적 방법론을 논의합니다.

GFEAI 2026 주요 의제 — 거버넌스, 역량 강화, 합성 미디어 국제 공조

GFEAI 2026의 공개된 의제는 30개 이상의 세션과 전문 워크숍으로 구성됩니다. 핵심 세션을 살펴보면, 첫째 'AI, 다자주의, 외교' 세션에서는 AI 거버넌스를 국제 관계와 외교의 핵심 의제로 격상시키는 방법을 논의합니다. EU AI법, 미국 행정명령, 중국 AI 규범 등 국가별 규범의 상호운용성 문제가 다뤄집니다. 둘째, '권고 5년: 현재와 미래' 세션에서는 이행 보고서에서 드러난 격차를 해소하기 위한 차기 5년 로드맵이 제시됩니다. 셋째, '윤리적 AI 거버넌스 재정 조달' 세션은 특히 글로벌 사우스 국가들이 AI 거버넌스 인프라를 구축하는 데 필요한 재정 모델을 모색합니다. 넷째, '공공 행정 AI 역량 강화' 세션은 정부 기관이 AI 시스템을 적절히 감독하고 규제하기 위해 필요한 인력과 제도 역량을 논의합니다. 다섯째, '국제 AI 감독 협력의 역할' 세션은 국가 간 AI 규제 협력 메커니즘을 논의하며, 합성 미디어와 딥페이크 탐지·대응에 관한 국제 표준 마련도 주요 의제로 포함됩니다. 딥페이크·합성 미디어는 국경을 초월한 위협이기 때문에 단일 국가의 규제만으로는 한계가 있습니다. 한 국가에서 생성된 딥페이크가 다른 국가 플랫폼을 통해 유통되고, 피해자는 또 다른 국가에 존재할 수 있습니다. 이에 따라 GFEAI 2026에서는 딥페이크 관련 국제 공조 메커니즘과 플랫폼 초국경 책임 규범의 필요성이 강하게 제기될 것으로 예상됩니다. 특히 EU AI법 제50조의 합성 미디어 라벨링 의무, 캘리포니아 SB 942의 C2PA 워터마크 의무, 인도 IT 규칙 2026의 3시간 삭제 기준 등 주요 관할권의 규범이 어떻게 상호 인정되고 조화될 수 있는지가 핵심 논의 대상이 될 것입니다.

플랫폼 자율규제의 현실 — TikTok 4단계 제재, Meta의 '삭제에서 라벨로' 전환

GFEAI 2026 개막을 앞두고, 글로벌 AI 콘텐츠 플랫폼들의 자율규제 수준을 가장 적나라하게 보여주는 것은 AI 생성 콘텐츠 라벨링 정책의 실제 이행 현황입니다. 2026년 현재, 주요 플랫폼들의 AI 콘텐츠 라벨링 정책은 세 가지 방향으로 수렴되고 있습니다. 첫째, TikTok의 4단계 제재 체계입니다. TikTok은 AI 생성 현실적 콘텐츠에 대한 의무적 라벨링을 강제하고, 위반 시 4단계의 점진적 제재를 적용합니다. 1단계(첫 위반): 콘텐츠에 소급하여 AI 라벨 부착. 2단계(90일 내 2~3회 위반): 콘텐츠 삭제 및 7일간 게시 금지. 3단계(4회 이상 위반 또는 실제 인물의 딥페이크): 30일 계정 정지. 4단계(악의적 딥페이크 또는 반복적 탐지 우회): 영구 계정 삭제. TikTok은 C2PA 메타데이터 스캔, 시각적 아티팩트 분석, 오디오 지문 분석 등의 자동화된 탐지 시스템을 운용합니다. 선제적으로 라벨링한 콘텐츠는 알고리즘상 불이익이 없다고 밝히고 있으나, 라벨링 없이 탐지된 콘텐츠는 검토 기간 동안 도달 범위가 크게 줄어듭니다. 둘째, Meta의 '삭제에서 라벨로' 정책 전환입니다. Meta는 2026년 5월부터 AI 생성 콘텐츠에 'Made with AI' 라벨 부착을 의무화했습니다. 더 중요한 변화는 7월부터 시행된 것으로, 딥페이크 영상을 딥페이크라는 이유만으로 삭제하지 않겠다는 방침을 발표했습니다. 삭제는 딥페이크가 유권자 방해 등 다른 커뮤니티 기준을 위반하는 경우에만 이뤄집니다. 이 전략적 전환은 표현의 자유와 AI 콘텐츠 규제 사이의 균형에 대한 논쟁을 불러일으키고 있습니다. 셋째, YouTube·Google Ads의 선택적 의무화입니다. YouTube는 실제 인물의 AI 변형·합성 묘사가 포함된 콘텐츠에 라벨링을 요구하며, 반복 위반 시 채널 경고, 수익화 정지, 파트너 프로그램 정지가 적용됩니다. Google Ads는 AI 생성 시각·오디오 콘텐츠에 'Generated by AI' 또는 'Digitally altered' 라벨을 적용하고, 선거 관련 콘텐츠에는 더 엄격한 광고 내 워터마크를 요구합니다. 이처럼 주요 플랫폼들이 저마다 다른 방식의 자율규제를 채택하고 있다는 것 자체가 AI 윤리 원칙의 '파편화된 이행'이라는 문제를 상징합니다. 유네스코 권고의 투명성 원칙은 일관된 기준으로 구현돼야 함에도, 플랫폼마다, 국가마다 다른 기준이 적용되고 있습니다.

EU AI법 제50조와 글로벌 조화 — '파편화'에서 C2PA 기반 '상호운용'으로

2026년 8월 2일 발효된 EU AI법 제50조는 AI 생성 합성 미디어에 대한 법적 라벨링 의무를 처음으로 강제한 규정입니다. 이 조항에 따르면 GPAI(범용 AI) 모델 및 딥페이크 생성 시스템은 기계 판독 가능한 방식으로 콘텐츠의 AI 생성 여부를 표시해야 하고, 이용자에게 해당 콘텐츠가 AI에 의해 생성·변형됐음을 명확히 알릴 수 있는 시스템을 갖춰야 합니다. 위반 시 최대 1,500만 유로 또는 전 세계 연간 매출의 3%에 달하는 제재가 부과됩니다. 문제는 규범의 파편화입니다. EU AI법 제50조, 캘리포니아 SB 942의 C2PA 워터마크, 인도 IT 규칙 2026의 3시간 삭제 의무, TikTok의 4단계 제재 체계, Meta의 라벨링 정책 — 이 모두가 상이한 기준, 상이한 집행 메커니즘, 상이한 적용 범위를 가집니다. 하나의 플랫폼이 이 모든 규범을 동시에 준수하려면 막대한 기술적·법적 부담이 발생합니다. 규범의 파편화는 두 가지 방식으로 피해자에게 불리하게 작용합니다. 첫째, 플랫폼들이 각 관할권의 최소 의무만 충족하고 그 이상의 자율적 보호 조치를 취하지 않을 유인이 생깁니다. 둘째, 피해자들이 구제를 받으려 할 때 어떤 법률이 어떤 관할권에서 적용되는지를 파악하기가 어렵습니다. GFEAI 2026의 '국제 AI 감독 협력' 세션이 가장 강하게 추진하는 것이 바로 이 '상호운용(interoperability)' 체계입니다. 서로 다른 관할권의 규범이 완전히 동일할 필요는 없지만, 공통된 최소 표준과 상호 인정 체계가 마련돼야 한다는 것이 핵심 주장입니다. C2PA(콘텐츠 출처 및 진정성 연합)는 이 공통 표준의 유력한 후보입니다. C2PA 메타데이터는 기술적으로 플랫폼 및 국경을 초월하여 검증 가능하기 때문에, EU·미국·인도·한국 등 서로 다른 규범 체계가 C2PA를 공통 기반으로 채택한다면 파편화 문제가 상당 부분 해소될 수 있습니다. GFEAI 2026은 이러한 국제 표준 수렴을 향한 구체적 로드맵을 제시할 가장 중요한 국제 기회 중 하나입니다.

한국에 대한 시사점 — AI 기본법, C2PA 채택, 피해자 구제 세 가지 과제

유네스코 GFEAI 2026과 이행 보고서는 한국 AI 거버넌스에도 직접적인 시사점을 제공합니다. 세 가지 핵심 과제를 살펴봅니다. 첫째, **AI 기본법과 유네스코 권고의 연계입니다.** 한국은 2024년 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 법률)을 제정해 2026년 1월부터 시행하고 있습니다. AI 기본법은 고위험 AI에 대한 위험 관리 의무, AI 영향 평가, 신뢰 기반 AI 조성 등을 규정합니다. 그러나 유네스코 이행 보고서가 지적하는 '원칙-실천 격차'가 한국에도 존재할 수 있습니다. AI 기본법의 원칙적 선언이 실제 집행 메커니즘, 독립적 감사, 피해자 구제와 연결되는지 점검이 필요합니다. 딥페이크 성범죄 피해자의 관점에서, AI 기본법이 딥페이크 생성 플랫폼에 대한 구체적 의무를 부과하고 집행할 수 있는지가 핵심 기준이 됩니다. 둘째, **합성 미디어 라벨링 국제 표준(C2PA) 조기 채택입니다.** 한국은 현재 AI 생성 콘텐츠의 워터마크나 C2PA 기반 라벨링에 관한 독립적 법규를 가지고 있지 않습니다. EU AI법 제50조와 캘리포니아 SB 942가 C2PA를 실질적 표준으로 수렴시키는 상황에서, 한국이 독자적 기술 표준을 추구하는 것은 글로벌 상호운용성을 해칠 수 있습니다. GFEAI 2026에서 논의될 국제 AI 감독 협력 체계에 한국이 적극적으로 참여하고, C2PA 기반 글로벌 생태계에 조기 편입하는 방향의 입법이 시급합니다. 셋째, **플랫폼 책임 강화와 피해자 구제 메커니즘입니다.** 유네스코 이행 보고서가 지적한 가장 큰 격차 중 하나는 '집행 메커니즘과 피해자 구제 경로의 부재'입니다. 한국의 경우, 딥페이크 성범죄 피해자가 콘텐츠 삭제를 요청할 때 실질적으로 작동하는 24~72시간 내 대응 의무가 모든 플랫폼, 특히 해외 플랫폼에도 적용되는지, 집행 수단이 있는지가 핵심 과제로 남아 있습니다. GFEAI 2026이 제시할 국제 AI 감독 협력 체계는 이러한 초국경 집행 문제를 해결하는 데 직접적인 정책 시사점을 제공할 것입니다. 한국 정부와 국회는 이번 포럼의 결과를 면밀히 추적하고 AI 기본법의 후속 시행령 및 관련 입법에 반영해야 합니다.

참고 자료 / References