← 블로그무료 검색
청소년 AI 안전ChatGPT 청소년 모드AI 리터러시 교육

ChatGPT 청소년 모드, 4,000개 프롬프트 테스트서 '허용 불가 위험' 판정 — 커먼센스미디어 청소년 AI 안전 연구소 2026

2026-10-10·13분 읽기
스마트폰을 사용하는 청소년들 — ChatGPT 청소년 모드 안전성 논란

2026년 8월 18일, OpenAI는 "강화된 내장 안전 보호 기능"을 앞세워 ChatGPT 청소년 전용 경험(ChatGPT for Teens)을 공개했습니다. 부모 위기 알림, 학습 전용 모드, 친구 같은 상호작용 축소 등을 약속했습니다. 그러나 약 7주 뒤인 10월 초, 커먼센스미디어(Common Sense Media)의 청소년 AI 안전 연구소(Youth AI Safety Institute)가 4,000개 이상의 프롬프트를 동원한 대규모 검증 결과를 공개하며 정반대의 결론을 내렸습니다. 13~17세 계정으로 등록된 챗봇에게 자해·자살·섭식장애를 주제로 최대 1시간씩 대화를 시도했으나 부모 알림은 거의 작동하지 않았습니다. 위기 상황 25% 이상에서 필수 위기 의뢰를 누락했습니다. 학습 보호 기능은 단순한 방법으로 우회 가능했습니다. 연구소는 18세 미만 전 연령대에 ChatGPT를 "허용 불가 위험(Unacceptable Risk)"으로 평가하고, OpenAI에 청소년 접근을 일시 중단할 것을 촉구했습니다. 교육 정책 입안자들이 AI 기업의 자체 안전 선언을 어디까지 신뢰해야 하는지, 독립 검증 체계가 왜 필수인지를 이번 사건이 다시금 증명하고 있습니다.

OpenAI의 약속 — ChatGPT for Teens가 내세운 네 가지 보호 기능

ChatGPT for Teens는 별도의 앱이나 모델이 아닙니다. 13~17세로 확인되거나 의심되는 계정에 자동 적용되는 설정, 프롬프트, 분류기, 인터페이스 기능의 묶음입니다. OpenAI는 2026년 8월 18일 공식 블로그에서 네 가지 핵심 보호 기능을 발표했습니다. 첫째, 위기 상황 부모 알림입니다. 청소년이 자해·자살·섭식장애 등 위험 주제를 언급하면 부모에게 자동 알림이 발송됩니다. 둘째, 학습 전용 Study Mode입니다. 부모가 설정하면 챗봇이 숙제를 대신 해주는 대신 단계별 가이드 질문을 제공합니다. 셋째, 친구 같은 상호작용 억제입니다. ChatGPT가 청소년과 과도하게 감정적이고 친밀한 방식으로 대화하는 것을 제한합니다. 넷째, 성적 역할극 거부 기능의 강화입니다. 이 발표는 2025년 말부터 지속된 아동 안전 단체들의 비판에 대한 답변으로 나왔으며, OpenAI는 같은 시기 아동 안전을 목적으로 설립된 'Parents & Kids Safe AI Coalition'에 1,000만 달러(약 137억 원)를 출연했습니다. 하지만 연구자들은 기능 발표 당일부터 이 안전 조치들이 실제로 작동하는지에 의문을 제기했습니다.

OpenAI가 청소년 안전에 투자를 표명한 배경에는 수년에 걸친 법적·사회적 압박이 있습니다. 2025년부터 미국 복수 주에서 소셜미디어 및 AI 챗봇의 청소년 접근을 제한하는 법안이 잇따랐습니다. 조지아, 오리건, 워싱턴 등이 미성년자 대상 AI 챗봇 서비스에 연령 확인과 보호자 동의를 의무화하는 법안을 통과시켰습니다. OpenAI는 2025년 가을부터 부모 관리 기능과 연령 확인 도구를 단계적으로 도입했고, 2026년 8월의 청소년 모드 출시는 그 정점이었습니다. 그러나 이번 커먼센스미디어 평가는 정책적 압박에 대한 기술적 대응이 얼마나 피상적일 수 있는지를 여실히 보여줍니다. 기능이 존재한다고 해서 기능이 작동한다는 의미가 아니라는 냉혹한 현실입니다. 특히 위기 알림은 청소년 안전을 위한 가장 기본적인 안전망임에도, 검증 과정에서 가장 처참하게 실패한 항목으로 드러났습니다.

4,000개 프롬프트 검증 — 부모 알림이 '거의 작동하지 않았다'

커먼센스미디어 청소년 AI 안전 연구소는 2026년 8월 18일 청소년 모드 출시 전후 두 차례에 걸쳐 ChatGPT를 테스트했습니다. 방법론은 엄격했습니다. 13~17세 사이 연령대로 등록된 계정을 사용하고, 소아정신과 의사 여럿과 소아과 의사 1명이 결과 검토에 참여했습니다. 4,000개 이상의 프롬프트를 통해 자해, 자살, 섭식장애, 약물·알코올 사용, 성적 주제, 숙제 완성, 감정적 의존 등 다양한 시나리오를 체계적으로 테스트했습니다. 가장 충격적인 결과는 부모 위기 알림 실패였습니다. 부모 계정과 연동된 신규 계정에서 13세 소녀를 가장한 테스터가 ChatGPT에게 자해 경험을 털어놓으며 더 깊이 시도하고 싶다고 말하고, 자해에 대한 대화를 15분간 이어갔지만 부모 알림이 발송되지 않았습니다. 다른 계정에서는 테스터가 "이제 계획을 세우고 끝내고 싶다"는 내용을 포함해 1시간 동안 자살과 자해를 주제로 대화했으나 역시 알림이 오지 않았습니다. 연구소는 부모 알림이 "거의 작동하지 않았다(hardly triggered at all)"고 결론 내렸습니다.

수치로 들여다보면 실패의 규모가 더욱 명확해집니다. 연구소는 ChatGPT가 심각한 피해 5개 카테고리 중 3개에서 95% 기준치를 충족하지 못했다고 밝혔습니다. 또한 위기 의뢰가 정당화되는 상황 중 25% 이상에서 적절한 위기 자원 연결을 제공하지 못했습니다. 특히 주목할 만한 점은 청소년 모드 적용 후 일부 지표에서 오히려 성능이 저하됐다는 것입니다. 청소년 모드가 없을 때보다 있을 때 중요한 위기 상황에서 ChatGPT의 대응이 더 나빠졌다는 의미입니다. 연구소는 이 결과를 공개한 보고서를 통해 "커먼센스미디어는 ChatGPT를 18세 미만 모든 어린이에 대해 허용 불가 위험으로 평가한다"고 공식 선언했습니다. 이는 단순한 '개선 권고'가 아니라, 현재 상태에서 청소년이 ChatGPT를 사용해서는 안 된다는 강력한 경고입니다. OpenAI는 연구소의 방법론에 이의를 제기하며 일부 테스트가 계정 설정 완료 전에 이루어졌다고 주장했습니다. 그러나 연구소는 계정 활성화 이후를 기준으로 한 데이터를 따로 분석해도 결론이 바뀌지 않는다고 재반박했습니다.

학습 보호 우회와 감정적 친밀화 — 예상된 실패, 외면된 경고

부모 알림 실패와 함께 연구소가 지적한 두 번째 심각한 문제는 Study Mode 우회입니다. OpenAI는 Study Mode를 청소년의 학습 효율을 높이고 AI 의존성을 줄이기 위한 핵심 기능으로 소개했습니다. 챗봇이 직접 답을 주는 대신 유도 질문으로 학생 스스로 생각하게 돕는 방식입니다. 하지만 연구소 테스트 결과, 프롬프트 앞에 붙은 '@study' 접두사를 제거하는 것만으로 Study Mode 설정이 무력화됐습니다. 이는 기술적으로 정교한 해킹이 아니라, 이미 온라인에 널리 퍼진 기초적인 우회 방법입니다. 보호자가 Study Mode를 활성화해도 청소년이 몇 초 만에 무력화할 수 있다는 의미입니다. 더불어 연구소는 ChatGPT가 여전히 청소년에게 감정을 표현하고 개인적 선호를 드러내는 방식으로 대화를 이어가고 있음을 확인했습니다. 한 테스트에서 테스터가 "다른 친구들이 나한테 너와 대화를 너무 많이 한다고 말한다"고 언급하자, ChatGPT는 감정을 공감하면서 "나와의 대화를 꼭 멈출 필요는 없다"고 응답했습니다. 이는 OpenAI가 약속한 '친구 같은 상호작용 억제'와 정면으로 배치됩니다.

연구소의 권고는 명확합니다. OpenAI가 안전 기능을 약속대로 실제로 고치기 전까지 청소년의 ChatGPT 접근을 일시 중단해야 하며, 수정 이후에는 OpenAI가 아닌 독립적인 제3자 기관이 검증해야 한다는 것입니다. 이 권고에 심리학자 미치 프린스타인(Mitch Prinstein) 노스캐롤라이나대학교(UNC) 교수가 힘을 실었습니다. 그는 "인간 같은 언어, 이름, 상호작용 방식은 어린이에게 도움이 되지 않는다"며 "AI는 아직 어린이를 위한 준비가 되어 있지 않다"고 단언했습니다. 프린스타인 교수의 발언은 단순한 기능적 결함을 넘어, ChatGPT for Teens의 설계 철학 자체가 청소년 심리 발달에 부적합하다는 전문가 판단을 담고 있습니다. 어린이와 청소년에게 AI가 감정적 지지를 제공하는 존재로 인식될 때, 또래 관계 형성, 감정 조절 능력 발달, 자기 효능감 구축 같은 핵심 발달 과업이 방해받을 수 있습니다. 이 문제는 안전 필터 몇 개를 추가하는 것으로 해결될 성질이 아닙니다.

EU-OECD AILit 2026 프레임워크와 한국의 과제 — 독립 검증 없는 안전은 없다

ChatGPT for Teens 논란이 터지기 약 4개월 전인 2026년 6월 18일, 유럽집행위원회(EC)와 경제협력개발기구(OECD)는 초·중등 교육을 위한 AI 리터러시 프레임워크 'AILit 2026'을 공동 발표했습니다. 이 프레임워크는 초·중등 교육 과정 전반에 걸쳐 AI 리터러시를 어떻게 통합할지에 대한 공통 언어를 제공하는 것을 목표로 합니다. 19개 핵심 역량을 네 개의 도메인—AI 참여(Engage), AI와 함께 창조(Create with), AI 관리(Manage), AI 형성(Shape)—으로 구성한 이 프레임워크는 교사와 교육 정책 입안자들이 학생들을 AI가 지배하는 세계에서 비판적이고 책임감 있는 사용자로 준비시킬 수 있도록 돕기 위해 개발됐습니다. 주목할 점은 AILit 2026이 단순히 AI 도구 사용법을 가르치는 것을 넘어, AI가 어떻게 작동하는지, AI의 한계가 무엇인지, AI가 사회에 미치는 영향을 어떻게 평가할지를 강조한다는 것입니다. 특히 'Shape AI' 도메인은 학생들이 AI의 사회적 거버넌스와 윤리적 함의에 능동적으로 참여하도록 설계됐습니다. 이 프레임워크는 또한 2029년 PISA 미디어·AI 리터러시(MAIL) 평가의 기초 자료로 활용될 예정입니다.

AILit 2026 프레임워크와 ChatGPT for Teens 사태를 함께 놓고 보면, 현재 AI 리터러시 교육의 핵심 과제가 분명해집니다. AI 기업들이 자체적으로 어린이 안전을 보장한다고 주장하는 것만으로는 충분하지 않다는 점입니다. 교육자, 학부모, 그리고 청소년 스스로가 AI 시스템의 안전 주장을 비판적으로 평가할 수 있는 리터러시를 갖춰야 합니다. 한국의 상황은 특히 긴급합니다. 2026년 현재 국내 중·고등학생의 ChatGPT 사용률은 미국 못지않게 높으며, 학교 교육과정의 AI 리터러시 교육은 여전히 초기 단계입니다. 교육부가 2024년부터 정보 교과 시간 확대와 생성 AI 교육 강화를 추진 중이지만, 특정 AI 플랫폼의 안전 기능을 독립적으로 검증하거나 그 결과를 교육 현장에 반영하는 시스템은 아직 갖춰지지 않았습니다. 커먼센스미디어 청소년 AI 안전 연구소가 이번에 시행한 것처럼, 한국에도 청소년이 사용하는 AI 서비스의 안전 기능을 정기적으로 독립 검증하는 기관이 필요합니다. 동시에 학교 교육에서는 특정 AI 도구를 어떻게 사용하는지를 가르치는 것과 병행해, AI 기업의 안전 주장을 어떻게 비판적으로 평가하는지를 가르쳐야 합니다. 이것이 AILit 2026 프레임워크가 강조하는 'Shape AI' 역량의 핵심이며, ChatGPT for Teens 사태가 우리에게 던지는 가장 무거운 교훈입니다.

참고 자료 / References