← 블로그무료 검색
AI 윤리/플랫폼 자율규제FLI AI 안전 지수 2026FARO 프론티어 AI 감독기구

FLI AI 안전 지수 서머 2026 — 최우수 앤트로픽도 C+, 전원 낙제 직전: 자율규제 붕괴와 FARO 감독기구 탄생 논의

2026-07-17·13분 읽기
런던 AI 안전 시위대 — FLI AI 안전 지수 서머 2026 발표 및 FARO 설립 논의

2026년 7월 7일, 비영리 싱크탱크 미래생명연구소(Future of Life Institute·FLI)가 AI 안전 지수 서머 2026(AI Safety Index Summer 2026)을 발표했습니다. 37개 지표, 6개 범주에 걸쳐 Anthropic·OpenAI·Google DeepMind·Meta·xAI·DeepSeek·Mistral·Z.ai·Alibaba Cloud 등 9개 주요 AI 기업을 독립적으로 평가한 결과, 단 한 곳도 A 또는 B 등급을 받지 못했습니다. 최상위 기업인 Anthropic조차 C+에 그쳤고, OpenAI와 Google DeepMind는 C, Meta는 D+, xAI·DeepSeek·Mistral은 F를 받았습니다. FLI 의장 막스 테그마크(Max Tegmark)는 "AI 기업들은 절벽을 향해 질주하고 있다"고 경고했습니다. 같은 날 서울경제 영문판은 '글로벌 빅테크, AI 안전 서약에서 물러서다'를 보도하며 한국 독자들에게 이 충격적 결과를 알렸습니다. 7일 후인 7월 14일, Google DeepMind CEO 데미스 허사비스(Demis Hassabis)는 X(구 트위터)에 '프론티어 AI와 새 시대의 새벽을 위한 프레임워크'를 발표하며, FINRA(미국 금융산업규제기구)를 모델로 한 프론티어 AI 규제기구(FARO·Frontier AI Regulatory Organisation) 설립을 공식 제안했습니다. 이 두 사건은 동전의 앞뒷면입니다. 한쪽에서는 AI 업계 자율규제가 무너지고 있다는 독립적 진단이 나오고, 다른 한쪽에서는 업계 스스로 외부 감독 기구를 요구하고 있습니다. AI 윤리와 플랫폼 책임의 역사적 전환점이 2026년 7월에 동시에 펼쳐지고 있습니다.

FLI AI 안전 지수 서머 2026 — 9개 기업, 0개 우등생

FLI AI 안전 지수는 2026년 7월 7일 발표된 두 번째 연간 독립 평가 보고서입니다. 7명의 외부 독립 검토자가 37개 지표를 6개 범주(프론티어 AI 위험 관리, 안전 연구, 투명성 및 설명 가능성, 거버넌스 구조, 자율 무기 및 군사 응용, 사이버·생물 위험 완화)로 나누어 9개 기업을 평가했습니다. 평가는 공개 정책, 연구 논문, 기업 공시를 기반으로 했으며, FLI가 각 기업에 발송한 설문조사 응답도 일부 반영됐습니다. 결과는 충격적이었습니다. **Anthropic: C+** (1위), **OpenAI: C** (공동 2위), **Google DeepMind: C** (공동 2위), **Meta: D+** (4위), **Z.ai: D-** (5위), **Alibaba Cloud: D-** (공동 5위), **xAI: F** (7위), **DeepSeek: F** (공동 7위), **Mistral: F** (공동 7위). 단 한 기업도 B 이상의 등급을 받지 못했습니다. FLI는 보고서에서 '자율 안전 시스템이 정부가 내구성 있는 대안을 마련하기 전에 침식되기 시작했다'고 결론지었습니다.

이번 지수에서 특히 주목받은 것은 Anthropic의 1위와 동시에 제기된 비판입니다. Anthropic은 최고 등급임에도 불구하고 검토 패널로부터 '의심스러운 군사 개입(questionable military engagements)'으로 비판받았습니다. 구체적으로는 이스라엘 방위군이 이란 Minab의 초등학교에 가한 공습에서 120명의 어린이가 사망한 사건에서 Anthropic의 AI가 연루됐을 가능성이 제기됐습니다. Anthropic은 이에 대해 군사적 활용 여부를 명확히 공개하지 않고 있습니다. 또한 보고서는 Anthropic이 2025년 초에 핵심 안전 서약을 철회했다는 사실을 지적합니다. 이 서약은 '자사의 안전 조치가 충분하다는 사전 보장 없이는 AI 시스템을 훈련하지 않겠다'는 내용이었습니다. FLI는 이 철회가 회사의 안전 최우선 원칙과 모순된다고 평가했습니다. OpenAI와 Google DeepMind도 유사한 안전 서약을 조용히 약화하거나 삭제했다는 것이 검토 패널의 판단입니다. Max Tegmark는 "지구상에서 가장 변혁적이고 잠재적으로 위험한 기술을 개발하는 기업들이 안전 기준에서 C와 C+ 수준에 머물러 있다는 사실은, 우리가 AI 안전을 단순한 자율 노력에 맡겨놓을 수 없다는 강력한 증거"라고 말했습니다.

군사 응용 전면 전환 — AI 기업들의 가장 위험한 약속 철회

FLI 보고서가 가장 심각하게 지적하는 변화는 군사 응용에 대한 업계 전반의 방향 전환입니다. 2024년까지 Anthropic, OpenAI, Google DeepMind, Meta는 모두 자사 AI의 군사적 활용을 금지하는 정책을 공식적으로 유지했습니다. 그러나 2024~2026년 사이 이 네 기업 모두 방침을 뒤집고 방위 계약을 적극 추진하기 시작했습니다. 이들은 기존 군사 응용 금지 정책을 철회하고, xAI와 Mistral과 마찬가지로 방산 파트너십을 구축하고 있습니다. OpenAI는 2025년 미국 국방부와의 파트너십을 공개했고, Anthropic은 아마존을 통해 미군 클라우드 계약에 간접적으로 참여하기 시작했습니다. Google DeepMind는 영국 국방부와의 협력을 확대했고, Meta는 자사 오픈소스 Llama 모델이 군사 목적으로도 활용될 수 있도록 라이선스 정책을 조정했습니다. FLI는 이 전환이 단순한 사업 결정이 아니라 AI 안전 거버넌스의 구조적 약화를 의미한다고 분석합니다. 자율 무기 시스템에 AI가 통합될 경우, 오발·표적 오류·확전의 위험이 증가하며, 현재 어떤 국제 조약도 AI 자율 무기를 명시적으로 규제하고 있지 않기 때문입니다.

이 자율규제 붕괴 현상은 보다 거시적인 경제적 구조에서 비롯됩니다. AI 안전 연구에 투자하는 것은 단기적으로 경쟁 우위를 포기하는 것과 동일합니다. 안전장치를 추가할수록 모델의 응용 범위가 제한되고, 규제 준수 비용이 증가합니다. 반면 경쟁사가 안전 서약을 완화하거나 철회하면, 준수하는 기업이 시장에서 불리해집니다. FLI는 이 구조가 '안전 부문 레이스 투 더 바텀(race to the bottom)'을 필연적으로 만든다고 분석합니다. 결국 Anthropic이 '안전 조치 충분성 사전 보장' 서약을 철회한 것도 이 구조적 압력의 산물이라는 것입니다. FLI 보고서는 이에 대한 해법으로 '안전 준수 비용을 외부화하는 구조', 즉 준수하지 않는 기업에게 법적·경제적 불이익이 가해지는 공적 규제 체계가 필수라고 강조합니다. 자율규제만으로는 이 구조적 압력을 이길 수 없다는 것이 9개 기업, 전원 B 이하라는 결과가 보여주는 현실입니다.

Demis Hassabis의 FARO 제안 — FINRA를 모델로 한 AI 감독기구

FLI 보고서 발표 7일 후인 7월 14일 화요일 아침, Google DeepMind CEO 데미스 허사비스는 '프론티어 AI와 새 시대의 새벽을 위한 프레임워크'라는 제목의 개인 선언을 X에 게시했습니다. 노벨 화학상 수상자이기도 한 허사비스는 이 글에서 FARO(Frontier AI Regulatory Organisation·프론티어 AI 규제기구) 설립을 공식 제안했습니다. FARO는 미국 월스트리트 자율규제기관인 FINRA(금융산업규제기구)를 명시적으로 모델로 삼습니다. 핵심 설계는 다음과 같습니다. **독립 이사회 구성**: 튜링상 수상자 및 자격을 갖춘 전문가가 다수를 이루고, 산업계·정부·오픈소스 커뮤니티 대표자가 참여합니다. **출시 전 30일 자발적 제출**: 프론티어 모델을 출시 30일 전에 FARO에 자발적으로 제출하여 사이버, 생물, '기만(deception)' 역량을 중심으로 안전 테스트를 받습니다. **단계적 의무화**: 테스트 체제가 '효과적이고 강력함'이 입증된 이후에는 의무 준수로 전환하며, 미국 시장 진입 전에 반드시 FARO의 안전 테스트를 통과해야 합니다. **적용 범위**: 국가, 오픈소스·클로즈드소스 여부와 무관하게 모든 프론티어급 모델에 적용되며, 자격 기준 벤치마크는 역량 발전에 따라 정기적으로 업데이트됩니다. 허사비스는 연말 전 FARO 운영 개시를 목표로 제시했습니다.

허사비스의 FARO 제안은 발표 즉시 업계 전반의 지지를 받았습니다. Sam Altman(OpenAI CEO), Mustafa Suleyman(Microsoft AI CEO), Satya Nadella(Microsoft CEO), Sundar Pichai(Google CEO), Jack Dorsey(트위터/Block 공동창업자) 등이 공개적으로 지지 의사를 표명했습니다. 이 지지의 의미는 단순한 예의 표시가 아닙니다. 트럼프 행정부의 6월 2일 AI 행정명령이 '자발적 30일 사전 접근'을 이미 도입했음에도 불구하고 법적 구속력이 없는 자율규제에 머물러 있는 현실에서, 업계 주요 CEO들이 제3자 독립 기관을 통한 의무화 경로를 공개적으로 지지한다는 것은 상당한 정치적 신호입니다. 이 제안의 배경에는 소위 'Mythos 사태'가 있습니다. Anthropic이 개발한 Mythos 5는 뛰어난 사이버보안 취약점 발견 능력으로 인해 일반 공개가 제한됐으며, 트럼프 행정부는 국가안보 권한을 이유로 Anthropic에 대해 외국인의 접근을 전면 제한하는 수출통제 지시를 내렸습니다. Anthropic은 '공급망 위험'으로 지정되어 소송을 제기하는 전례 없는 사태로 이어졌고, 2주간의 협상 끝에 6월 26~27일 약 100개 기업·정부기관에 한해 접근이 허용됐습니다. 허사비스는 이 사태가 '명확한 규칙이 없는 현실'을 드러냈다며 FARO 제안의 계기로 직접 언급했습니다.

한국 시사점 — AI 기본법과 플랫폼 책임 구조의 재설계 시점

FLI AI 안전 지수의 결과와 FARO 제안은 한국 AI 정책에 직접적인 시사점을 줍니다. 한국은 2024년 AI 기본법 제정으로 고위험 AI 규제의 법적 기반을 마련했습니다. 그러나 FLI 지수가 보여주듯, 자율규제는 구조적으로 레이스 투 더 바텀을 피할 수 없습니다. 한국 AI 기본법은 현재 시행령 설계 단계에 있으며, 이 시점이 핵심입니다. FARO 모델이 실제로 국제 표준이 된다면, 한국 AI 기업들도 FARO 테스트를 통과해야 미국 시장에 진입할 수 있게 됩니다. 따라서 한국 시행령은 ①고위험 AI의 사전 안전 테스트 의무화, ②독립 테스트 기관(또는 국제 기관과의 상호 인정 협약), ③군사·국가안보 목적 AI 응용에 대한 별도 허가 체계를 포함해야 합니다. 특히 FLI 지수에서 Anthropic이 군사 응용으로 비판받은 사례는, 한국도 AI 기본법 시행령에서 방위 AI의 윤리 기준과 민간 피해 방지 조항을 명시해야 할 필요성을 보여줍니다.

또한 딥페이크·NCII 문제에서의 시사점도 있습니다. FLI 지수의 6개 평가 범주에는 '딥페이크 및 NCII 피해 방지를 위한 기술적 통제'가 포함됩니다. Anthropic이 C+를 받은 주요 이유 중 하나는 자사 Claude 모델에 대한 합성 미디어 악용 방지 정책과 콘텐츠 자격증명(C2PA) 지원 계획이 포함됐기 때문입니다. 반면 xAI·DeepSeek가 F를 받은 이유 중 하나는 딥페이크 생성 요청에 대한 가드레일이 거의 없다는 것입니다. 이는 한국의 AI 기업 및 플랫폼 규제에도 직접 적용 가능한 기준입니다. 한국 방송통신위원회와 과학기술정보통신부는 FLI 지수의 37개 지표를 참고하여, 국내 AI 기업의 딥페이크·NCII 방지 책임 기준을 구체화할 수 있습니다. 특히 자발적 자율규제에 의존하는 현행 방식을 넘어, 딥페이크 생성 도구 제공 AI 기업에 대한 제조물 책임 유사 법리 또는 최소한의 법적 안전 기준을 도입하는 것을 검토해야 합니다. FLI AI 안전 지수 서머 2026은 단순한 성적표가 아닙니다. 9개 세계 최고 수준의 AI 기업이 안전에서 전원 낙제 직전이라는 사실이, 자율규제가 AI의 위험을 통제할 수 없다는 가장 강력한 증거로 기록될 것입니다.

참고 자료 / References