출시 3일 만에 꺼진 세계 최강 AI

들어가며

구독자님, 1999년 가을 미국에서 방영된 애플 광고 한 편이 있어요. 탱크들이 컴퓨터 한 대를 에워싸고, 나레이션이 흘러요. “역사상 처음으로 개인용 컴퓨터가 미국 정부에 의해 무기로 분류되었습니다.” 초당 10억 회 연산을 돌파한 파워 매킨토시 G4 이야기예요. 당시엔 냉전 시대 법률에 걸린 해프닝 정도로 끝났어요.

27년이 지난 지난주 금요일, 비슷하면서도 완전히 다른 일이 벌어졌어요. 미국 상무장관이 Anthropic CEO에게 서한 한 통을 보냈고, 몇 시간 뒤 세계 최강 AI 모델 Fable 5가 전 세계에서 동시에 꺼졌어요. 이번엔 해프닝이 아니에요. 결론부터 말씀드리면, AI 모델이 반도체와 같은 국가안보 자산으로 취급받는 시대가 열렸어요.

🔴 72시간의 기록, 출시에서 차단까지

6월 9일, Anthropic은 자사 최강 모델 Fable 5와 Mythos 5를 공개했어요. Fable 5는 Anthropic의 가장 강력한 Mythos 계열 모델을 일반 사용자에게 처음 공개한 버전이에요. 사이버보안 등 고위험 영역에서는 응답을 제한하는 보호장치를 탑재했고, 이 보호장치가 일부 해제된 Mythos 5는 검증된 소수 기관에만 제공됐어요.

출시 하루 만인 6월 10일, 연구자들이 시스템 카드에서 논란이 될 만한 내용을 발견했어요. 사용자가 프론티어급 AI 개발 작업을 하고 있다고 판단되면, 모델이 별도 고지 없이 스스로 성능을 제한한다는 거였어요. 반발이 거셌고, Anthropic은 이틀 만에 이 조치를 철회했어요.

그리고 6월 12일 금요일 오후 5시 21분(미 동부시간). 하워드 러트닉 미국 상무장관의 서한이 도착했어요. 내용은 명확했어요. Fable 5와 Mythos 5에 대한 모든 외국인의 접근을 즉시 차단하라. 미국 내 거주 여부와 무관하게, Anthropic 소속 외국 국적 직원까지 포함하는 조치였어요.

문제는 실행이었어요. Anthropic은 실시간으로 사용자의 국적을 검증할 수 없었어요. 결국 선택지는 하나뿐이었어요. 전 세계 모든 사용자의 접근을 차단하는 것. 금요일 아침까지 수억 명이 쓸 수 있었던 모델이, 금요일 밤에는 아무도 쓸 수 없게 됐어요.

Anthropic은 이의를 제기했어요. 정부가 제시한 탈옥¹​ 방법은 이미 다른 공개 모델(OpenAI의 GPT-5.5 포함)에서도 가능한 사소한 취약점이며, 수억 명이 사용하는 상용 모델을 이 정도 근거로 회수하는 건 부당하다는 입장이에요. 출시 전 미국 정부, 영국 AI 안전 연구소, 서드파티 조직이 수천 시간의 레드팀²​ 테스트를 수행했고, 모든 보호장치를 무력화하는 범용 탈옥은 발견되지 않았다고도 강조했어요. 하지만 법적 지침인 이상 따를 수밖에 없었고, 두 모델은 현재까지 비활성화 상태예요. Claude Code나 Claude에서 Fable 5를 호출하면 이전 세대 모델인 Opus 4.8이 대신 응답하는 상황이에요. Fable 5 API 위에 서비스를 구축한 기업들은 하룻밤 사이에 인프라 전환을 강제당한 셈이에요.