18일 만에 돌아온 Fable 5 — ‘탈옥 채점표’를 들고 왔다
6월 9일 출시, 6월 12일 수출통제로 전면 중단, 그리고 7월 1일 글로벌 복귀 — Claude Fable 5가 18일 만에 돌아왔다. 미 상무부가 6월 30일 라이선스 요구를 공식 철회하면서다. 지난주 이 코너에서 다뤘던 ‘접근 중단’ 소식의 후속편인데, 앤트로픽은 단순히 스위치를 다시 켜는 대신 업계 공통의 탈옥 심각도 채점 프레임워크라는 제도적 제안을 함께 들고 나왔다. 프런티어 모델이 정부 명령으로 꺼졌다 켜진 첫 사례의 마무리라는 점에서 뜯어볼 가치가 있다.
"It is probably impossible to make any AI model fully robust (that is, impervious) to jailbreaks."Anthropic
무슨 일인가
발단은 아마존 연구진이 발견한 탈옥 기법이었다. 모델이 소프트웨어 취약점을 식별하고 악용 방법까지 시연하게 만들 수 있다는 것. 그러나 조사 결과 같은 취약점은 GPT-5.5, Kimi K2.7, Claude Opus 계열 등 기존 모델로도 재현 가능했고, Mythos급 고유의 공격 능력이 아니라 통상적인 방어 보안 범주의 행동으로 판정돼 ‘경미’로 분류됐다. 이에 정부는 6월 26일 신뢰 기관 대상 Mythos 5 복원을 거쳐 6월 30일 통제를 전면 해제했다. Fable 5는 Claude 플랫폼·Claude.ai·Claude Code에서 즉시, AWS·구글클라우드·MS Foundry에서 순차 제공되며, Pro·Max·Team 요금제는 7월 7일까지 주간 한도의 50%까지 쓸 수 있다. 함께 제안된 채점 프레임워크는 능력 증가분·범위·무기화 용이성·발견 가능성이라는 4개 축으로 탈옥을 평가한다.
여러 시각
복귀를 바라보는 시선은 안도와 회의로 갈린다.
- VentureBeat — 기업 실무 관점의 정리. 상무장관이 철회 서한을 보낸 경위와 함께, 18일의 공백 동안 대체 모델로 갈아탄 기업들의 경험이 ‘단일 모델 의존’의 리스크를 각인시켰다고 본다. 복귀 이후 어디서 접근 가능한지가 기업의 첫 질문이라는 것.
- MIT Technology Review — 정부 대응이 “안전 계획이라기보다 피상적 반응에 가깝다”는 회의론. 경쟁사인 아마존 CEO가 사태 촉발에 관여한 구도, 소프트웨어 접근에 수출통제를 적용하는 것의 법적 근거를 문제 삼고, 이런 불확실성이 기업들을 중국 오픈소스 모델로 밀어낼 수 있다고 경고한다.
왜 중요한가
이번 사태는 프런티어 모델이 하루아침에 꺼질 수 있는 ‘규제 대상 인프라’임을 실증했다. 더 근본적인 문제는 탈옥의 심각도를 말할 공통 언어가 업계에 없었다는 점이다. 채점 프레임워크가 표준으로 자리 잡으면 ‘탈옥 발견 → 전면 중단’이라는 이분법 대신 심각도에 비례한 대응이 가능해진다. 사전 정부 접근과 신속한 정보 공유 같은 약속들은 앞으로 프런티어 모델 출시의 기본 템플릿이 될 가능성이 높다.
실무 적용
- AI 기능은 특정 모델에 하드코딩하지 말고 추상화 계층과 폴백 체인을 두어, 모델 중단 시 교체가 배포 없이 가능하게 설계한다.
- 주력 프롬프트의 기대 출력을 스냅샷으로 관리해, 모델 교체·복귀 시 회귀 테스트로 품질 변화를 즉시 감지한다.
- 모델 제공사의 정책·약관·가용성 변화를 모니터링하는 운영 채널을 정해두고, 중단 시나리오를 런북에 포함한다.
Kenny의 관점
지난번 중단 소식을 다루며 ‘모델은 인프라’라고 썼는데, 18일 만의 복귀는 그 교훈을 완성한다. AI가 꺼졌을 때의 UX — 대체 모델 안내, 기능 축소 모드, 정직한 상태 표시 — 를 미리 설계해 둔 팀만 이 공백을 무사히 넘겼을 것이다. 흥미로운 건 채점 프레임워크가 QA의 결함 심각도 분류와 닮았다는 점이다. ‘버그 제로’가 아니라 심각도 관리로 가는 것은 성숙한 산업의 신호이고, AI 안전도 같은 길을 걷기 시작했다.
출처
이 글은 아래 원문을 바탕으로 Kenny가 한국어로 요약·정리한 큐레이션입니다.
원문 보기 — Anthropic ↗