출시 사흘 만에 사라진 클로드 최상위 모델, AI 수출통제의 새 국면

미국 정부의 수출통제 지침으로 앤트로픽의 ‘클로드 페이블 5’와 ‘클로드 미토스 5’가 전 세계 이용자에게서 동시에 차단됐다

정부 지침으로 내려간 두 개의 최상위 AI 모델

미국 정부가 인공지능(AI) 기업 앤트로픽(Anthropic)에 자사 최상위 모델인 ‘클로드 페이블 5(Claude Fable 5)’와 ‘클로드 미토스 5(Claude Mythos 5)’에 대한 접근을 즉시 차단하라는 수출통제 지침을 내리면서, 출시 사흘 만에 두 모델이 전 세계 모든 이용자에게서 동시에 사라지는 초유의 사태가 벌어졌다.

앤트로픽이 6월 12일(현지시간) 밤 공식 성명을 통해 밝힌 바에 따르면, 이번 차단은 흔히 추측되는 기술적 결함이나 서버 장애 때문이 아니라 미 연방정부의 직접적인 행정 명령에 따른 것이다. 한 차례 출시된 상용 AI 모델이 정부 개입으로 통째로 내려진 사실상 첫 사례로 기록될 가능성이 크다.

‘외국인 접근 차단’이 전 세계 차단으로 번진 이유

앤트로픽의 설명을 종합하면, 이번 사태의 출발점은 ‘외국인’을 겨냥한 수출통제 지침이다. 회사는 미 정부가 국가안보 권한을 근거로 페이블 5와 미토스 5에 대한 모든 외국인(foreign national)의 접근을 차단하라는 수출통제 지침을 내렸으며, 그 대상에는 미국 안팎에 거주하는 외국 국적자는 물론 앤트로픽에 소속된 외국 국적 직원까지 포함된다고 밝혔다.

문제는 특정 국적자만 선별적으로 차단하는 일이 기술적으로 간단치 않다는 데 있었다. 회사는 외국인 접근을 완전히 차단하라는 명령을 준수하기 위해서는 결국 두 모델을 모든 고객에게서 내릴 수밖에 없었고, 그 결과 미국 시민권자와 기업 고객, 심지어 비용을 지불하는 엔터프라이즈 이용자까지 일괄적으로 접근이 막혔다고 설명했다.

다만 회사는 페이블 5와 미토스 5를 제외한 다른 모든 모델의 이용에는 영향이 없다는 점을 분명히 했다. 기존에 두 모델을 쓰던 작업은 자동으로 ‘오푸스 4.8(Opus 4.8)’과 같은 이전 세대 모델로 전환되도록 조치했다.

6월 12일 저녁의 급박한 시간표

회사가 공개한 시간표는 상황의 급박함을 보여 준다. 앤트로픽은 미 동부시간 기준 6월 12일 오후 5시 21분에 정부로부터 해당 지침을 전달받았으며, 통보 직후 즉각 두 모델을 비활성화했다고 밝혔다.

회사 측은 정부가 보낸 서한이 국가안보상의 우려를 구체적으로 적시하지 않았다고 진단했다. 미 언론 보도에 따르면 이 지침 서한은 하워드 러트닉(Howard Lutnick) 상무장관 명의로 발송됐고, 상무부 산업안보국(BIS) 관계자들이 작성에 관여한 것으로 전해졌다. 상무부는 관련 논평 요청에 즉각 응하지 않았다.

정부가 문제 삼은 것은 ‘탈옥’ 가능성

그렇다면 정부가 든 ‘정확한 이유’는 무엇인가. 앤트로픽의 해석에 따르면, 정부는 페이블 5의 안전장치를 우회하는 이른바 ‘탈옥(jailbreak)’ 기법을 인지한 것으로 보인다.

회사는 해당 기법이 시연되는 과정을 검토한 결과, 그것이 식별해 낸 취약점은 이미 알려져 있던 소수의 사소한 결함에 불과했다고 설명했다. 더 구체적으로 회사는 문제의 우회 방식이 본질적으로 모델에게 특정 코드베이스를 읽고 그 안의 소프트웨어 결함을 찾아 수정하도록 요청하는 수준이라고 진단했다.

앤트로픽은 이 정도의 기능은 다른 공개 모델에서도 어렵지 않게 구현되며, 시스템을 지키는 방어자들이 매일같이 활용하는 일상적 능력이라고 평가했다. 회사는 자사가 검토한 보고서에 담긴 능력 수준이 오픈AI의 ‘GPT-5.5’를 비롯한 경쟁사 모델에서도 폭넓게 제공되는 것임을 확인했다고 덧붙였다.

앤트로픽의 반박: “오해에서 비롯된 과도한 조치”

이 같은 설명을 바탕으로 앤트로픽은 이번 조치가 ‘오해’에서 비롯됐을 가능성이 높다는 입장을 거듭 밝혔다. 회사는 정부의 법적 지침을 준수해 모든 이용자에 대한 접근을 차단하면서도, 좁은 범위의 잠재적 탈옥 가능성이 발견됐다는 사실만으로 이미 수억 명에게 배포된 상용 모델 전체를 회수하는 것은 과도하다는 취지로 반박했다.

회사는 만약 이런 기준이 업계 전반에 일률적으로 적용된다면 사실상 모든 프런티어 AI 기업의 신규 모델 출시가 멈춰 설 것이라고 경고했다. 동시에 앤트로픽은 정부가 안전하지 않은 배포를 차단할 권한 자체는 가져야 한다는 기존 입장을 재확인했다.

다만 그 권한은 투명하고 공정하며 기술적 사실에 근거한 법정 절차를 통해 행사돼야 하는데, 이번 조치는 그런 원칙에 부합하지 않는다고 진단했다. 회사는 고객에게 혼란을 끼친 데 대해 사과하고, 최대한 빨리 접근을 복구하기 위해 노력하고 있다고 밝혔다.

사전 레드팀 테스트와 안전장치 논쟁

앤트로픽이 자사 안전장치의 견고함을 강조해 온 이력은 이번 반박의 배경을 이해하는 데 도움이 된다. 회사는 페이블의 출시를 앞둔 수 주 동안 미 정부와 영국 AI안전연구소(UK AISI), 복수의 외부 전문 기관, 그리고 사내 팀과 함께 도합 수천 시간에 걸쳐 안전장치를 공략하는 레드팀 테스트를 진행했다고 밝혔다.

회사는 이런 검증을 거친 결과 페이블의 안전장치가 이전에 배포된 어떤 모델보다 한층 효과적이었으며, 모델의 방어를 광범위하게 무력화하는 이른바 ‘보편적 탈옥(universal jailbreak)’은 아직 누구도 찾아내지 못했다고 설명했다.

동시에 회사는 완벽한 방어가 현실적으로 어려운 만큼 어떤 사업자의 안전장치든 특정 상황에서 일부 정보를 끌어내는 ‘비보편적 탈옥’에는 취약할 수밖에 없으며, 이는 출시 당시에도 분명히 밝힌 한계라고 진단했다.

회사는 자사가 지금까지 정부로부터 해로운 결과로 이어진 우려스러운 탈옥 사례를 정식으로 통보받지 못했으며, 전달된 사례들은 무해한 응답이거나 미토스 고유의 추가 역량을 제공하지 않는 사소한 발견에 그쳤다는 취지로 설명했다. 다만 30일 데이터 보존 정책은 고객 일부의 반발을 부르는 등 회사로서도 실질적 비용을 감수하는 선택이었다고 덧붙였다.

출시 직후 벌어진 반전

두 모델의 출시는 불과 며칠 전이었다는 점에서 이번 사태의 반전이 더욱 두드러진다. 앤트로픽은 이번 주 초 페이블 5와 미토스 5를 공개하면서 이들을 자사가 일반에 제공한 어떤 모델보다 강력하다고 소개했고, 기존 ‘오푸스(Opus)’ 등급 위에 놓이는 새로운 ‘미토스급(Mythos-class)’ 성능 계층이라는 표현을 썼다.

두 모델의 토대가 된 미토스 프리뷰는 ‘프로젝트 글래스윙(Project Glasswing)’이라는 이름 아래 소수의 기업·연구 파트너에게만 제공되며 보안 취약점을 찾아내는 데 활용돼 왔다. 한 보도에 따르면 모질라(Mozilla)는 이 모델의 도움으로 수백 건의 취약점을 해결했다고 밝힌 바 있다.

강력한 사이버보안 역량이 방어에 유용한 동시에 오용 시 위험으로 직결될 수 있다는 양면성이, 결국 이번 정부 개입의 핵심 쟁점으로 떠오른 셈이다.

페이블 5와 미토스 5의 차이

이번에 차단된 두 모델은 성격이 서로 다르다. 페이블 5는 사이버보안과 생명공학 등 고위험 영역에서 응답을 강하게 제한하는 안전장치를 적용한 공개용 모델로, 일반 대중에게도 풀렸다. 반면 미토스 5는 동일한 기술 토대 위에 세워졌지만 그런 광범위한 안전장치 없이 핵심 사이버보안·인프라 기업 등 선별된 신뢰 파트너에게만 제공되는 비공개 버전이다.

두 모델 모두 보안 연구를 목적으로 개발된 고성능 모델 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’에 뿌리를 두고 있다. 앤트로픽은 출시 당시 이 등급의 모델이 사이버보안 같은 영역에서 오용될 경우 심각한 피해로 이어질 수 있어 강력한 안전장치가 필요하다는 취지로 설명한 바 있다.

회사는 완벽한 탈옥 차단이 현재로서는 어떤 사업자에게도 불가능에 가깝다고 보고, 탈옥을 좁은 범위로 묶거나 비용이 많이 들도록 만들고 이를 면밀한 모니터링과 결합하는 ‘심층 방어(defense in depth)’ 전략을 택했다고 밝혔다. 페이블에 30일간의 고객 데이터 보존 정책을 적용한 것도 탈옥을 신속히 탐지·차단하기 위한 조치라는 설명이다.

연방정부와 앤트로픽 사이의 복잡한 관계

이번 사태는 앤트로픽과 연방정부 사이의 복잡한 관계라는 더 큰 맥락 속에 놓여 있다. 미 언론 보도에 따르면 올해 초 행정부는 앤트로픽이 국방 분야 활용에 더 강한 안전장치를 요구한 데 반발해 연방기관에서 자사 제품 사용을 제한하는 조치를 취했고, 앤트로픽은 이에 표현의 자유 침해를 주장하며 소송을 제기했다.

캘리포니아의 한 연방 판사는 앤트로픽에 유리한 판단을 내렸으나, 해당 사안은 워싱턴 D.C. 연방법원에서 여전히 진행 중인 것으로 전해진다. 그럼에도 양측은 최근 들어 관계 회복의 신호를 보여 왔다.

한 외신은 미 국가안보국(NSA)이 공격적 사이버 작전에 미토스를 활용해 왔다고 보도했고, 6월 2일에는 행정부가 정부의 사이버 방어를 강화하고 가장 강력한 AI 모델에 정부가 자발적 방식으로 조기 접근할 수 있는 체계를 설계하도록 지시하는 AI 관련 행정명령에 서명했다. 이런 흐름 속에서 나온 이번 차단 지침은 정부와 프런티어 AI 기업 사이의 긴장이 여전히 해소되지 않았음을 드러낸다.

한국 이용자와 산업계에 주는 시사점

국내 이용자와 산업계에도 시사점이 작지 않다. 이번 명령의 표적이 ‘외국인 접근’이었던 만큼, 한국을 비롯한 미국 외 지역의 이용자와 기업은 명령의 직접적 적용 대상에 해당한다.

콘텐츠 제작, 소프트웨어 개발, 고객 응대 등 다양한 업무에 최신 AI 모델을 도입해 온 기업으로서는, 특정 모델이 기술적 이유가 아니라 통상·안보 정책에 따라 하루아침에 가용성이 사라질 수 있다는 점을 새삼 확인하게 된 셈이다.

이는 구독 기반 서비스나 B2B 솔루션에 외부 AI 모델을 깊숙이 결합한 사업자일수록, 단일 모델·단일 공급사에 대한 의존도를 관리하고 대체 가능한 이중화 전략을 마련해 두는 일이 사업 연속성 측면에서 중요해졌음을 시사한다.

앤트로픽이 페이블 5와 미토스 5를 제외한 다른 모델은 정상 가동된다고 밝힌 점은 당장의 충격을 일부 완화한다. 그러나 최상위 성능을 전제로 워크플로를 설계한 이용자에게는 성능 저하라는 현실적 부담이 남는다.

특히 한 매체는 이번 사건을 두고 주요 AI 기업이 연방정부 개입을 이유로 이미 공개 배포한 모델을 내린 첫 사례라고 평가했다. 이는 한 기업의 자율적 판단을 넘어 정부 정책이 상용 AI 서비스의 가용성을 직접 좌우할 수 있게 됐음을 의미한다.

콘텐츠·미디어 업계의 경우 번역, 자료 조사, 초안 작성 등에 특정 모델을 표준 도구로 굳혀 둔 워크플로가 적지 않다. 따라서 모델 단위의 갑작스러운 중단에 대비해 대체 도구와 수동 절차를 함께 마련해 두는 운영상의 안전판이 한층 중요해졌다는 평가가 나온다.

프런티어 AI가 수출통제의 직접 대상이 되다

앤트로픽이 이번 조치를 ‘오해’로 규정하고 신속한 복구를 약속한 만큼, 향후 며칠 동안 회사가 추가로 공개하겠다고 예고한 세부 자료와 정부의 후속 입장이 사태의 향방을 가를 전망이다.

회사가 좁은 범위의 잠재적 탈옥이 모델 전체 회수의 근거가 될 수 없다는 논리를 유지하는 가운데, 정부가 어떤 기술적 근거와 절차로 이번 지침을 정당화할지가 관건이다.

한 차례 공개된 프런티어 모델이 정부 명령으로 전 세계에서 내려진 이번 사례는, AI 역량이 국가안보·수출통제의 직접적 대상으로 편입되는 흐름과 그에 따른 기업·이용자의 불확실성이 본격화하고 있음을 보여 주는 상징적 장면으로 남을 것으로 보인다.