19일 만에 돌아온 클로드 페이블 5…미국 정부가 껐다 켠 최초의 상용 AI

출시 사흘 만에 수출통제로 전면 중단됐던 앤트로픽 최상위 모델, 새 안전장치 달고 7월 1일 전 세계 서비스 재개

수출통제 해제와 함께 7월 1일부터 글로벌 접속 복원

앤트로픽의 최상위 AI 모델인 클로드 페이블 5가 서비스 중단 19일 만에 다시 이용자 곁으로 돌아왔다. 앤트로픽은 6월 30일(현지시간) 공식 발표를 통해 미국 상무부가 페이블 5와 미소스 5에 적용했던 수출통제를 해제했다고 밝혔으며, 이에 따라 7월 1일부터 클로드 플랫폼과 클로드 웹·앱, 클로드 코드, 클로드 코워크 등 전 서비스에서 전 세계 이용자를 대상으로 접근이 복원됐다. 회사 측 발표에 따르면 프로와 맥스, 팀, 일부 엔터프라이즈 요금제 이용자는 7월 7일까지 주간 사용 한도의 최대 50% 범위에서 페이블 5를 이용할 수 있으며, 이후에는 사용량 크레딧 방식으로 전환된다. 아마존웹서비스와 구글 클라우드, 마이크로소프트 파운드리 등 클라우드 경유 접근도 순차적으로 재개되고 있으며, 아마존은 7월 1일부터 자사 베드록 플랫폼에서 페이블 5를 다시 제공한다고 발표했다.

이번 복귀는 단순한 서비스 장애 복구가 아니라, 미국 정부가 이미 상용화된 AI 모델을 국가안보를 이유로 강제 중단시켰다가 다시 승인한 초유의 사건이 일단락됐다는 점에서 의미가 크다. 출시와 중단, 협상, 재배포로 이어진 약 3주간의 과정은 첨단 AI를 둘러싼 기업과 정부의 힘겨루기, 그리고 아직 정비되지 않은 AI 규제 체계의 현주소를 그대로 드러냈다는 평가가 나온다. 앤트로픽이 기업공개를 준비 중인 것으로 알려진 민감한 시점에 최상위 제품이 3주 가까이 멈춰 섰다는 점에서, 이번 사태가 AI 산업 전반의 사업 환경에 던진 파장 역시 작지 않았다는 관측이 뒤따른다.

출시 사흘 만에 내려진 전례 없는 '수출통제' 명령

사건의 출발점은 6월 9일이었다. 앤트로픽은 이날 5세대 모델인 클로드 페이블 5와 클로드 미소스 5를 동시에 공개했다. 두 모델은 동일한 기반 모델을 공유하지만 성격이 다르다. 미소스 5는 사이버보안과 생명과학 분야에서 세계 최고 수준의 능력을 갖춘 만큼, 미국 정부와 협력하는 '프로젝트 글래스윙' 참여 기관 등 검증된 소수에게만 제공됐다. 반면 페이블 5는 같은 능력을 지녔지만 회사 역사상 가장 강력한 안전장치를 적용해 일반 이용자도 쓸 수 있도록 설계된 버전이다. 코딩과 지식 노동, 시각 이해 등 대부분의 성능 지표에서 기존 오퍼스 계열을 뛰어넘는 최상위 모델로, 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러라는 가격에 출시됐다.

그러나 출시 사흘 뒤인 6월 12일 저녁, 상황이 급변했다. 페이블 5는 기본 100만 토큰의 컨텍스트 창과 요청당 최대 12만 8,000토큰의 출력을 지원하며, 며칠에 걸친 장기 자율 작업을 수행할 수 있다는 점을 앞세워 출시 직후부터 개발자와 기업 이용자들 사이에서 뜨거운 관심을 모으던 참이었다. 초기 테스트에 참여한 기업들 사이에서는 대규모 코드베이스 이전 작업을 기존 방식보다 훨씬 짧은 기간에 처리했다는 평가가 나오는 등 기대감이 높아지던 시점이기도 했다. 미국 상무부는 이날 국가안보 권한을 근거로 페이블 5와 미소스 5에 대한 수출통제 지시를 앤트로픽에 전달했다. 지시의 골자는 미국 안팎을 불문하고 모든 외국 국적자의 접근을 차단하라는 것으로, 앤트로픽에 근무하는 외국 국적 직원까지 대상에 포함됐다. 문제는 명령이 즉시 발효됐다는 점이다. 앤트로픽은 이용자의 국적을 실시간으로 확인할 기술적 수단이 없었기 때문에, 규정 준수를 위해 두 모델의 서비스를 전 세계 모든 이용자에게 전면 중단하는 길을 택했다. 아마존 베드록과 구글 클라우드, 마이크로소프트 파운드리, 그리고 클로드 API에 이르기까지 페이블 5를 연동했던 서비스가 사실상 동시에 멈춰 섰다. 이미 상용 배포된 AI 모델에 수출통제 권한이 이처럼 전면적으로 적용된 것은 처음 있는 일로, 그동안 반도체 등 하드웨어에 집중돼 온 미국의 수출통제가 소프트웨어 형태의 AI 모델로 확장된 상징적 장면이라는 분석이 뒤따랐다.

발단은 '탈옥' 보고…안전장치 우회 기법이 촉발한 논란

정부가 초강수를 둔 배경에는 이른바 '탈옥(jailbreak)' 보고가 있었다. 탈옥은 AI 모델에 특수한 방식으로 질문을 던져 안전장치를 우회하고, 원래라면 차단됐을 답변을 끌어내는 기법을 말한다. 앤트로픽의 6월 30일 발표에 따르면, 아마존 연구진은 페이블 5의 안전장치를 우회해 모델이 여러 소프트웨어 취약점을 식별하도록 만드는 방법을 찾아냈고, 한 사례에서는 해당 취약점이 어떻게 악용될 수 있는지 보여주는 코드까지 생성하게 했다. 이 보고가 미국 정부에 전달되면서 수출통제 지시로 이어졌다는 것이 회사 측 설명이다. 월스트리트저널 등 외신 보도에 따르면 아마존 최고경영자 앤디 재시가 백악관 측에 관련 우려를 전달한 것이 조치의 배경이 됐다는 관측도 제기됐으나, 이는 언론 보도에 기반한 2차 정보로 당사자들이 공식 확인한 내용은 아니다.

사이버보안 능력은 첨단 AI의 대표적 '이중용도' 영역으로 꼽힌다. 취약점을 찾아내는 능력은 방어자가 시스템을 보호하는 데 쓰일 수도 있지만, 공격자가 침투 경로를 확보하는 데 악용될 수도 있기 때문이다. 미국 행정부가 유례없이 신속하고 강도 높은 조치에 나선 것도, 최상위 모델의 이러한 양면성이 국가 기반시설 보안과 직결될 수 있다는 판단 때문이었던 것으로 풀이된다. 비슷한 시기 오픈AI가 차기 모델을 일반 공개 대신 정부 승인을 받은 소수 그룹에 먼저 선보인 것도 같은 맥락의 고민을 보여준다는 해석이 나온다.

앤트로픽의 반박…"다른 모델도 같은 결과 낸다"

앤트로픽은 정부 지시에 따라 즉시 서비스를 중단하면서도, 조치의 근거에 대해서는 공개적으로 이견을 표명했다. 회사는 성명에서 보고된 기법이 이미 알려져 있던 비교적 경미한 취약점 몇 건을 식별하는 수준이었으며, 좁은 범위의 비보편적 탈옥에 해당한다는 취지로 반박했다. 특히 이런 좁은 탈옥 발견을 이유로 수억 명이 쓰는 상용 모델을 회수해야 한다는 기준이 업계 전반에 적용된다면, 사실상 모든 프런티어 모델의 신규 배포가 멈출 것이라고 경고했다.

회사가 이후 공개한 자체 검증 결과도 이런 주장을 뒷받침하는 근거로 제시됐다. 앤트로픽 발표에 따르면 보고서에서 페이블 5가 식별한 취약점들은 클로드 오퍼스 4.8, GPT-5.5, 키미 K2.7 등 상대적으로 성능이 낮은 다른 모델들도 동일하게 찾아낼 수 있었고, 단일 취약점의 악용 시연 코드 역시 자사와 타사를 망라해 테스트한 모든 모델이 같은 결과물을 만들어냈다. 즉 문제의 기법이 페이블 5만의 고유한 위험 능력을 노출한 것이 아니라, 일반적인 방어용 보안 작업 수준의 결과를 안전 여유 구간에서 끌어낸 경계 사례였다는 것이다. 일부 보안 전문가들 사이에서도 이번 탈옥의 심각성이 과장됐다는 평가가 나왔다. 다만 정부와 보고 당사자 측은 긴급 통제를 정당화할 만큼 사안이 중대하다고 판단했던 것으로 알려져, 동일한 기술적 사실을 두고 위험 평가가 극명하게 갈린 셈이다.

2주간의 협상…새 분류기와 정부 검증이 복귀 조건

중단 이후 앤트로픽과 미국 정부는 약 2주에 걸쳐 집중적인 협의를 진행했다. 외신 보도에 따르면 앤트로픽은 워싱턴에 기술진을 파견해 정부 관계자들과 해법을 조율했고, 아마존을 포함한 관련 당사자들과 함께 보고서와 증거를 재검토했다. 협상의 첫 결실은 6월 26일 나왔다. 미국 정부가 미소스 5를 미국 내 일부 기관에 다시 제공하는 것을 승인한 것이다. 이어 6월 30일 상무부 산업안보국이 6월 12일 자 서한에 담긴 통제를 철회한다고 발표하면서 페이블 5의 복귀 길이 열렸다. 상무부 장관은 지난 2주간 앤트로픽과 긴밀히 협력해 페이블 5를 분석하고 승인했다는 취지의 입장을 밝혔다.

복귀의 핵심 조건은 강화된 안전장치였다. 앤트로픽은 정부와 협력해 아마존 보고서에 기술된 우회 기법을 표적으로 차단하는 개선된 안전 분류기를 새로 훈련했다. 분류기는 대화 과정에서 위험한 사이버보안 요청이나 출력을 감지하는 소형 AI 시스템으로, 회사 자체 발표 기준으로 새 분류기는 보고된 기법을 99% 이상의 확률로 차단한다. 페이블 5가 요청을 거부하면 이용자에게 알림이 표시되고 해당 요청은 오퍼스 4.8이 대신 처리하는 구조다. 상무부 산하 AI표준혁신센터 연구진이 기존과 신규 안전장치를 직접 검증했으며, 매우 강력하다는 평가에 동의했다고 회사는 전했다. 다만 새 분류기는 일반적인 코딩과 디버깅 작업에서 무해한 요청을 잘못 차단하는 오탐이 늘어나는 대가를 수반하며, 앤트로픽은 오탐을 줄이기 위한 개선을 계속하겠다고 밝혔다.

재발 방지 장치도 함께 마련됐다. 앤트로픽은 아마존, 마이크로소프트, 구글 등 글래스윙 파트너들과 함께 탈옥의 심각도를 객관적으로 평가하는 업계 공통 프레임워크 마련에 착수했다. 탈옥이 공격자에게 제공하는 능력의 수준과 범위, 현실 위협으로 전환되는 속도 등을 기준으로 사안의 경중을 판정해, 개발사와 정부가 일관된 잣대로 대응하도록 하자는 취지다. 이와 함께 신규 탈옥 신고를 받는 버그바운티 프로그램을 열고, 향후 프런티어 모델에 대해 정부에 사전 접근을 제공하는 등 정부 협력도 한층 강화하기로 했다. 다만 미소스 5의 경우 현재는 미국 정부 승인을 받은 미국 내 기관들로 접근이 제한돼 있어, 중단 이전에 이용하던 해외 파트너들까지 범위를 넓히는 문제는 정부와의 추가 조율 과제로 남아 있다. 앤트로픽은 글래스윙 프로그램의 국내외 파트너 전반으로 접근을 확대하기 위해 정부와 협의를 이어가고 있다고 밝혔다.

남은 과제…AI 거버넌스와 기업 리스크의 새 국면

페이블 5는 돌아왔지만, 이번 사태가 남긴 질문은 가볍지 않다. 우선 규제 절차의 문제다. 앤트로픽은 정부가 안전하지 않은 배포를 차단할 권한을 가져야 한다는 입장을 견지해 왔지만, 그 권한은 투명하고 공정하며 기술적 사실에 근거한 법정 절차 안에서 행사돼야 한다고 강조했다. 이번 조치는 그런 원칙에 부합하지 않았다는 것이 회사의 판단이다. 실제로 정부가 사전에 마련해 둔 자발적 검토 경로 대신 수출통제라는 우회 수단이 동원됐다는 점에서, 프런티어 모델을 다룰 확립된 절차가 여전히 부재하다는 지적이 제기된다.

기업 입장에서는 '규제발 서비스 중단'이라는 새로운 리스크가 현실화됐다. 페이블 5를 업무 흐름에 통합했던 기업들은 자체 장애나 계약 분쟁이 아닌 정부 조치로 하루아침에 핵심 도구를 잃는 경험을 했고, 이는 기존 계약의 불가항력 조항이나 연속성 계획이 상정하지 못한 시나리오였다. 이 때문에 특정 모델 의존도를 낮추고 대체 모델로 즉시 전환할 수 있는 다변화 체계를 갖추는 것이 AI 거버넌스의 기본 요건으로 부상했다는 분석이 나온다. 이번 중단 기간에도 오퍼스 4.8 등 다른 모델로 신속히 전환한 조직과 그렇지 못한 조직의 피해 규모가 갈렸던 것으로 전해진다.

이용자 입장에서 당장의 변화는 비교적 명확하다. 페이블 5는 7월 1일부터 다시 쓸 수 있고, 유료 요금제에서는 7월 7일까지 한시적으로 주간 한도의 절반까지 포함 제공된다. 강화된 분류기 탓에 보안이나 코딩 관련 일부 정상 요청이 차단되고 오퍼스 4.8로 넘어가는 경우가 이전보다 잦아질 수 있으며, 페이블급 모델 이용에는 안전 모니터링을 위한 30일 데이터 보존 정책이 적용된다. 더 크게 보면 이번 사태는 AI 모델이 반도체에 준하는 전략 자산으로 취급되기 시작했음을 보여준 사건으로 기록될 전망이다. 정부가 상용 AI의 스위치를 실제로 내릴 수 있고, 실제로 내렸다는 사실이 확인된 이상, 프런티어 모델의 출시와 운영은 이제 기술의 문제인 동시에 지정학과 규제의 문제가 됐다는 평가가 지배적이다.