TechFeedTechFeed
AI/LLM

앤트로픽 "위험한 AI는 정부가 막아야" — 미토스 공개 제한과 AI 안전 규제 촉구

앤트로픽이 클로드 미토스(Claude Mythos) 일반 공개를 제한한 직후 위험한 AI는 정부가 막아야 한다는 규제론을 공식 제기했다. SWE-bench 최상위 성능 모델을 스스로 제한한 배경과 책임 있는 확장 정책(RSP)·ASL 안전 분류 체계, 클로드 API·클로드 코드 개발자에게 미치는 영향, 오픈AI·구글 딥마인드와의 입장 차이까지 개발자 관점으로 분석한다.

by

앤트로픽이 클로드 미토스(Claude Mythos)의 대외 공개를 제한한 직후, "위험한 AI는 정부가 막아야 한다"는 공식 입장을 내놓았다. 최첨단 모델을 스스로 개발하면서도 자체 규제만으로는 한계가 있다고 인정한 것이다. AI 안전 연구소로 출발한 앤트로픽이 왜 정부 규제를 공개적으로 요청하게 됐는지, 그리고 이 변화가 클로드 API와 클로드 코드를 사용하는 개발자에게 어떤 의미를 갖는지 살펴본다.


앤트로픽 클로드 AI 안전 규제 정책
© Anthropic

앤트로픽이 미토스를 왜 제한했는가

클로드 미토스(Claude Mythos)는 앤트로픽이 개발한 최고 성능 모델이다. 코딩 벤치마크인 SWE-bench에서 93.9%라는 수치를 기록한 것으로 알려졌으며, 이는 현재 공개된 어떤 AI 모델보다도 높은 수준이다.


앤트로픽은 이 모델을 일반 공개하지 않고 제한된 파트너에게만 접근을 허용하기로 결정했다. 제한의 핵심 이유는 사이버보안 위험이다. 미토스 수준의 AI는 단순 코딩 보조를 넘어 보안 취약점 탐색과 사이버 공격 자동화에도 활용될 수 있다. 앤트로픽은 이 위험이 현재 보안 장치만으로 관리 가능한 수준을 넘어섰다고 판단했다.


앞서 출시된 클로드 페이블 5(Claude Fable 5)도 미토스 아키텍처를 기반으로 하지만, 사이버보안·생물학·화학 영역 자동 차단 안전장치가 포함돼 있다. 미토스 자체는 이보다 더 높은 성능을 가지며, 그만큼 위험 가능성도 크다고 판단한 것으로 보인다.


"정부가 막아야" — 앤트로픽이 규제를 공식 요청한 이유

앤트로픽의 입장은 단순히 "우리는 안전하다"는 자기 선언이 아니다. 핵심 논리는 이렇다: "스스로 공개를 제한했지만, 다른 기업들도 같은 판단을 할 것이라는 보장이 없다." 자율 규제만으로는 산업 전체의 안전을 담보할 수 없다는 인정이다.


앤트로픽이 요청하는 규제의 방향은 공개 성명 수준에서 크게 세 가지로 정리된다.


  • 특정 임계값 이상의 AI 모델에 대한 사전 안전 평가 의무화
  • 고위험 용도(사이버 무기화, 생물학적 위협 등) 활용을 금지하는 명확한 법적 기준
  • AI 안전 기준을 감독할 독립적인 기관 설립

이 입장은 앤트로픽의 책임 있는 확장 정책(RSP)을 산업 표준으로 법제화하자는 요구이기도 하다. 자신들이 이미 자체적으로 적용하는 기준을 다른 기업들도 따르게 하려는 전략적 의도도 읽힌다.


앤트로픽 책임 있는 확장 정책 AI 안전 연구
© Anthropic

책임 있는 확장 정책(RSP)과 ASL 안전 분류 체계

앤트로픽은 2023년부터 책임 있는 확장 정책(Responsible Scaling Policy, RSP)을 운영하고 있다. RSP는 AI 모델의 위험 수준을 AI Safety Level(ASL)로 분류하고, 각 단계에 따라 개발·배포 기준을 달리 적용하는 체계다.


ASL 분류 기준은 다음과 같다.


  • ASL-1: 위험 없음 — 연구 프로토타입 수준
  • ASL-2: 관리 가능한 위험 — 현재 API로 배포 중인 클로드 오푸스·소넷 계열
  • ASL-3: 심각한 위협 가능성 — 배포 전 특별 안전 조치가 필수
  • ASL-4: 국가적 재앙 수준 위험 — 배포 중단을 포함한 강력한 제한 필요

미토스는 사이버보안 능력 측면에서 ASL-3 기준에 근접했거나 초과한 것으로 앤트로픽이 판단한 것으로 보인다. 이 때문에 일반 공개 대신 검증된 파트너에게만 제한 접근을 허용하는 방식을 택했다.


RSP 체계에서 중요한 점은 ASL-3라고 해서 배포 자체가 불가능하지는 않다는 것이다. 적절한 보안 장치와 접근 제한을 갖추면 제한적으로 제공할 수 있다. 앤트로픽이 미토스를 선별된 파트너에게는 제공하는 것이 바로 이 방식이다.


클로드 API와 클로드 코드 개발자에게 미치는 영향

현재 API로 제공되는 클로드 모델(오푸스 4.8, 소넷 4.6 등)은 ASL-2 범위 내로 이번 미토스 제한의 직접적인 영향을 받지 않는다. 클로드 코드, 클로드 API를 사용 중인 개발자는 현재 서비스 중단이나 기능 제한 없이 계속 사용할 수 있다.


그러나 중장기적으로는 다음 세 가지 변화를 주의 깊게 살펴볼 필요가 있다.


모델 출시 단계의 변화
최고 성능 모델이 일반 API에 바로 제공되지 않고, 기업 파트너 → 제한 접근 → 일반 공개의 단계형 출시가 늘어날 수 있다. 현재 클로드 오푸스가 제한적으로만 제공되는 것도 이 방향이다. 개발자 입장에서는 최신 최고성능 모델이 바로 API로 사용 가능하지 않을 수 있다는 점을 염두에 둬야 한다.


사이버보안 관련 사용 정책 강화
취약점 탐색, 침투 테스트, 보안 코드 생성 등 보안 관련 API 사용에 대한 검증 절차가 강화될 수 있다. 현재도 허용 사용 정책(AUP)이 있지만, 앞으로 보안 관련 프롬프트에 더 엄격한 필터가 적용될 가능성이 있다.


기업용 접근 티어 확대
반대로 기업 검증을 거친 고위험 용도 사용자에게는 더 높은 성능의 모델에 접근할 수 있는 엔터프라이즈 티어가 생길 수 있다. 보안 컨설팅·침투 테스트 기업이나 연구 기관에게는 미토스 수준의 모델 접근권이 별도 조건으로 제공될 가능성이 있다.


오픈AI·구글과의 입장 차이 — AI 규제 논쟁의 현재

AI 규제에 대한 주요 AI 기업들의 입장은 미묘하게 다르다.


앤트로픽은 가장 명시적으로 정부 규제를 지지한다. 자체 RSP를 먼저 도입하고, 이를 산업 표준으로 법제화하자는 입장이다. 오픈소스 고성능 모델 공개에도 비판적이다.


오픈AI는 자율 규제를 선호하면서도 특정 위험 영역에 대한 정부 개입의 필요성을 인정하는 방향으로 이동하고 있다. 다만 미국 내 규제보다는 국제 표준화를 강조한다.


구글 딥마인드는 EU AI Act 준수를 강조하면서도 미국 내 광범위한 규제는 혁신을 저해한다고 우려한다. 양면적 입장이다.


메타는 오픈소스 AI 모델 공개를 강력히 지지하며, 폐쇄형 모델과 규제론에 반대 입장을 취하고 있다. 라마(Llama) 4 계열을 Apache 2.0으로 공개한 것이 이 철학의 반영이다.


앤트로픽의 규제 촉구는 시장 전략적 측면도 있다. 엄격한 규제가 도입되면 안전 연구와 컴플라이언스 인프라가 잘 갖춰진 앤트로픽에 상대적으로 유리하다. 반면 스타트업이나 오픈소스 프로젝트는 규제 비용을 감당하기 어렵기 때문이다.


AI 규제 정책 글로벌 논의 빅테크
© Anthropic

개발자가 지금 당장 할 수 있는 준비

앤트로픽의 규제 촉구가 실제 법률로 만들어지기까지는 상당한 시간이 걸린다. 그러나 정책 방향을 미리 파악하고 대비해두는 것이 좋다.


클로드 AUP(허용 사용 정책) 확인
클로드 API를 보안 관련 용도로 사용 중이라면 최신 AUP를 정기적으로 확인하자. 앤트로픽은 정책 변경 시 사전 공지를 제공하지만, 변경 범위와 시점을 미리 파악해두면 서비스 중단 없이 대응할 수 있다.


다중 LLM 아키텍처 고려
단일 모델에 의존하는 서비스는 정책 변경 시 리스크가 크다. 오픈AI API와 앤트로픽 API를 병행 사용하는 멀티 LLM 라우팅 구조를 미리 갖추면 특정 공급사의 정책 변화에 유연하게 대응할 수 있다.


보안 평가 도구 활용 방식 문서화
침투 테스트나 취약점 분석에 AI를 활용 중이라면, 용도와 범위를 명확히 문서화해두자. 향후 기업 검증 프로세스가 생길 경우, 정당한 용도임을 입증하는 데 도움이 된다.


참고 자료


자주 묻는 질문

클로드 미토스는 일반 API로 제공되나요?

아니다. 앤트로픽은 미토스를 일반 공개하지 않고 제한된 파트너에게만 접근을 허용하기로 했다. 현재 클로드 API로 제공되는 최고 모델은 오푸스(Opus) 4.8 계열이다.


현재 사용 중인 클로드 API가 갑자기 중단되거나 제한되나요?

아니다. 현재 클로드 오푸스 4.8, 소넷 4.6 등 API로 제공 중인 모델은 영향이 없다. 미토스 제한은 미공개 최고 성능 모델에 대한 결정이며, 기존 API 사용자에게는 즉각적인 변화가 없다.


앤트로픽이 요구하는 정부 규제는 어떤 내용인가요?

공개된 성명 기준으로는 고위험 AI 모델에 대한 사전 안전 평가 의무화, 사이버 무기화·생물학적 위협 활용 금지, 독립적인 AI 안전 감독 기관 설립 등의 방향이다. 구체적인 법안 제안은 아직 없다.


ASL-3 수준 모델은 API로 제공될 수 없나요?

그렇지 않다. ASL-3는 배포 전 특별 안전 조치를 의무화하는 단계다. 적절한 보안 장치와 접근 제한을 갖추면 제한적으로 제공할 수 있다. 앤트로픽이 미토스를 선별된 파트너에게 제공하는 것이 이 방식이다.


클로드 코드에서 보안 취약점 탐색이나 침투 테스트 코드 생성이 제한되나요?

현재 클로드 코드의 허용 사용 정책은 방어 목적의 보안 테스트와 교육 목적의 취약점 분석을 허용한다. 악의적 공격 코드 생성은 이미 금지돼 있다. 미토스 제한 이후 정책이 강화될 가능성은 있지만, 현재 공지된 변경은 없다.


앤트로픽의 규제 요청이 오픈소스 LLM 개발에도 영향을 주나요?

앤트로픽이 촉구하는 규제가 실제 법률로 만들어지면 오픈소스 고성능 LLM(라마 4, 미스트랄 등) 공개에도 제약이 생길 수 있다. 다만 현재는 기업 의견 표명 수준이며, 법제화까지는 상당한 시간이 걸릴 것으로 보인다. 메타는 오픈소스 정책을 계속 유지하겠다는 입장이다.


앤트로픽클로드 미토스AI 규제RSPAI 안전클로드 APILLMAI 정책

관련 도구

관련 포스트