테크 카테고리 표지 이미지 — 글 제목이 적혀 있다

모델 증류 차단, API가 추론 블록을 잠그기 시작한 조건

작성자:

모델 증류라는 말이 이번 주 기술 뉴스에 반복해 등장했다. 앤트로픽이 자사 모델을 겨냥한 대규모 증류 시도를 확인했다고 밝힌 뒤, 국내 매체에서도 이것이 기술 절도인지 정상적인 경쟁인지를 놓고 논쟁이 붙었다.

논쟁 자체보다 실무에 닿는 질문은 다른 쪽이다. 약관은 어디까지 허용하고 어디서부터 막는가, 그리고 API를 쓰는 사람 입장에서 무엇이 실제로 달라졌는가. 공식 문서만 보고 정리했다.

모델 증류는 무엇을 옮기는 기법인가

모델 증류는 성능이 높은 모델의 출력을 학습 데이터로 삼아 다른 모델에 그 능력을 옮기는 방식이다. 원본 모델의 가중치나 학습 코드를 가져오는 것이 아니라, 질문을 던지고 답을 모아 그 답을 정답으로 학습시킨다. 그래서 API 접근 권한만 있으면 기술적으로는 성립한다.

앤트로픽이 이를 제한하는 근거로 공식 문서에 적어 둔 이유는 두 가지다. 첫째, 출력만 배운 모델은 원본에 들어간 안전장치를 함께 물려받지 못한다. 둘째, 그렇게 만들어진 모델이 어디에 배포되는지 제공자가 볼 수 없어 오용을 감시하거나 막을 수 없다. 여기에 인프라와 투자를 쓴 결과물로 같은 서비스의 경쟁자를 만든다는 사업적 이유가 함께 제시된다.

기술 자체를 금지한 것이 아니라 용도를 갈라 놓은 구조라는 점이 핵심이다. 콘텐츠 출처를 표시하는 장치가 무엇을 확인해 주고 무엇을 확인해 주지 못하는지 따진 AI 워터마크의 한계와 마찬가지로, 여기서도 경계선이 기술이 아니라 조건에 그려져 있다.

약관은 어디까지 허용하나

앤트로픽 공식 안내(2026년 3월 16일 갱신)는 출력물의 소유권은 사용자에게 있다고 하면서도, 그 출력으로 무엇을 학습시킬 수 있는지를 나눠 놓았다.

구분 내용
허용 — 경쟁하지 않는 모델 감정 분석, 콘텐츠 분류, 요약, 정보 추출, 시맨틱 검색, 이상 탐지 같은 특화 분류기·도구 학습
허용 — 제품 기능 자사 애플리케이션 기능 구현, 고객용 콘텐츠 생성, 보유 데이터 분석·구조화, 내부 업무 흐름 개선
금지 범용 챗봇, 개방형 텍스트 생성 모델
금지 출력물을 학습 타깃으로 사용, 학습 방법 리버스 엔지니어링
금지 제3자가 위 금지 행위를 하도록 지원하는 것

표 출처: 앤트로픽 공식 문서 「Can I use my Outputs to train an AI model?」(2026년 3월 16일 기준). 서면 허가가 있으면 예외가 인정된다.

즉 출력으로 분류기를 만드는 것은 허용되고, 같은 출력으로 범용 대화 모델을 만드는 것은 금지된다. 같은 데이터라도 결과물이 무엇인지에 따라 판정이 갈린다. 다만 이 조항은 계약상 금지일 뿐이어서, 기술적으로 막는 장치는 따로 필요하다.

추론 블록을 잠그는 조치는 누구에게 적용되나

그 기술적 장치 중 가장 최근에 들어온 것이 preserved thinking이다. 추론 블록은 모델이 답을 내기 전에 만드는 사고 과정의 기록이고, 멀티턴 대화에서는 이 블록을 시스템 프롬프트·도구·이전 메시지와 함께 되돌려 보내게 되어 있다.

Fable 5.1부터 API는 되돌아온 추론 블록이 그것을 만들어낸 것과 같은 시스템 프롬프트·도구·메시지를 달고 왔는지 검증하고, 어긋나면 오류를 반환한다. 앞 턴을 고쳐 넣으면 모델이 암호화된 추론을 풀어 출력하게 만들 수 있고, 이것이 공개 논문으로 문서화된 산업 규모 증류 기법이라는 설명이다.

항목 내용
적용 대상 2026년 8월 31일 00:00 UTC 이후 새로 만든 API 계정
대상 계정 종류 Claude Platform 조직, Amazon Bedrock 계정, Google Cloud Vertex AI 프로젝트, Microsoft Azure Foundry 프로젝트
적용 모델 Fable 5.1 한정(이후 모델에서는 전체 계정으로 확대 예정)
영향 없음 기존 API 계정, Claude Code·Cowork·Claude.ai·서드파티 제품 사용자, Fable 5.1 외 모델
어긋날 때 동작 기본은 오류 반환. non-strict 모드로 옵트인하면 요청은 통과하고 해당 추론 블록만 제거된 채 응답하며, 어떤 블록이 빠졌는지 알려준다

표 출처: 앤트로픽 공식 문서 「Preserved thinking」(Fable 5.1 기준, 2026년 9월 11일 확인). 시각은 UTC 기준이다.

막히는 지점도 문서에 적혀 있다. 대화 중간을 다시 쓰는 통합, 구체적으로 컨텍스트 압축이나 시스템 리마인더를 끼워 넣는 방식은 조정이 필요하다. 반대 방향의 부수 효과도 있다. 추론 블록 앞 컨텍스트를 그대로 유지하면 프롬프트 캐시가 더 자주 재사용돼 비용과 응답 시간이 줄어든다. 모델 접근 권한이 개인 설정에서 조직·플랫폼 정책으로 올라가는 흐름은 노션이 프리미엄 모델을 기본으로 끄고 관리자가 켜도록 바꾼 구조와 같은 방향이다.

내 환경이 영향을 받는지 확인할 항목

  • 쓰는 모델이 Fable 5.1인지 확인한다. 다른 모델에는 이 검증이 적용되지 않는다.
  • API 계정(조직·프로젝트)을 만든 날짜를 확인한다. 2026년 8월 31일 00:00 UTC가 경계다.
  • 클라우드 경유 계정도 대상에 포함된다. Bedrock·Vertex AI·Azure Foundry 프로젝트 생성일을 따로 본다.
  • 대화 중간을 프로그램이 다시 쓰는 구간이 있는지 본다. 컨텍스트 압축이나 시스템 리마인더 주입이 있으면 오류가 난다.
  • 오류를 감수할 수 없으면 non-strict 옵션을 켠다. 대신 해당 추론 블록은 모델이 보지 못한 상태로 응답한다.
  • 출력물로 모델을 학습시킬 계획이 있으면 결과물이 분류기·도구인지 범용 대화 모델인지 먼저 구분한다. 판정은 그 지점에서 갈린다.

정리하면

모델 증류는 약관에서 기술 자체로 금지되는 것이 아니라, 만들어지는 결과물이 경쟁 모델인지로 갈린다. 분류·요약·추출 같은 특화 도구 학습은 허용이고, 범용 챗봇과 개방형 생성 모델은 금지다. 여기에 계약만으로 막기 어려운 부분을 메우려고 API 쪽 검증이 붙었는데, Fable 5.1에서는 2026년 8월 31일 이후 만들어진 신규 계정에만 적용되고 기존 계정과 Claude Code·Cowork·Claude.ai 사용자는 해당되지 않는다. 다음 모델부터는 전체 계정으로 넓어질 예정이라고 공식 문서가 밝히고 있으므로, 대화 중간을 다시 쓰는 구조를 쓰고 있다면 그 전에 손볼 구간을 찾아 두는 편이 낫다. 본문의 조건과 날짜는 2026년 9월 11일 확인 시점 기준이다.

참고