한눈에 보는 핵심 인사이트 오픈웨이트 모델이 2026년 들어 코딩과 에이전트 영역에서 폐쇄형 최상위 모델과의 격차를 좁히면서, 기업의 AI 운영 구도가 달라지고 있습니다. Vercel이 공개한 AI Gateway 지표에서 오픈웨이트 모델이 처리한 토큰 비중은 4월 11%에서 7월 36%로 늘었지만, 전체 지출에서 차지한 비중은 8.6%에 그쳤습니다. 같은 기간 수출 통제로 최상위 모델을 3주가량 쓸 수 없게 되는 일까지 겹치며, 기업의 질문은 어떤 모델이 가장 뛰어난가에서 어떤 업무에 어떤 모델을 쓸 것인가로 옮겨가고 있습니다. 다만 모델을 직접 들여와 운영하기 시작하면 GPU 자원과 서빙 성능, 라이선스, 운영 체계라는 과제가 새로 생깁니다.

 

폐쇄형 최상위 모델을 쓰는 대가로 기업이 떠안은 네 가지 부담

 

 

그동안 고난도 코딩과 추론, 에이전트 업무는 폐쇄형 최상위 모델이 주도해 왔습니다. 품질은 확실했지만 기업은 네 가지 부담을 함께 떠안았습니다. 외부 API에 대한 의존, 사내 데이터가 외부로 나가는 데 따르는 우려, 사용량이 늘수록 커지는 토큰 비용, 그리고 특정 플랫폼에 업무가 묶이는 종속입니다.

이 부담은 도입 초기에는 잘 드러나지 않습니다. 파일럿 단계에서는 사용량이 적고 활용 범위도 좁기 때문입니다. 문제는 에이전트가 실제 업무에 들어가면서 시작됩니다. 상시 실행되는 에이전트는 사람보다 훨씬 자주 모델을 부르고, 사내 업무 데이터를 반복해서 들여다봅니다.

 

코딩과 에이전트 영역에서 프론티어급에 진입한 오픈웨이트 모델

 

 

2026년 들어 이 구도에 변화가 생겼습니다. 4월 MIT 라이선스로 공개된 DeepSeek V4를 시작으로, 6월 Z.ai가 내놓은 GLM 5.2, 7월 공개된 Moonshot AI의 Kimi K3까지 기업이 직접 내려받아 쓸 수 있는 모델이 잇따라 나왔습니다. 특히 GLM 5.2와 Kimi K3는 오래 이어지는 에이전트 업무를 겨냥해 설계됐다는 공통점이 있습니다. 미국에서는 기업 환경 배포를 염두에 둔 NVIDIA Nemotron이 같은 흐름에 합류했습니다.

변화는 실제 사용량에서 확인됩니다. Vercel의 AI Gateway 지표에 따르면 오픈웨이트 모델의 토큰 비중은 4월 11%에서 6월 29%, 7월 36%로 늘었습니다. 반면 지출 비중은 7월 기준 8.6%에 머물렀고, DeepSeek는 토큰 기준으로 Google을 제치고 두 번째로 큰 사업자가 됐습니다. 사용량이 많은 대량 반복 업무에는 저렴한 모델을 쓰고, 오류의 파장이 큰 고난도 업무는 프론티어 모델에 맡기는 구분이 이미 현장에서 이뤄지고 있다는 뜻입니다.

 

수출 통제로 멈춘 최상위 모델, 외부 API 의존이 만드는 운영 리스크

 

2026년 6월에는 성능과 무관한 변수가 드러났습니다. 6월 12일 미국 정부가 Claude Fable 5와 Mythos 5에 수출 통제를 적용했고, Anthropic은 이용자의 국적을 실시간으로 확인할 방법이 없어 전체 이용자의 접근을 중단했습니다. 통제는 6월 30일 해제됐고 Fable 5는 7월 1일 전 세계에 다시 열렸습니다. 출시 직후 빠르게 쓰이던 모델이 약 3주간 멈춘 것으로, 기술적 결함이나 계약 문제가 아니라 정책 변화만으로도 쓰던 모델을 못 쓰게 될 수 있다는 사실이 확인된 사례입니다.

핵심 업무를 외부 모델에 의존하고 있다면 이런 변수는 그대로 운영 리스크가 됩니다. 반면 기업이 모델을 직접 보유하고 자체 인프라에서 직접 돌릴 수 있다면, 성능이나 비용을 넘어 업무 연속성까지 스스로 관리할 수 있습니다.

 

모델을 직접 운영할 때 줄어드는 비용과 새로 드는 비용

 

다만 모델을 직접 들여오면 토큰 단가는 분명히 낮아지지만, 비용이 사라지는 것은 아닙니다. Vercel은 7월 기준 오픈웨이트 모델의 토큰 단가가 프론티어 모델의 약 7분의 1 수준이었다고 밝혔습니다. 그러나 GPU와 서버, 서빙 환경 구축, 파인튜닝, 보안과 운영 인력에 드는 비용은 새로 발생합니다.

규모의 문제도 있습니다. Vercel은 관리형 오픈웨이트 API 가격이 낮아지면서 자체 호스팅이 유리해지는 분기점이 하루 5,000만 토큰 수준까지 올라갔다고 분석했습니다. 사용량이 그에 못 미치면 직접 구축이 반드시 저렴한 선택은 아니라는 뜻입니다. 여기에 최상위 오픈웨이트 모델은 파라미터 규모가 커 여러 대의 GPU를 묶어야 돌아가고, 라이선스 조건은 같은 계열 안에서도 모델과 세대마다 달라 실제 내려받는 저장소의 조건을 확인해야 합니다. 결국 모든 업무를 내부로 옮기는 것이 아니라, 업무별로 어디에서 어떤 모델을 운영할지 구분하는 판단이 핵심입니다.

 

업무 난이도와 규모에 맞는 모델·GPU 설계가 기업 맞춤 AI의 출발점

 

이 판단은 업무를 구분하는 데서 시작합니다. 문서 요약이나 사내 검색처럼 반복적으로 대량 발생하고 데이터 민감도가 높은 업무와, 복잡한 판단이 필요한 고난도 업무는 요구하는 모델의 크기가 다릅니다. 업무의 난이도와 사용량을 파악해야 필요한 모델이 정해지고, 그에 맞는 GPU 자원과 서빙 구조가 결정됩니다.

SK AX는 오픈웨이트 모델을 활용해 온프레미스와 프라이빗 환경에서도 기업 맞춤형 AI를 운영할 수 있도록 지원합니다. 업무 난이도와 규모에 맞는 모델과 GPU 자원을 설계하고, Enterprise Agentic Workspace 플랫폼인 AXgenticWire Core의 GPUaaS, LLMOps를 활용하여 안전하고 효율적인 운영 환경을 구축합니다. 모델을 고르는 일에서 끝나지 않고, 그 모델이 기업의 데이터와 업무 위에서 꾸준히 작동하도록 만드는 것이 기업 맞춤 AI의 출발점입니다.

 

[FAQ]

 

Q1. 오픈웨이트 모델이란 무엇인가요?

모델의 가중치(파라미터)가 공개되어 누구나 자체 인프라에서 실행하고 조정할 수 있는 AI 모델입니다. API로만 쓸 수 있는 폐쇄형 모델과 달리 기업이 모델을 직접 보유하고 운영할 수 있습니다. 다만 대부분 가중치만 공개하고 학습 데이터는 공개하지 않아, 완전한 오픈소스와는 다릅니다.

 

Q2. 기업이 오픈웨이트 모델을 도입하는 이유는 무엇인가요?

데이터 통제, 비용 통제, 규제 대응, 업무 연속성 때문입니다. 사내 데이터가 외부로 나가지 않고, 사용량이 늘어도 비용 구조를 예측할 수 있으며, 외부 정책이 바뀌어 모델을 쓸 수 없게 되는 상황에서도 업무를 이어갈 수 있습니다.

 

Q3. 오픈웨이트 모델을 도입하면 AI 비용이 줄어드나요?

토큰 단가는 크게 낮아지지만 총비용이 자동으로 줄지는 않습니다. GPU와 서버, 파인튜닝, 보안, 운영 인력 비용이 새로 들기 때문입니다. 사용량이 많지 않다면 관리형 API를 쓰는 편이 유리할 수 있어, 사용량을 기준으로 총소유비용을 비교해 판단해야 합니다.

 

Q4. 어떤 업무를 오픈웨이트 모델로 운영하는 것이 적합한가요?

반복적으로 대량 발생하고, 데이터 민감도가 높으며, 최상위 수준의 성능까지는 필요하지 않은 업무가 우선 대상입니다. 문서 처리, 사내 지식 검색, 정형화된 코딩 업무가 대표적입니다. 고난도 판단이 필요한 업무나 복잡한 에이전트 업무는 폐쇄형 모델과 함께 쓰는 구성이 일반적입니다.

 

Q5. AXgenticWire Core의 GPUaaS와 LLMOps는 무엇인가요?

GPUaaS는 고성능 GPU 자원을 업무 수요에 맞게 배분하고 효율적으로 운영하는 플랫폼이며, LLMOps는 거대언어모델의 배포부터 모니터링, 재학습까지 전체 운영 과정을 관리하는 체계입니다. 오픈웨이트 모델은 도입 이후에도 자원 할당과 성능 관리가 지속적으로 필요합니다. GPUaaS는 필요한 만큼 GPU 자원을 제공해 인프라 비용을 효율화하고, LLMOps는 모델이 기업의 업무 데이터 환경에서 안정적으로 성능을 유지하도록 지원합니다. SK AX의 AXgenticWire Core는 이러한 인프라와 모델 운영 기능을 통합해 제공합니다.

 

---

 

AX 컨설팅부터 비즈니스 모델 발굴까지
Global Top 10 AX Service Company｜SK AX

#오픈웨이트모델, #OpenWeightModel, #프론티어모델, #DeepSeekV4, #GLM52, #KimiK3, #온프레미스AI, #프라이빗AI, #LLMOps, #GPUaaS, #AI토큰비용, #기업맞춤형AI, #AI운영전략, #AXgenticWireCore, #SKAX