DeepSeek, Qwen 그리고 오픈 웨이트의 물결
오랫동안 "좋은 AI"에 대한 이야기는 API를 통해서만 빌려 쓸 수 있는 소수의 폐쇄형 프런티어 모델에 대한 이야기였습니다. 이제는 더 이상 그것이 이야기의 전부가 아닙니다. 오픈 웨이트 모델의 물결 — 상당수가 DeepSeek과 알리바바의 Qwen 같은 중국 연구소에서, 그리고 Meta의 Llama와 프랑스의 Mistral에서 나왔습니다 — 이 충분히 뛰어나고, 충분히 저렴하며, 충분히 작아져서 자신만의 유능한 모델을 다운로드해 직접 실행하는 것이 현실적인 선택지가 되었습니다. 이 페이지는 그 지형에 대한 변치 않는 지도입니다. 왜 이런 일이 일어났는지, "오픈 웨이트"가 실제로 무엇을 의미하는지, 폐쇄형 프런티어 모델과 비교했을 때의 솔직한 트레이드오프, 그리고 오늘날 이 모델들을 실제로 어떻게 사용하는지를 다룹니다.
- 오픈 웨이트 모델이 경쟁력을 갖추게 된 이유 이해하기 — 비용 대비 성능과 열린 추론
- '오픈 웨이트'가 실제로 무엇을 의미하는지 정확히 파악하기 — 오픈 소스 대비, 오픈 데이터 대비
- 원형을 알아보기: 일반 챗, 추론, 코딩, 그리고 소형/효율 모델
- 폐쇄형 프런티어 대비 실제 트레이드오프 저울질하기 — 가장 어려운 작업에서의 성능 격차, 그리고 자체 인프라와 안전성을 스스로 소유하는 것
- 실제로 사용하는 두 가지 방법 알기: 호스팅 API, 또는 Ollama를 통한 셀프 호스팅
오픈 웨이트 모델이 갑자기 경쟁력을 갖추게 된 이유
거의 같은 시기에 세 가지가 바뀌었고, 이들이 함께 일상적인 격차의 대부분을 좁혔습니다.
- 비용 대비 성능이 무너져 내렸습니다. 더 나은 학습 레시피, 데이터 큐레이션, 그리고 전문가 혼합(MoE) 아키텍처(대형 모델의 파라미터 중 일부만 토큰마다 활성화되는 방식) 덕분에 연구소들은 비용을 훨씬 웃도는 성능의 모델을 출시할 수 있게 되었습니다. 초안 작성, 요약, 추출, 분류, 일상적 코딩 같은 실제 작업의 상당수에서, 좋은 오픈 모델은 이제 프런티어 API 비용의 극히 일부로 "충분히 좋은" 수준입니다.
- 열린 추론 모델이 등장했습니다. DeepSeek의 추론 라인은 전환점이었습니다. "답하기 전에 단계별로 생각하는" 능력 — 이전에는 소수 폐쇄형 모델의 해자였던 — 이 오픈 웨이트로 학습되고 공개될 수 있음을 보여주었습니다. 한 연구소가 이를 입증하자, 나머지 오픈 생태계가 뒤따랐습니다.
- 소형 모델이 진짜로 쓸 만해졌습니다. 10B 미만, 심지어 1B 미만 모델도 일관되고 유용해졌으며, 이는 노트북이나 저렴한 서버에서도 유능한 무언가를 실행할 수 있다는 뜻입니다. 이는 프라이버시, 지연 시간, 규모의 경제학을 바꿉니다.
순효과: 폐쇄형 프런티어와의 격차가 사라진 것은 아니지만, 대부분의 작업에서 그것이 더 이상 결정적 요인이 아니게 되었습니다. 결정적 요인은 비용, 통제, 그리고 데이터가 어디에 위치하는가가 되었습니다.
"오픈 웨이트"가 실제로 의미하는 것
이것은 이 분야 전체에서 가장 자주 혼동되는 지점입니다. "오픈"이라는 단어는 서로 다른 세 가지 방식으로 많은 역할을 하고 있으며, 이들은 같은 것이 아닙니다.
| 용어 | 실제로 얻는 것 | 보통 얻지 못하는 것 |
|---|---|---|
| 오픈 웨이트 | 학습된 모델 파일(가중치). 다운로드, 실행, 파인튜닝, 셀프 호스팅이 가능합니다. | 학습 데이터, 그리고 때로는 전체 학습 코드. 사용은 커스텀 라이선스의 규제를 받을 수 있습니다. |
| 오픈 소스(엄격한 의미) | 가중치 에 더해 OSI 스타일 라이선스로 제공되는 학습/추론 코드, 사용·수정·재배포의 자유. | 여전히 학습 데이터는 대개 포함되지 않습니다. |
| 오픈 데이터 | 모델이 학습된 실제 데이터셋을 공개적으로 게시한 것. | 프런티어 규모 모델에서는 드뭅니다. 대부분의 "오픈" 모델은 오픈 데이터가 아니라 오픈 웨이트입니다. |
실질적인 요점: 사람들이 "오픈 소스"라고 부르는 대부분의 모델은 사실 오픈 웨이트입니다. 실행하고 적응시킬 수는 있지만, 일반적으로 처음부터 재현할 수는 없으며, 라이선스를 반드시 읽어야 합니다. 라이선스는 다양합니다.
- 일부는 상업적 사용에 깔끔한 허용적 라이선스(Apache 2.0, MIT)로 제공됩니다 — 예를 들어 Qwen과 Mistral 모델은 역사적으로 Apache 2.0을 사용해 왔고, DeepSeek는 주요 릴리스에 MIT를 사용해 왔습니다.
- 일부는 조건이 붙은 커스텀 커뮤니티 라이선스로 제공됩니다 — 예를 들어 Meta의 Llama 라이선스는 역사적으로 (월간 활성 사용자 기준) 최대 규모 기업이 자유롭게 사용하는 것을 제한하는 조항을 포함해 왔습니다.
무언가를 그 위에 구축하기 전에 항상 해당 모델의 모델 카드에서 라이선스를 확인하세요. 중립적이지만 중요한 점: 모델이 오픈 웨이트라는 것은 당신이 직접 호스팅할 수 있다는 것을 알려줄 뿐, 법적 조건을 알려주지는 않으며, 라이선싱이나 데이터 거주지 문제를 사라지게 하지도 않습니다 — 그 문제를 당신에게 옮겨 놓을 뿐입니다.
네 가지 원형
오픈 웨이트 계열은 거의 항상 단일 모델이 아니라 변형의 스펙트럼으로 나옵니다. 네 가지 원형을 익히면 어떤 연구소의 라인업이든 한눈에 읽을 수 있습니다.
단일 계열 — Qwen이 가장 명확한 예입니다 — 은 일반적으로 전체 사다리를 제공합니다: 엣지와 노트북용 초소형 모델, 서버용 중형 모델, 가장 어려운 작업을 위한 대형 플래그십, 그리고 코딩 및 추론에 특화된 변형들. 당신은 "그 모델"이 아니라 자신의 하드웨어와 작업에 맞는 단을 고릅니다.
폐쇄형 프런티어 대비 솔직한 트레이드오프
오픈 웨이트 모델은 단순한 업그레이드가 아닙니다. 다른 거래입니다. 그 거래를 중립적으로 정리하면 다음과 같습니다.
| 차원 | 오픈 웨이트(셀프 호스팅 또는 저렴한 호스팅) | 폐쇄형 프런티어(호스팅 API) |
|---|---|---|
| 가장 어려운 작업의 성능 | 강력하고 빠르게 좁혀지고 있지만, 폐쇄형 프런티어가 여전히 가장 어려운 추론, 장기 지평 에이전트, 틈새 작업에서 보통 앞섭니다 | 일반적으로 가장 까다로운 작업에서 천장 역할 |
| 규모에서의 비용 | 특히 셀프 호스팅이나 저예산 호스팅을 통하면 극적으로 저렴할 수 있음 | 토큰당 프리미엄; 예측 가능하지만 쌓이면 부담 |
| 프라이버시 / 데이터 거주지 | 데이터를 자신의 환경 안에 완전히 유지할 수 있음 | 데이터가 당신의 네트워크를 떠나 제공자에게 감 |
| 통제 및 커스터마이징 | 완전함: 파인튜닝, 양자화, 버전 고정, 오프라인 실행 | API가 노출하는 것에 한정됨; 버전이 당신 모르게 바뀔 수 있음 |
| 안전성과 운영의 소유자 | 당신 — 가드레일, 남용 필터링, 가동 시간, 확장, 패치가 당신의 일 | 제공자가 인프라를 운영하고 기본 안전성을 제공 |
그 마지막 행이 사람들이 과소평가하는 부분입니다. 오픈 웨이트 모델을 셀프 호스팅하면, 보통 프런티어 연구소가 당신을 대신해 떠안아 주던 책임도 함께 물려받습니다: 콘텐츠 안전성과 남용 완화, 배포의 패치 유지, 용량과 가동 시간, 그리고 새 모델 버전마다 스스로 평가하기. "오픈 웨이트"는 당신에게 통제를 사 주지만, 통제는 이득인 만큼이나 비용이기도 합니다. 이 거래의 API 측 비용 직관에 대해서는 토큰 경제를 참고하세요.
오픈 모델을 실제로 사용하는 방법
정확히 두 가지 경로가 있으며, 대부분의 팀은 서로 다른 단계에서 둘 다 사용합니다.
- 호스팅 API — 많은 제공자(연구소 자체와 서드파티 추론 호스트를 포함해)가 오픈 웨이트 모델을 API 뒤에서, 종종 OpenAI 호환 방식으로 제공합니다. 인프라 작업 제로로 오픈 모델의 경제성을 얻습니다. 서버를 운영하지 않으면서 낮은 비용을 원할 때 가장 좋지만, 데이터가 여전히 당신의 네트워크를 떠난다는 점에 유의하세요.
- 셀프 호스팅 — 가중치를 다운로드해 자신의 환경에서 실행합니다. 최대의 프라이버시와 통제, 그리고 데이터가 정말로 네트워크를 떠날 수 없을 때의 유일한 선택지입니다. 가장 쉬운 진입로는 Ollama로, 명령어 하나로 오픈 모델을 가져와 실행합니다.
네 단계로 모델을 로컬에서 시도하기
- ollama.com/download에서 다운로드(macOS/Windows)하거나 Linux 설치 스크립트를 사용하세요. 이렇게 하면 ollama 명령어와 로컬 백그라운드 서비스가 생깁니다. 전체 설명은 로컬에서 모델 실행하기 페이지에 있습니다.
- 작은 모델일수록 더 적은 RAM/VRAM이 필요합니다. 노트북은 소형 변형(몇 GB)을 편안하게 실행하며, 대형 플래그십은 진짜 GPU나 서버가 필요합니다. 모든 것이 작동하는지 확인하려면 작게 시작하고, 품질이 충분하지 않으면 규모를 키우세요.
- ollama run <model>은 처음 사용 시 가중치를 다운로드(수 GB)한 다음, 대화형 챗으로 안내합니다. 첫 실행은 가져오는 중이라 느리고, 이후 실행은 캐시에서 즉시 시작됩니다.
- Ollama는 OpenAI 호환 로컬 엔드포인트를 노출하므로, 기존 OpenAI 스타일 SDK를 클라우드 대신 localhost로 가리킬 수 있습니다. 이제 같은 코드가 비공개 로컬 모델을 상대로 실행됩니다.
Ollama로 오픈 모델을 로컬에서 가져와 실행하기
ollama run qwen3
그 명령어 하나가 Qwen 오픈 웨이트 모델을 다운로드하고 로컬 챗을 시작합니다 — API 키 없이, 데이터가 당신의 기기를 떠나지 않고. qwen3를 다른 계열(예를 들어 Llama, Mistral, DeepSeek 태그)로 바꿔서 자신의 작업에서 비교해 보세요. 주어진 일에 맞는 모델을 고르는 것은 그 자체로 하나의 기술입니다: 모델 선택하기를 참고하세요.
실전에서 오픈과 폐쇄 사이를 고르기
리더보드로 고르지 마세요. 제약으로 고르세요:
- 데이터가 네트워크를 떠날 수 없음 → 셀프 호스팅 오픈 웨이트가 답입니다, 두말할 것 없이.
- 대용량, 비용 민감, "충분히 좋은" 품질 → 오픈 웨이트(호스팅 또는 셀프 호스팅)가 보통 비용에서 이깁니다.
- 가장 어려운 작업에서 절대적 최고가 필요함 → 폐쇄형 프런티어가 여전히 앞서는 경향이 있습니다 — 중요한 곳에 사용하고 더 쉬운 트래픽은 더 저렴한 오픈 모델로 라우팅하세요.
- 파인튜닝, 양자화, 버전 고정, 또는 오프라인 실행을 원함 → 오픈 웨이트만이 그 통제를 제공합니다.
가장 변치 않는 방법은 당신 자신의 실제 데이터로 오픈 후보 하나와 폐쇄 후보 하나에 대해 소규모 평가를 돌려 보는 것입니다. 벤치마크는 다른 누군가의 작업을 설명하고, 당신의 평가는 당신의 작업을 설명합니다.
스스로 점검하기
0/3- 오픈 웨이트 모델은 비용 대비 성능, 열린 추론 모델, 그리고 진짜로 쓸 만한 소형 모델 덕분에 일상적인 격차의 대부분을 좁혔습니다
- '오픈 웨이트' = 실행하고 파인튜닝할 수 있는 다운로드 가능한 가중치 — 반드시 오픈 소스 코드, 오픈 학습 데이터, 허용적 라이선스를 뜻하지는 않습니다; 항상 모델 카드를 읽으세요
- 어떤 라인업이든 원형으로 읽으세요: 일반 챗, 추론, 코딩, 소형/효율 — 대부분의 계열은 전체 크기 사다리를 제공합니다
- 거래는 실재합니다: 오픈은 비용, 프라이버시, 통제를 사 주지만, 폐쇄형 프런티어가 여전히 가장 어려운 작업에서 보통 앞서고 당신은 안전성과 인프라를 물려받습니다
- 사용하는 두 가지 방법: 호스팅(종종 OpenAI 호환) API, 또는 명령어 하나로 Ollama를 통한 셀프 호스팅 — 그런 다음 리더보드가 아니라 당신의 데이터로 평가하세요