본문으로 건너뛰기

파인튜닝 vs 프롬프팅 vs RAG

중급
What you'll learn
  • 모델이 원하는 대로 하지 않을 때 가진 세 가지 레버
  • 실제로 통하는 순서 — 그리고 파인튜닝이 거의 1단계가 아닌 이유
  • RAG가 올바른 해결책일 때와 과잉일 때
  • 파인튜닝이 진짜로 잘하는 것(과 못하는 것)
  • 실제 프로덕션 시스템에서 세 가지가 어떻게 결합되는가

모델이 원하는 대로 하지 않을 때 세 가지 레버가 있습니다 — 그리고 사람들은 비싼 것을 먼저 잡습니다. 실제로 통하는 순서는 다음과 같습니다.

이 순서로 시도하라​

Guided walkthrough1 of 3
  1. 더 명확한 지시, 예시, 역할, 출력 제약(/docs/prompting/basics 참고). 대부분의 문제를 해결하고, 추가 비용이 없으며, 즉시 이터레이션할 수 있습니다. '모델이 X에 형편없다'의 대부분은 '프롬프트가 모호했다'로 밝혀집니다.

의사결정 표​

여러분의 문제손을 뻗을 것
모호한/틀린 출력, 잘못된 포맷프롬프팅
여러분의 데이터를 모름 / 최신 정보 필요RAG
매우 특정한 스타일/행동이 대규모로 일관되게 필요파인튜닝
행동을 수행해야 함(이것들이 아닙니다 — 도구 사용/에이전트입니다)
어느 레버가 어떤 문제를 해결하는가
Enter 또는 스페이스 키를 눌러 카드를 뒤집습니다. 좌우 화살표 키로 카드를 이동할 수 있습니다.용어가 표시되었습니다.
1 / 4

왜 사람들이 이를 틀리는가​

파인튜닝은 "모델을 가르치는 것"처럼 들리므로 진짜 해결책처럼 느껴집니다. 하지만 가장 느리고, 가장 비싸며, 가장 유연성이 낮은 옵션이고, 새로운 지식을 잘 추가하지 못하며(RAG가 그것을 함), 잘못하기 쉽습니다. 먼저 프롬프팅과 RAG를 소진하세요 — 대개 3단계는 필요하지 않습니다.

Watch out
  • 프론티어 모델을 여러분의 데이터로 파인튜닝하는 것은 새로운 사실을 신뢰성 있게 추가하지 않습니다 — 스타일과 행동을 이동시킵니다. 사실은 여전히 환각됩니다.
  • 파인튜닝된 모델은 그 베이스 버전에 묶여 있습니다. 벤더가 더 나은 베이스를 출시할 때, 재훈련하거나 갇힙니다.
  • 나쁜 훈련 데이터는 나쁜 행동을 증폭시킵니다 — 평범한 데이터셋은 모델을 더 낫게 만드는 게 아니라 더 나쁘게 만듭니다.
  • '우리는 파인튜닝이 필요하다' 요청의 대부분은 실제로 '우리의 프롬프트가 즉흥적 규칙 40줄이다'입니다 — 먼저 프롬프트를 리팩터링하세요.

:::tip 그들은 결합됩니다 강한 시스템은 대개 좋은 프롬프트 + 지식을 위한 RAG이며, 파인튜닝은 좁은 행동적 필요를 위해 남겨둡니다. 서로 배타적이지 않습니다. :::

구체적 예시: '모델이 우리 제품에 대한 질문에 답할 수 없다'

# Wrong first move: fine-tune on the product manual.
# Right first move: retrieve the relevant chapter and inject it.

# 1. PROMPTING (baseline)
System: "You are a support agent for Acme Widgets. Be concise, cite doc sections."
User:   "Does the Widget Pro support Bluetooth 5.3?"
# Fails — model has no idea what a Widget Pro is.

# 2. + RAG (usually enough)
System: "You are a support agent for Acme Widgets. Be concise, cite doc sections."
Context: [top-3 chunks from product manual retrieved by embedding search]
User:    "Does the Widget Pro support Bluetooth 5.3?"
# Works — model reads the retrieved specs and answers with a citation.

# 3. + Fine-tuning (only if house voice / format is still drifting after 1+2)
# Train on 500-2000 (prompt, ideal answer) pairs to lock in the style — NOT to teach facts.

스스로 점검

0/4
  1. 모델이 여러분의 작업에 모호하고 포맷이 잘못된 답변을 준다. 무엇을 먼저 시도하겠는가?
  2. 모델이 여러분의 내부 위키를 모른다. 어느 레버?
  3. 파인튜닝은 실제로 무엇에 잘하는가?
  4. 성숙한 프로덕션 시스템의 모습은 어떤 조합인가?
Key takeaways
  • 모델이 원하는 대로 하지 않을 때의 세 레버: 프롬프팅, RAG, 파인튜닝 — 이 순서로.
  • 프롬프팅은 '모델이 X에 형편없다' 불평의 10건 중 9건을 제로 비용, 즉시 이터레이션으로 해결합니다.
  • RAG는 간극이 누락 또는 최신 지식일 때 올바른 해결책 — 파인튜닝은 사실 추가에 신뢰할 수 없습니다.
  • 파인튜닝은 대규모의 일관된 스타일/포맷/행동을 위한 최후 수단이며, 이를 정당화할 수백~수천 개의 고품질 예시와 호출 볼륨이 필요합니다.
  • 실제 프로덕션 시스템에서 셋은 결합됩니다: 강한 프롬프트 + RAG + 좁은 파인튜닝.

다음​