파인튜닝

파인튜닝(fine-tuning, 미세 조정)은 이미 학습된 AI 모델에 내 예시 데이터를 더 가르쳐 말투·형식·특정 일을 몸에 배게 하는 방법이에요. 경력 요리사(기존 모델)를 뽑아서 우리 가게 레시피만 며칠 따로 가르치는 것과 비슷해요. 요리 기본기는 그대로 두고 우리 식 맛만 더해요.

파인튜닝은 어떻게 해요?

1. 목표를 세워요. "고객 문의에 우리 말투로 3줄 답" 처럼 바꾸고 싶은 행동을 정해요.
2. 예시를 준비해요. 질문과 모범 답 짝을 수십~수천 개 모아요. 보통 한 줄에 한 예시씩 JSONL 파일로 만들어요.
3. 학습을 돌려요. 그 예시로 모델을 추가 학습시켜요. 모델 일부만 가볍게 고치는 LoRA 같은 방법을 쓰면 비용이 줄어요.
4. 평가해요. 학습에 안 쓴 예시로 전후를 비교해요. 나아진 게 없으면 데이터부터 다시 봐요.

{"messages": [{"role": "user", "content": "리뷰: 커피가 식어서 나왔어요."}, {"role": "assistant", "content": "[부정] 식은 커피"}]}
{"messages": [{"role": "user", "content": "리뷰: 직원분이 친절했어요."}, {"role": "assistant", "content": "[긍정] 친절한 직원"}]}

위처럼 "이런 질문엔 이렇게 답한다"를 한 줄씩 적은 파일이 학습 데이터예요.

파인튜닝에는 어떤 방법이 있어요?

RAG, 프롬프트와는 뭐가 달라요?

프롬프트로 안 되면 RAG, 그래도 형식·행동이 흔들리면 파인튜닝을 검토하는 순서가 일반적이에요. OpenAI 문서도 평가(evals)와 프롬프트부터 시작하라고 안내해요.

파인튜닝 전에, 예시 3개로 어디까지 되는지 재 봤어요

2026년 10월 29일, 손님 리뷰 5개를 "[긍정|부정|중립] 짧은 요약" 형식으로 바꾸게 했어요. 한 번은 지시만 주고, 한 번은 지시 아래에 예시 3개를 붙였어요(퓨샷이라고 해요).

지시만 줬을 때 예시 3개를 같이 줬을 때

많을수록 형식을 잘 지켰어요.

표로 보기

모델	지시만	예시 3개 추가	입력 토큰(가운데 값)
Claude Haiku 5.5	0/5	5/5	88 → 197
Gemini 3.5 Flash Lite	1/5	5/5	47 → 117

지시만 줬을 때 나온 답은 뜻은 맞는데 모양이 제각각이었어요.

긍정 | 빵이 부드럽고 사장님이 친절해 재방문 의사 있음
중립 — 무난한 품질, 적당한 가격
태그: [보통], 요약: 가격이 적당하고 무난함.

예시 3개를 붙이자 이렇게 맞춰졌어요("답:" 머리말이 붙은 경우는 빼고 판정했어요).

[긍정] 부드러운 빵과 친절한 사장님
[부정] 주차 불편, 평범한 맛
[중립] 무난한 맛과 적당한 가격

대신 예시만큼 입력 토큰이 2배 넘게 늘었어요. 하루 수만 번 부르는 일이라면 이 비용이 쌓여서, 그때 파인튜닝으로 예시를 모델 안에 넣는 게 이득이 될 수 있어요.

2026년 지금 알아 둘 변화

OpenAI 는 공식 문서(Model optimization)에서 파인튜닝 플랫폼을 축소하고 있다고 밝혔어요. 새 사용자는 더 이상 쓸 수 없고, 기존 사용자는 앞으로 몇 달 동안 학습을 만들 수 있다고 해요(2026-10-29 확인). 이미 만든 파인튜닝 모델은 바탕 모델이 지원 종료될 때까지 쓸 수 있대요.

그래서 요즘은 큰 모델에 프롬프트·RAG 를 먼저 붙이고, 꼭 필요할 때 가중치가 공개된 모델(오픈 모델)을 LoRA 로 고쳐 쓰는 흐름이 많아요.

자주 하는 오해

• 파인튜닝하면 회사 지식을 다 외운다. 형식·말투는 잘 배우지만 사실을 정확히 외우는 데는 약해요. 지식은 RAG 가 맞아요.
• 데이터는 많을수록 좋다. 질이 먼저예요. 틀린 예시가 섞이면 틀린 습관을 배워요.
• 한 번 하면 끝이다. 바탕 모델이 새로 나오면 다시 학습해야 할 수 있어요.

퓨쳐인프라에서는

퓨쳐인프라 AI 라우터로 같은 프롬프트(예시 포함)를 300종이 넘는 모델에 보내 볼 수 있어요. 위 실험처럼 모델마다 형식을 얼마나 잘 지키는지 먼저 비교하면, 파인튜닝 없이 풀리는 경우가 많아요. 응답마다 원화 요금이 같이 오고, 사용료는 충전 지갑에서 빠져요.

자주 바뀌는 회사 자료는 세컨브레인에 저장해 두고 AI 가 찾아 쓰게 하면 RAG 처럼 쓸 수 있어요.

자주 묻는 질문

파인튜닝 데이터는 몇 개가 필요해요?

일과 모델에 따라 달라요. 형식 맞추기는 수십~수백 개로 시작하고, 학습에 안 쓴 예시로 효과를 재 보며 늘려요.

파인튜닝과 전이 학습은 같은 말이에요?

파인튜닝은 전이 학습의 한 방법이에요. 이미 배운 모델의 능력을 새 일에 옮겨 쓰는 걸 전이 학습이라고 해요.

LoRA 는 뭐예요?

모델 전체를 고치지 않고 작은 부품만 덧붙여 학습하는 방법이에요. 필요한 GPU 메모리와 저장 공간이 크게 줄어요.

파인튜닝하면 할루시네이션이 줄어요?

형식은 안정되지만 모르는 사실을 지어내는 문제는 그대로일 수 있어요. 근거 자료를 주는 RAG 를 같이 쓰는 게 좋아요.

관련 용어

RAG · 프롬프트 · LLM · 할루시네이션 · 임베딩