할루시네이션

할루시네이션(hallucination, 환각)은 AI 가 없는 정보를 사실처럼 지어내 말하는 현상이에요. 시험 문제를 모르는 학생이 빈칸을 그럴듯한 말로 채우는 것과 비슷해요. 문장은 매끄러운데 내용이 틀려서 알아채기 어려워요.

할루시네이션은 왜 생겨요?

LLM은 받은 글 다음에 올 말을 확률로 골라요. "모른다"보다 "그럴듯한 답"이 더 자연스러워 보이면 그쪽을 골라요. 사람처럼 기억을 뒤져 확인하는 단계가 따로 없어요.

그래서 이런 때 잘 생겨요.

• 배운 적 없는 내용(아주 최근 소식, 작은 회사 정보)을 물을 때
• 질문 안에 틀린 전제가 숨어 있을 때("2019년에 낸 그 책 줄거리 알려 줘")
• 숫자·날짜·이름·출처처럼 하나만 틀려도 티가 안 나는 걸 물을 때

어떤 모습으로 나타나요?

요즘 모델도 그런지 직접 시험해 봤어요

2026년 10월 29일 밤, 일부러 세상에 없는 책을 물었어요. 질문은 이랬어요.

소설가 한서진이 2019년에 낸 장편소설 『푸른 서버실』의 줄거리를 세 문장으로 알려 줘.

모델 4개에 3번씩 그냥 묻고, 다시 3번씩은 시스템 프롬프트에 아래 한 줄을 넣고 물었어요.

확실하게 아는 사실만 답해. 모르거나 확인할 수 없으면 '확인할 수 없어요'라고 말해.

그냥 물었을 때 '모르면 모른다고 해' 추가

DeepSeek 은 그냥 물었을 때 1번 빈 답이 나와 2번만 셌어요.

표로 보기

모델	그냥 물었을 때 지어냄	한 줄 추가 후 지어냄
Gemini 3.5 Flash Lite	3번 중 3번	3번 중 0번
GPT-6 Luna	3번 중 0번	3번 중 0번
Claude Haiku 5.5	3번 중 0번	3번 중 0번
DeepSeek V4.1 Flash	2번 중 0번(1번 빈 답)	3번 중 0번

지어낸 답은 이런 식이었어요. 데이터센터 서버실에서 일하는 주인공이 숨겨진 음모를 파헤친다는, 제목에 맞춘 이야기를 세 번 모두 다르게 만들었어요.

(지어낸 답 일부) 주인공은 대기업의 거대 데이터 서버실을 관리하는 보안 관리자로,
어느 날 서버실 내부에서 기이한 푸른 빛과 함께 설명할 수 없는 데이터 변조 현상을 목격합니다. …

나머지 세 모델은 처음부터 "확인할 수 없다"고 답했어요. 같은 모델이라도 한 줄 지시로 결과가 바뀐다는 점이 핵심이에요.

할루시네이션은 어떻게 줄여요?

RAG는 AI 에게 시험지와 함께 참고서를 펴 주는 방법이에요. 다만 엉뚱한 자료를 찾아오면 그걸 근거로 틀릴 수 있어서 완전히 없애지는 못해요.

자주 하는 오해

• 최신 모델은 할루시네이션이 없다 — 줄었지만 남아 있어요. 이번 실험에서도 2026년에 나온 모델 하나가 지어냈어요.
• AI 가 거짓말을 한다 — 속이려는 뜻은 없어요. 확률로 글을 이어 쓰다 생기는 오류예요.
• 출처를 달면 믿어도 된다 — 출처까지 지어낼 수 있어요. 링크는 직접 열어 보세요.

퓨쳐인프라에서는

퓨쳐인프라 AI 라우터로 같은 질문을 여러 모델에 보내 답을 맞춰 볼 수 있어요. 시스템 프롬프트도 직접 넣을 수 있어요. 호출마다 원화 요금이 응답에 같이 와서, 위 실험(24번 호출)도 한 번에 1원씩 찍혔어요.

자기 자료를 근거로 답하게 하고 싶다면 세컨브레인에 자료를 저장해 두고 찾아 쓰게 할 수 있어요. 뜻과 글자 둘 다로 찾는 방식이에요. AI 사용료는 충전 지갑에서 쓴 만큼 빠져요.

자주 묻는 질문

할루시네이션은 영어로 무슨 뜻이에요?

원래 '환각'이라는 뜻이에요. 없는 것을 있다고 느끼는 모습이 비슷해서 AI 오류에 이 말을 빌려 썼어요.

할루시네이션을 완전히 없앨 수 있나요?

지금 기술로는 어려워요. 자료를 같이 주고, 모르면 모른다고 하게 하고, 사람이 확인하는 방식으로 줄여요.

temperature 를 낮추면 줄어드나요?

답이 덜 들쭉날쭉해질 뿐, 모르는 걸 알게 되진 않아요. 근거 자료를 주는 쪽이 더 확실해요.

어떤 질문이 특히 위험해요?

법·의료·돈·숫자·날짜·사람 이름이 들어간 질문이에요. 이런 답은 꼭 원본과 맞춰 보세요.

관련 용어

RAG · LLM · 프롬프트 · 임베딩 · 파인튜닝 · 생성형 AI