용어분야 1 프롬프트·AI 리터러시 · 4/40
환각 (Hallucination) — 그럴듯한 거짓
모델이 사실이 아닌 내용을 자신 있게 만들어 내는 현상이며, 확인 습관이 유일한 대책이다.
쉬운 해설
환각(Hallucination)은 AI가 없는 논문, 틀린 숫자, 가짜 링크를 진짜처럼 말하는 현상입니다. 거짓말이 아니라, 다음 말을 확률로 잇는 방식의 부작용입니다.
자주 나오는 자리가 정해져 있습니다. 숫자·날짜·이름·출처·법 조항·최신 정보입니다. 반대로 문장 다듬기, 구조 잡기, 아이디어 내기에서는 거의 문제가 되지 않습니다.
대책은 셋입니다. ① 답에 "확인 필요한 사실을 표시하라"고 미리 시키기(자기 검증 지시) ② 숫자·이름은 원문 출처로 되돌아가기(사실 확인) ③ 내 자료를 붙여 그 안에서만 답하게 하기(검색 증강 생성).
암기법
숫자·이름·출처·최신 — 네 곳에서 환각이 난다. 거기만 꼭 확인.
예시 프롬프트
대괄호 [슬롯]은 프롬프트의 칸 이름, 중괄호 {빈칸}은 채울 값입니다. 복사하면 「내 프롬프트 보관함」에도 쌓입니다.
기본 · 환각 줄이기
[R·역할] 당신은 신중한 조사원입니다.
[목표] {질문}에 답해 주세요.
[규칙] 확실하지 않은 사실·숫자·이름에는 문장 끝에 [확인 필요]를 붙이고, 출처를 아는 것만 출처를 적으세요. 모르면 "모른다"고 답하세요.
[형식] 답 → 확인 필요 목록 → 확인할 곳(공식 사이트 이름) 순서로.AI 인터뷰형 · 판별 연습
방금 당신이 준 답에서 사실 주장을 모두 뽑아 번호를 붙이고, 각 주장에 대해 "제가 어디서 확인하면 되는지"를 한 줄씩 알려 주세요. 확인이 어려운 주장은 [근거 필요]로 표시하세요. 한 번에 다섯 개씩만 보여 주세요.