할루시네이션을 어떻게 시스템으로 막는가발생 자체를 없애는 것이 아니라, 불확실한 출력을 사용자에게 전달하기 전에 걸러낸다프롬프트 한 줄로는 안 된다는 걸 먼저 인정한다LLM에 "거짓말하지 마, 모르면 모른다고 해"를 붙여봤다. 그래도 지어냈다. 나는 이걸 프롬프트를 더 정교하게 쓰면 풀리는 문제로 오래 봤는데, 방향이 틀렸다. 프롬프트는 모델의 출력 경향에 영향을 줄 수 있지만, 사실성을 보장하는 장치는 아니다.그래서 질문을 바꿨다. 할루시네이션을 "모델을 더 똑똑하게 만들어 없앨 문제"로 볼 것인가, "생성물은 원래 틀릴 수 있다를 전제로 시스템이 걸러낼 문제"로 볼 것인가. 나는 후자로 정리했다. 모델 성능이 개선되면 오류 빈도가 낮아질 수 있지만, 생성 결과를 항상 사실로 보장하기는 어렵다. 그렇다..
