8장. Project 01. 내 데이터로 답하는 LLM 서비스

용어 짚고 가기

질문 묶음(test set)서비스가 받을 법한 질문과 그 정답을 모은 시험 문제입니다. 만들기 전에 먼저 준비합니다. test set 은 "시험용 묶음"이라는 뜻입니다.
기준선(baseline)가장 단순하게 만든 첫 버전의 성적입니다. 고친 것이 나아졌는지 견주는 잣대가 됩니다. baseline 은 "바닥에 긋는 기준 줄"이라는 뜻입니다.
다중 턴 대화(multi-turn conversation)질문과 답을 여러 번 주고받는 대화입니다. 뒤의 질문이 앞의 말을 이어받습니다. turn 은 "차례"라는 뜻으로, 말을 주고받는 차례가 여러 번이라는 말입니다.
후속 질문(follow-up question)"그럼 이용료는요?"처럼 앞의 대화가 없으면 뜻이 통하지 않는 질문입니다. follow-up 은 "뒤따르는"이라는 뜻입니다.
질문 바꿔 쓰기(query rewriting)후속 질문을 앞의 대화 없이도 통하는 질문으로 고쳐 쓰는 일입니다. query 는 "물음", rewriting 은 "다시 쓰기"라는 뜻입니다.
최신성(recency)같은 내용을 다룬 자료가 여럿일 때 더 늦게 나온 자료를 따르는 원칙입니다. recency 는 "최근임"이라는 뜻입니다.
출처 표기(citation)답에 근거가 된 조항, 절, 공지를 함께 적는 것입니다. citation 은 "인용, 끌어다 씀"이라는 뜻입니다.
FAQ 매칭(FAQ matching)사용자의 말을 미리 준비한 자주 묻는 질문 가운데 가장 가까운 것과 짝짓는 일입니다. FAQ 는 Frequently Asked Questions(자주 묻는 질문)의 머리글자이고, matching 은 "짝짓기"라는 뜻입니다.
기준값(threshold)점수가 이 값을 넘을 때만 답하고, 못 넘으면 다른 길로 넘기는 경계입니다. 1장의 기준값과 같은 생각입니다. threshold 는 "문지방"이라는 뜻으로, 넘어야 들어가는 경계를 가리킵니다.
넘기기(fallback)서비스가 답하지 않고 사람(담당 부서, 상담원)에게 넘기는 것입니다. fallback 은 "물러나 기댈 곳, 대비책"이라는 뜻입니다.
시연(demo)만든 서비스를 다른 사람 앞에서 실제로 돌려 보이는 것입니다. demo 는 demonstration(보여 줌)을 줄인 말입니다.