8장. Project 01. 내 데이터로 답하는 LLM 서비스
먼저 큰 그림부터
친구들과 작은 식당을 연다고 해 봅시다. 먼저 어떤 손님이 무엇을 주문할지 메뉴를 정하고, 재료를 손질하고, 문을 열기 전에 서로 맛을 보며 고칩니다. 맛을 보지 않고 문을 열면 첫 손님이 실험 대상이 됩니다. 그리고 문을 연 날에는 손님에게 무엇이 맛있는지 소개합니다.
이 장은 1장부터 7장까지 배운 것으로 "내 데이터로 답하는 LLM 서비스"를 팀이 함께 만드는 프로젝트 장입니다. 새 기법은 거의 없습니다. 6장의 RAG 와 Ollama, 7장의 임베딩·하이브리드 검색·검색 평가를 묶어, 서로 다른 세 가지 데이터에 맞게 다듬습니다. 아파트 공지와 규약을 함께 보는 대화형 챗봇, 표가 섞인 가전제품 설명서 Q&A, 모를 때 담당 부서로 넘기는 구청 민원 FAQ 도우미입니다.
데이터는 모두 연습용으로 만든 가상 데이터이고, 단지, 제품, 구청의 이름과 안내도 지어낸 것입니다. 실제 데이터를 구하는 길은 프로젝트마다 따로 안내합니다.