11장. 폐쇄망 문서 파이프라인과 폐쇄형 RAG

정리

• 폐쇄망에서는 패키지(휠)와 모델을 인터넷 PC 에서 받아 검사하고 해시를 적어 들여온 뒤, --no-index 와 오프라인 설정으로 씁니다.
• 라이브러리가 몰래 바깥을 찾지 않게 HF_HUB_OFFLINE, Chroma 의 통계 끄기를 켜고, 막은 연결을 세어 확인합니다. 실제 차단은 방화벽이 합니다.
• 수집은 형식마다 맞게 읽어 한 꼴의 기록으로 모으고, 문서 목록의 라벨(부서, 등급, 판, 날짜)을 붙이는 일입니다. 인코딩이 다른 파일과 표, 워드 문서를 놓치지 않습니다.
• 정제는 메뉴와 꼬리말, PDF 의 쪽 머리말과 끊긴 줄, 개인정보를 걷어 내는 일이고, 규칙은 문서 형식마다 따로 겁니다. 똑같은 파일은 해시로, 옛 판은 제목과 버전으로 거릅니다.
• 벡터DB 는 규모, 서버 여부, 메타데이터 거르기, 지우기, 반입의 쉬움으로 고릅니다. 작게는 FAISS, Chroma, Qdrant 로컬 모드로 시작합니다.
• 빠른 인덱스(IVF, HNSW)는 재현율을 조금 내주고 속도를 얻습니다. 손잡이(nprobe, efSearch)는 우리 데이터로 재어 고릅니다.
• 권한은 프롬프트가 아니라 검색 단계에서 등급으로 거르고, 색인은 해시로 바뀐 문서만 골라 고칩니다.