과정 안내

과정 로드맵과 STEP 요약

21개 장을 여섯 STEP 으로 묶었습니다. 이 쪽에서는 STEP 마다 무엇을 배우고 무엇을 만드는지, 장끼리 어떻게 이어지는지를 한눈에 봅니다. 장의 자세한 내용은 표의 장 번호를 눌러 봅니다. 실습을 돌리기 전에 필요한 것(API 키, 모델, GPU)은 실습 코드 사용 안내에 있습니다.

과정 한눈에

기차 노선도를 떠올려 봅니다. 정거장마다 내리는 사람도 있지만, 앞 정거장에서 실은 짐을 들고 다음 정거장으로 가는 사람이 끝까지 갑니다. 이 과정도 STEP 마다 만든 것을 들고 다음 STEP 으로 갑니다.

장·STEP·실습·프로젝트 수를 맨 위에 두고, STEP 1~6 카드를 ㄹ자 길로 이어 카드마다 아이콘, 이름, 장 번호, 만드는 것을 적은 과정 로드맵 인포그래픽

맨 위 띠는 과정 전체의 크기입니다. 21개 장에 실습 108개와 프로젝트 26개가 들어 있습니다. 그 아래 윗줄 "만들기"는 왼쪽에서 오른쪽으로 STEP 1~3 이고, 모델과 RAG, 에이전트를 만드는 법을 다룹니다. 아랫줄 "서비스로 운영하기"는 오른쪽에서 왼쪽으로 STEP 4~6 이고, 그것을 서비스로 내놓고 운영하는 법을 다룹니다. 카드 사이의 짙은 남색 화살표가 차례입니다. 카드마다 왼쪽 동그라미의 아이콘이 STEP 의 주제를, "장" 줄의 칩이 그 STEP 의 장 번호를, 맨 아래 줄이 그 STEP 의 대표 결과물을 보여 줍니다. 칩 가운데 카드 테두리와 같은 색으로 칠한 것(8, 17, 18장)은 실습 없이 프로젝트만 있는 장입니다.

STEP	이름	장	한 줄 요약
1	머신러닝·딥러닝 기초	1~3장	데이터로 배우는 원리부터 GPT 의 구조까지
2	LLM 기초와 프라이빗 RAG	4~8장	LLM 을 학습·정렬하고, 내 문서로 답하게 만든다
3	AI 에이전트와 데이터 엔지니어링	9~12장	도구를 쓰는 LLM 과, 사내 문서·그림을 다루는 파이프라인
4	LLM 서빙 기초와 심화	13~17장	API, 화면, 컨테이너, 경량화, 빠른 서빙
5	프라이빗 AI Agent 서비스	18장	권한과 확인을 갖춘, 일을 맡길 수 있는 에이전트
6	엔터프라이즈 보안과 인프라	19~21장	운영 자동화, 평가와 모니터링, 보안과 인프라

장을 건너 이어지는 실습

몇몇 실습 소재는 여러 장에 걸쳐 자랍니다. 같은 소재를 따라가면 과정의 흐름이 잘 보입니다.

소재	지나는 장	하는 일
배송 지연 데이터	1장 → 13장 → 14장	정제와 분류 모델 → 예측 API → 화면과 배포
쇼핑몰 상담	4장 → 5장 → 6장	상담 말투 SFT → LoRA 와 DPO → 정책 문서 RAG
솔내기술 사내 규정	7장 → 9장 → 13장·16장 → 18장	의미 검색 → 도구로 검색 → 규정 질의 API·RAG 최적화 → 업무 도우미 에이전트
쇼핑몰 문의 분류	10장 → 17장 → 19장	문의 분류 프롬프트 → 분류 API → 실험 기록과 배포 게이트
하늘숲 도서관 안내	19장 → 20장 → 21장	밤마다 색인 갱신 → 답 평가와 모니터링 → 보안 점검

STEP 1. 머신러닝·딥러닝 기초

요리를 배우는 첫 단계는 재료를 다듬고, 불 세기를 익히고, 이름난 요리의 레시피를 뜯어보는 일입니다. STEP 1 은 머신러닝의 재료(데이터)를 다듬고, 학습이라는 불 조절을 익히고, GPT 라는 레시피를 직접 만들어 봅니다.

STEP 1 에서 배우는 것, 만드는 것, 다음 STEP 으로 가져가는 것을 세 칸으로 모은 인포그래픽

세 칸은 왼쪽부터 배우는 것, 실습에서 만드는 것, 다음 STEP 으로 가져가는 것입니다. 다른 STEP 의 그림도 같은 짜임입니다.

장	제목	실습과 프로젝트에서 만드는 것
1장	머신러닝 프로세스와 기본 개념	배송 데이터 정제, 지연 분류 모델과 채점, 리뷰 긍정·부정 분류
2장	신경망과 딥러닝의 기본 원리	자동 미분, 주문량 예측 신경망, 손글씨 숫자 분류
3장	Attention 과 Transformer, GPT 직접 구현	셀프 어텐션 손 계산, 미니 GPT 학습, 번역·대화 모델 써 보기

머신러닝은 데이터 정리 → 나누기 → 학습 → 평가의 차례로 하고, 기준선과 견줘야 모델의 쓸모를 압니다.
신경망은 손실을 줄이는 쪽으로 가중치를 조금씩 고치며 배웁니다(경사하강법과 역전파).
Transformer 는 Attention 으로 문장 속 낱말끼리의 관계를 한꺼번에 보고, GPT 는 다음 토큰을 맞히며 배웁니다.
학습 루프, 토큰과 임베딩, 평가 지표는 뒤의 모든 STEP 에서 다시 씁니다.

STEP 2. LLM 기초와 프라이빗 RAG

큰 식당의 셰프는 기본기를 닦고(사전학습), 우리 식당 메뉴를 익히고(미세조정), 손님의 취향에 맞추고(정렬), 모르는 요리는 레시피 책을 찾아봅니다(RAG). STEP 2 는 이 네 가지를 작은 공개 모델과 내 PC 에서 해 봅니다.

STEP 2 에서 배우는 것, 만드는 것, 다음 STEP 으로 가져가는 것을 세 칸으로 모은 인포그래픽

장	제목	실습과 프로젝트에서 만드는 것
4장	LLM 을 완성하는 3단계와 Hugging Face	우리 토크나이저, 작은 GPT 사전학습, 상담 말투 SFT, 빵집 맞춤 모델
5장	LoRA 파인튜닝과 DPO 정렬	LoRA SFT, 어댑터 합치기, DPO 로 답변 성향 맞추기
6장	RAG 의 원리와 로컬 모델로 옮기기	조각 나누기, 키워드 검색, 근거 붙여 답하기, Ollama 로 옮기기
7장	자체 임베딩과 벡터DB, 검색 품질	의미 검색, FAISS·Chroma, hit@k 측정, 하이브리드와 재정렬
8장	Project 01. 내 데이터로 답하는 LLM 서비스	아파트 생활 안내, 가전 설명서, 공공 민원 FAQ 의 세 RAG 서비스

LLM 은 사전학습, 지시 따르기 학습(SFT), 선호 정렬(DPO 등)의 세 단계로 완성됩니다.
LoRA 는 원래 가중치를 얼려 두고 작은 어댑터만 학습해, 작은 GPU 에서도 미세조정을 할 수 있게 합니다.
RAG 는 문서를 조각으로 나눠 찾고, 찾은 근거를 붙여 답하게 합니다. 모델을 다시 학습하지 않아도 새 문서를 쓸 수 있습니다.
검색 품질은 정답 근거가 상위 k 개에 드는지(hit@k)로 재고, 임베딩과 키워드를 섞은 하이브리드와 재정렬로 높입니다.
6장부터는 Ollama 로 이 PC 에서 LLM 을 돌립니다. 뒤의 장 대부분이 이 방법을 씁니다.

STEP 3. AI 에이전트와 데이터 엔지니어링

비서에게 일을 맡기려면 비서가 쓸 수 있는 도구(전화, 예약 시스템)와 그 도구를 잇는 규칙이 있어야 하고, 회사 서류함의 문서도 정리되어 있어야 합니다. STEP 3 는 LLM 에게 도구를 쥐여 주고, 사내 문서와 그림을 LLM 이 쓸 수 있게 다듬습니다.

STEP 3 에서 배우는 것, 만드는 것, 다음 STEP 으로 가져가는 것을 세 칸으로 모은 인포그래픽

장	제목	실습과 프로젝트에서 만드는 것
9장	도구를 쓰는 LLM 과 Agentic Workflow	도구 호출, 자율 루프, ReAct, 안전장치, 회의실 예약 에이전트
10장	MCP 와 Prompt·Context Engineering	MCP 서버와 클라이언트, 프롬프트·컨텍스트 다듬기, 재고 시스템 연결
11장	폐쇄망 문서 파이프라인과 폐쇄형 RAG	오프라인 확인, 문서 모으기·정제, 벡터DB 견주기, 권한에 맞게 답하는 RAG
12장	멀티모달 RAG 와 데이터셋 자동 생성	글·그림 검색(CLIP), 비전 모델 설명, 질문-답 데이터 생성과 미세조정

도구 호출은 LLM 이 함수 이름과 인자를 고르고, 실행은 코드가 합니다. 에이전트는 끝난 뒤의 상태로 채점합니다.
MCP 는 도구와 자료를 표준 꼴로 내어 주는 약속이라, 한 번 만든 서버를 여러 AI 앱에서 씁니다.
프롬프트와 컨텍스트는 무엇을, 얼마나, 어떤 차례로 넣느냐에 따라 답이 크게 달라집니다.
폐쇄망에서는 모델과 패키지를 미리 들여오고, 문서를 읽기·정제·조각·색인의 파이프라인으로 다룹니다. 문서에는 등급을 붙입니다.
그림도 임베딩으로 찾을 수 있고, LLM 으로 학습 데이터를 만들 때는 거르고 나누는 일이 품질을 정합니다.

STEP 4. LLM 서빙 기초와 심화

맛있는 요리를 만들 줄 알아도 손님에게 팔려면 주문 창구, 메뉴판, 주방 설비, 빠른 조리법이 필요합니다. STEP 4 는 모델을 API 와 화면으로 내놓고, 컨테이너로 묶고, 가볍고 빠르게 서빙합니다.

STEP 4 에서 배우는 것, 만드는 것, 다음 STEP 으로 가져가는 것을 세 칸으로 모은 인포그래픽

장	제목	실습과 프로젝트에서 만드는 것
13장	REST API 와 FastAPI	배송 지연 예측 API, 입력 검사, API 키와 JWT, 사내 규정 질의 API
14장	Streamlit 화면과 Docker 컨테이너	예측·채팅 화면, 화면과 API 잇기, Dockerfile·compose, 온프레미스 서빙 서비스
15장	모델 경량화: 양자화, 프루닝, 지식증류	fp16·8비트·4비트 견주기, Ollama 양자화 단계, 프루닝과 증류, 우리 GPU 에 맞는 모델 고르기
16장	vLLM 서빙 벤치마킹과 RAG 최적화	TTFT·처리량 재기, 묶음 생성, RAG 병목 찾기, 캐시, 응답 시간 줄이기
17장	Project 02. LLM 추론 API 서빙	요약 API, 문의 분류 API(빠른 분류기와 LLM), 두 서비스를 한 묶음으로 배포

API 는 요청과 응답의 약속입니다. 입력은 Pydantic 으로 검사하고, 접근은 API 키나 토큰으로 막습니다.
Streamlit 으로 화면을 빠르게 만들고, Docker 로 실행 환경을 통째로 묶어 어디서나 같게 돌립니다.
양자화는 숫자의 자리 수를 줄여 메모리와 속도를 얻고, 그 대가로 정확도를 조금 잃습니다. 잃는 정도는 직접 잽니다.
서빙 성능은 첫 토큰까지의 시간, 처리량, p95 지연으로 재고, 병목부터 고칩니다.
붐빌 때는 503, 시간이 넘으면 504 로 나눠 알리고, 빠른 모델과 큰 모델을 나눠 씁니다.

STEP 5. 프라이빗 AI Agent 서비스

새로 온 비서에게 일을 맡길 때는 남의 서랍을 열지 못하게 하고, 서류의 도장은 본인이 찍게 하고, 무엇을 했는지 일지를 쓰게 합니다. STEP 5 는 앞의 STEP 을 모아 내 서버에서 실제로 일하는 에이전트를 만듭니다.

STEP 5 에서 배우는 것, 만드는 것, 다음 STEP 으로 가져가는 것을 세 칸으로 모은 인포그래픽

장	제목	실습과 프로젝트에서 만드는 것
18장	Project 03. 내 서버에서 일하는 AI Agent	사내 업무 도우미(규정 검색, 연차 조회, 휴가 신청), 고객 상담 에이전트와 API

읽기 도구와 쓰기 도구를 나누고, 쓰기는 "제안 → 주인의 확인 → 실행"을 거칩니다.
권한은 프롬프트가 아니라 코드가 지킵니다. 도구를 사용자에게 묶어 LLM 이 남의 데이터를 고를 수 없게 합니다.
걸음마다 실행 기록을 남겨, 틀린 답이 어디서 나왔는지 거슬러 봅니다.
작은 모델은 서버가 필요한 자료를 미리 붙여 주면 더 잘 일합니다. 채점은 답의 말이 아니라 끝 상태로 합니다.

STEP 6. 엔터프라이즈 보안과 인프라

식당 체인은 레시피를 기록하고, 매일 같은 맛인지 시식하고, 손님의 반응을 계기판으로 보고, 위생과 보안을 점검합니다. STEP 6 는 LLM 서비스를 오래, 안전하게 운영하는 법을 다룹니다.

STEP 6 에서 배우는 것, 만드는 것, 현업으로 가져가는 것을 세 칸으로 모은 인포그래픽

장	제목	실습과 프로젝트에서 만드는 것
19장	MLOps 와 LLMOps, 워크플로 자동화	작은 워크플로 실행기, 증분 색인 갱신, MLflow 실험 기록·레지스트리, 배포 파이프라인, 밤마다 도는 RAG 갱신
20장	LLM 평가와 모니터링	규칙·뜻·LLM 채점, RAG 나눠 재기, 드리프트 감지, 운영 지표와 알림, 품질 대시보드
21장	AI 거버넌스와 보안, 온프레미스 인프라	인젝션 공격과 방어, 개인정보 찾기·가명 처리, 접근 제어 검색, GPU 메모리 셈, 보안 점검 CI(종합 프로젝트)

실험은 설정, 점수, 데이터 지문과 함께 기록하고, 서비스는 레지스트리의 별칭으로 모델을 부릅니다. 배포와 되돌리기는 별칭을 옮기는 일입니다.
밤마다 도는 작업은 바뀐 것만 처리하고, 새 판에 다 쓴 뒤 가리킴만 바꿔 다시 돌려도 안전하게 합니다. 품질 게이트를 넘을 때만 바꿉니다.
LLM 의 답은 규칙, 뜻, LLM 채점자로 나눠 재고, 채점자는 사람과 맞춰 본 뒤 씁니다. 드리프트와 운영 지표는 기준 기간과 견줍니다.
인젝션은 입력·자료·출력 검사를 겹겹이 두어 막고, 비밀은 프롬프트에 넣지 않습니다. 개인정보는 가리고, 접근 제어는 검색하기 전에 합니다.
점검을 CI/CD 에 넣어, 하나라도 실패하면 배포를 멈춥니다.

장 사이 이어지는 것

뒤 장이 앞 장의 결과물이나 데이터를 그대로 쓰는 곳입니다. 뒤 장을 먼저 돌리려면 표의 앞 장 파일이 있어야 합니다.

앞 장에서 만든 것	쓰는 곳
1장의 `delivery.csv` 와 정제 방법	13장 실습 1(같은 방법으로 정제해 모델 저장)
13장 실습 1, 2의 `out_delay_model.joblib`, `out_delay_api.py`	14장 실습 1~6
3장의 `cs_dialogs.txt`	4장 실습 3(토크나이저 학습)
7장의 `company_rules.txt` 와 질문 묶음	9, 10, 13, 14, 15, 16, 18장
10장의 손으로 쓴 `inquiries.csv`	17장, 19장(시험 문의 40개)
17장의 `inquiry_train.csv`	19장 실습 4~6(실험 기록과 배포 게이트)
19장의 `library/day4/` 도서관 안내 문서	20장, 21장(평가와 보안 점검의 대상)

과정을 마친 뒤

실제 데이터로 넓히기: 장마다 프로젝트의 "실제 데이터로 해 보려면"에 공개 자료와 구하는 곳을 적었습니다. 약관과 개인정보를 확인하고 씁니다.
우리 회사에 옮기기: 21장의 점검표(인젝션, 개인정보, 접근 제어, 품질, 용량)를 사내 서비스에 맞게 고쳐 CI 에 넣는 것부터 시작합니다.
더 큰 모델과 서버: 이 과정은 4GB GPU 에서 작은 모델로 원리를 익혔습니다. 같은 코드에서 모델 이름과 서버 주소만 바꿔 더 큰 모델(16장의 vLLM 등)로 옮길 수 있고, 용량은 21장의 셈으로 미리 잽니다.