19장. MLOps 와 LLMOps, 워크플로 자동화

정리

• MLOps 는 모델을 만들고, 배포하고, 지켜보고, 다시 학습하는 일을 꾸준히 굴러가게 하는 방식입니다. 코드가 그대로여도 데이터가 바뀌면 다른 모델이 됩니다.
• 실험 기록은 실행마다 설정, 점수, 파일, 데이터 지문을 남깁니다. MLflow 의 start_run, log_params, log_metrics, search_runs 로 합니다.
• 모델 레지스트리는 버전을 모으고, 서비스는 champion 같은 별칭으로 부릅니다. 배포와 되돌리기는 별칭을 옮기는 일입니다.
• LLMOps 는 모델에 더해 프롬프트, 검색 색인, 평가 묶음까지 버전으로 묶고, 바꿀 때마다 같은 질문 묶음으로 잽니다.
• Docker 이미지는 잘 안 바뀌는 것을 아래 층에 두고, 모델과 색인은 볼륨으로, 설정과 비밀은 환경 변수로 넣습니다.
• 워크플로는 DAG 로 차례를 정하고, 실패하면 다시 시도하고, 앞이 막히면 뒤를 건너뜁니다. Airflow 는 이것을 일정에 맞춰 돌리고 기록합니다.
• 밤 작업은 지문으로 바뀐 것만 처리하고, 새 판 폴더에 다 쓴 뒤 가리킴만 바꿔 다시 돌려도 안전하게 합니다.
• 품질 게이트는 형식 검사가 놓치는 고장(옛 판으로 덮인 문서, 밀린 라벨)을 점수로 잡습니다.