먼저 큰 그림부터

여러 지점을 둔 식당 체인을 떠올려 봅니다. 새 메뉴를 만들 때는 재료 양과 불 세기, 맛 점수를 노트에 적습니다. 시식을 통과한 요리만 메뉴판에 올립니다. 매장은 매일 같은 시간에 같은 순서로 재료를 손질합니다. 레시피를 바꿀 때도 시식을 다시 거칩니다. 한 번 맛있게 만드는 것보다 매일 같은 맛을 내는 일이 더 어렵습니다. 모델을 서비스로 오래 돌리는 일도 같습니다.

이 장에서는 세 가지를 챙겨 갑니다.

• 기록과 관리: 실험을 기록하고, 고른 모델을 레지스트리에 올리고, 별칭으로 배포하고 되돌립니다(MLflow).
• LLMOps: 모델뿐 아니라 프롬프트와 검색 색인도 버전을 붙여 함께 관리합니다.
• 워크플로 자동화: 작업을 순서도(DAG)로 묶고, 다시 돌려도 안전하게 만들고, 품질 게이트를 통과할 때만 바꿔 끼웁니다.

MLflow 는 이 PC 에서 실제로 돌렸습니다. Airflow 와 Docker 는 이 PC(Windows)에서 바로 돌지 않아 안내 코드로 싣습니다. 같은 원리는 파이썬으로 만든 작은 실행기로 실제로 돌려 봅니다.