9장. 도구를 쓰는 LLM 과 Agentic Workflow

용어 짚고 가기

에이전트(agent)LLM 이 도구를 써 가며 스스로 다음 할 일을 정해 일을 끝내는 프로그램입니다. agent 는 "대신 일하는 사람, 대리인"이라는 뜻입니다.
도구(tool)LLM 이 쓸 수 있게 우리가 내어 준 함수입니다. 계산기, 검색, 예약 같은 것입니다. tool 은 "연장"이라는 뜻입니다.
도구 호출(tool calling)LLM 이 "이 도구를 이 인자로 불러 달라"고 요청하는 것입니다. function calling(함수 호출)이라고도 합니다. calling 은 "부르기"라는 뜻입니다.
tool_calls(도구 호출 목록)도구 호출을 요청한 응답에 담기는 목록입니다. 도구 이름과 인자(JSON)가 들어 있습니다. tool(도구)과 calls(호출들)를 밑줄로 이은 이름입니다.
JSON 스키마(JSON Schema)도구의 인자가 어떤 이름과 자료형인지 적은 약속입니다. 모델은 이것을 보고 인자를 채웁니다. JSON 은 JavaScript Object Notation(자바스크립트 객체 표기법)의 머리글자이고, schema 는 "도식, 틀"이라는 뜻입니다.
tool 메시지(tool message)우리가 도구를 실행한 결과를 모델에게 돌려주는 메시지입니다. role 이 "tool" 입니다. 도구(tool) 쪽에서 온 메시지라는 뜻입니다.
자율 루프(autonomous loop)모델이 도구를 그만 부를 때까지 "호출 → 실행 → 결과 전달"을 되풀이하는 반복문입니다. autonomous 는 "스스로 다스리는", loop 는 "고리"라는 뜻입니다.
걸음(step)자율 루프의 한 바퀴입니다. 걸음 수에 한도를 두어 끝없이 돌지 않게 합니다. step 은 "한 걸음, 단계"라는 뜻입니다.
ReAct(Reasoning and Acting)생각(Reason)과 행동(Act)을 번갈아 하는 방식입니다. 생각, 행동, 관찰을 글로 적으며 나아갑니다. Reason(생각하다)과 Act(행동하다)를 붙인 이름입니다.
워크플로(workflow)일의 순서를 사람이 코드로 정해 두고, LLM 은 정해진 칸에서만 일하는 짜임입니다. work(일)와 flow(흐름)를 붙인 말입니다.
슬롯 뽑기(slot filling)사용자의 말에서 날짜, 시각, 인원 같은 빈칸(슬롯)의 값을 뽑아내는 일입니다. slot 은 "끼워 넣는 칸"이라는 뜻입니다.
사람 확인(human-in-the-loop)되돌리기 어려운 도구(보내기, 지우기, 결제)를 실행하기 전에 사람의 승인을 받는 것입니다. 사람(human)이 고리(loop) 안에 들어가 있다는 뜻입니다.
작업 성공률(task success rate)에이전트에게 준 일 가운데 바르게 끝낸 비율입니다. task 는 "맡은 일"이라는 뜻입니다.