9장. 도구를 쓰는 LLM 과 Agentic Workflow

정리

• 에이전트는 LLM 에 도구와 반복을 더한 것입니다. LLM 은 도구를 쓰겠다고 요청만 하고, 실행은 늘 우리 코드가 합니다.
• 도구는 이름, 설명, 인자의 JSON 스키마로 알려 줍니다. 모델은 tool_calls 로 요청하고, 우리는 결과를 role: "tool" 메시지로 돌려줍니다.
• 도구 설명과 오류 문구는 모델이 읽는 사용 설명서입니다. 언제 쓰는지, 인자의 꼴, 고치는 법을 적어 줍니다.
• 자율 루프는 도구 호출이 없을 때까지 돌고, 걸음 한도에 닿으면 실패로 알립니다. 도구를 지원하지 않는 모델은 ReAct 로 생각·행동·관찰을 글로 적게 합니다.
• 순서가 정해진 일은 LLM 이 조건만 뽑고 코드가 나머지를 하는 워크플로가 더 믿을 만합니다. LLM 이 뽑은 값은 코드로 검증합니다.
• 안전장치는 걸음 한도, 인자 검증(eval 쓰지 않기), 쓰는 도구 앞의 사람 확인, 기록입니다.
• 에이전트는 답의 글이 아니라 끝난 뒤의 상태로 채점합니다.