실습 5 — 글로 하는 ReAct

import ast, json, operator, re, time
import numpy as np
from sentence_transformers import SentenceTransformer
from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
OPS = {ast.Add: operator.add, ast.Sub: operator.sub, ast.Mult: operator.mul, ast.Div: operator.truediv}
def safe_calc(expression):
    def walk(node):
        if isinstance(node, ast.Expression):
            return walk(node.body)
        if isinstance(node, ast.Constant) and isinstance(node.value, (int, float)):
            return node.value
        if isinstance(node, ast.BinOp) and type(node.op) in OPS:
            return OPS[type(node.op)](walk(node.left), walk(node.right))
        if isinstance(node, ast.UnaryOp) and isinstance(node.op, ast.USub):
            return -walk(node.operand)
        raise ValueError("숫자와 + - * / 괄호만 쓸 수 있습니다")
    return walk(ast.parse(expression, mode="eval"))
rules = [l for l in open("company_rules.txt", encoding="utf-8").read().split("\n") if re.match(r"^제\d+조\(", l)]
emb = SentenceTransformer("intfloat/multilingual-e5-small", device="cpu")
R = emb.encode(["passage: " + r for r in rules], normalize_embeddings=True)
def search_rules(query):
    q = emb.encode("query: " + query, normalize_embeddings=True)
    return [rules[i] for i in np.argsort(-(R @ q))[:2]]
IMPL = {"calculate": safe_calc, "search_rules": search_rules}

# 도구 설명과 글의 꼴을 지시문에 적는다(API 의 tools 대신)
REACT = """당신은 솔내기술(가상 회사)의 사내 도우미입니다. 아래 도구를 쓸 수 있습니다.
- search_rules: 사내 규정을 찾는다. 입력은 찾을 낱말(예: 회식비)
- calculate: 사칙연산 식을 계산한다. 입력은 식(예: 5*12)

반드시 아래 꼴로 한 번에 한 걸음씩 쓰세요.
Thought: 다음에 할 일
Action: 도구 이름
Action Input: 도구에 넣을 값

도구 결과는 Observation: 으로 주어집니다. 답을 알면 아래처럼 끝내세요.
Thought: 답을 안다
Final Answer: 최종 답"""
print(REACT.count("\n") + 1, "줄의 지시문")

def run_react(model, question, max_steps=5, show=True):
    """모델이 쓴 글에서 Action 을 뽑아 실행하고, Observation 을 붙여 다시 보낸다"""
    transcript = f"Question: {question}\n"
    for step in range(1, max_steps + 1):
        resp = client.chat.completions.create(
            model=model, temperature=0, seed=42, max_tokens=200,
            messages=[{"role": "system", "content": REACT}, {"role": "user", "content": transcript}],
            stop=["Observation:"])                                   # 모델이 관찰을 지어 쓰기 전에 멈춘다
        text = resp.choices[0].message.content.strip()
        transcript += text + "\n"
        final = re.search(r"Final Answer:\s*(.+)", text, re.S)
        if final:
            return final.group(1).strip(), step
        act = re.search(r"Action:\s*(\w+)\s*\n?\s*Action Input:\s*(.+)", text)
        if not act:                                                  # 꼴을 어기면 알려 주고 다시 쓰게 한다
            observation = "꼴이 틀렸습니다. Action 과 Action Input 을 쓰거나 Final Answer 로 끝내세요."
        elif act.group(1) not in IMPL:
            observation = f"{act.group(1)} 라는 도구는 없습니다."
        else:
            try:
                observation = str(IMPL[act.group(1)](act.group(2).strip().strip('"')))
            except Exception as e:
                observation = f"오류: {e}"
        if show:
            print(f"  걸음 {step}: {text.replace(chr(10), ' | ')[:110]}")
            print(f"          Observation: {observation[:80]}")
        transcript += f"Observation: {observation}\n"
    return "[걸음 한도에 닿았습니다]", max_steps

answer, steps = run_react("qwen2.5:3b", "팀원 6명이 회식하면 회식비는 최대 얼마까지 쓸 수 있어요?")
print("qwen2.5:3b 답:", answer, "· 걸음:", steps)

answer, steps = run_react("gemma3:1b", "팀원 6명이 회식하면 회식비는 최대 얼마까지 쓸 수 있어요?")
print("gemma3:1b 답:", answer, "· 걸음:", steps)

tests = [("팀원 6명이 회식하면 회식비는 최대 얼마까지 쓸 수 있어요?", "30만"),
         ("해외 출장을 3일 가면 일비는 모두 몇 달러예요?", "180"),
         ("재택 근무는 일주일에 며칠까지 돼요?", "이틀|2일")]
for model in ["qwen2.5:3b", "gemma3:1b"]:
    start, ok, total_steps = time.time(), 0, 0
    for q, key in tests:
        answer, steps = run_react(model, q, show=False)
        ok += any(k in answer.replace(",", "").replace("300000", "30만") for k in key.split("|"))
        total_steps += steps
    print(f"{model:11s} 맞힘 {ok}/3 · 걸음 합 {total_steps} · {time.time() - start:.0f}초")