프로젝트 1 — 고객 문의 챗봇 맛보기

import pandas as pd
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM

faq = pd.read_csv("shop_faq.csv")
print(faq.shape)

# 질문과 답변을 한 줄씩 "- 질문: … / 답변: …" 꼴로 이어 붙인다
faq_text = "\n".join(f"- 질문: {q} / 답변: {a}" for q, a in zip(faq["질문"], faq["답변"]))
print(faq_text[:150])

name = "Qwen/Qwen2.5-0.5B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(name, dtype=torch.float32)
model.eval()

def ask(system, question, max_new_tokens=80):
    messages = [{"role": "system", "content": system}, {"role": "user", "content": question}]
    enc = tokenizer.apply_chat_template(messages, add_generation_prompt=True,
                                        return_tensors="pt", return_dict=True)
    with torch.no_grad():
        out = model.generate(**enc, max_new_tokens=max_new_tokens, do_sample=False)
    return tokenizer.decode(out[0][enc["input_ids"].shape[1]:], skip_special_tokens=True).strip()

# FAQ 없는 시스템 메시지와 FAQ 를 덧붙인 시스템 메시지
base = "당신은 온라인 쇼핑몰 고객센터 상담원입니다. 한국어로 두 문장 안에서 짧고 친절하게 답합니다."
with_faq = base + " 아래 자주 묻는 질문의 내용만 근거로 답하고, 없는 내용은 모른다고 답합니다.\n" + faq_text
print(len(base), len(with_faq))

tests = [
    ("배송비가 얼마예요? 2만원어치 샀어요.", "3,000원"),
    ("옷을 받은 지 5일 됐는데 교환할 수 있나요?", "7일"),
    ("환불은 며칠 걸려요?", "3영업일"),
    ("쿠폰 두 장 같이 써도 돼요?", "한 장"),
    ("고객센터는 몇 시까지 해요?", "6시"),
]

rows = []
for label, system in [("FAQ 없음", base), ("FAQ 있음", with_faq)]:
    for q, key in tests:
        answer = ask(system, q).replace("\n", " ")
        rows.append({"조건": label, "질문": q, "맞힘": key in answer, "답": answer})
        print(f"[{label}] {'O' if key in answer else 'X'} {q}\n    → {answer}")

result = pd.DataFrame(rows)
# 조건마다 맞힌 수를 센다(True 는 1 로 더해진다)
print(result.groupby("조건")["맞힘"].sum())