실습 2 — 채팅 화면과 대화 기억

import json, urllib.request
from pathlib import Path

# 오래 쓴 Ollama 모델이 깨진 답을 내는 일을 막으려고 모델을 내렸다 다시 올린다(10차시)
urllib.request.urlopen(urllib.request.Request("http://localhost:11434/api/generate", headers={"Content-Type": "application/json"},
                                              data=json.dumps({"model": "qwen2.5:3b", "keep_alive": 0}).encode())).read()

Path("out_app_chat.py").write_text('''"""Ollama 채팅 화면. 실행: streamlit run out_app_chat.py"""
import json
import os
import urllib.request

import streamlit as st

OLLAMA = os.environ.get("OLLAMA_URL", "http://127.0.0.1:11434")      # 주소와 모델은 설정으로 받는다
MODEL = os.environ.get("CHAT_MODEL", "qwen2.5:3b")


def chat(messages):
    body = {"model": MODEL, "messages": messages, "stream": False, "options": {"temperature": 0, "seed": 42}}
    req = urllib.request.Request(OLLAMA + "/api/chat", data=json.dumps(body).encode(),
                                 headers={"Content-Type": "application/json"})
    with urllib.request.urlopen(req, timeout=120) as r:
        return json.loads(r.read())["message"]["content"].strip()


st.title("사내 도우미 채팅")
with st.sidebar:
    system = st.text_area("시스템 지시", "당신은 친절한 사내 도우미입니다. 한두 문장으로 답하세요.", key="system")
    if st.button("대화 지우기"):
        st.session_state.messages = []

if "messages" not in st.session_state:          # 처음 한 번만 빈 기록을 만든다
    st.session_state.messages = []

for m in st.session_state.messages:             # 지난 대화를 말풍선으로 다시 그린다
    with st.chat_message(m["role"]):
        st.write(m["content"])

if prompt := st.chat_input("물어보세요"):
    st.session_state.messages.append({"role": "user", "content": prompt})
    with st.chat_message("user"):
        st.write(prompt)
    with st.chat_message("assistant"):
        with st.spinner("답을 쓰는 중"):
            recent = st.session_state.messages[-10:]           # 최근 다섯 번의 주고받음만 보낸다
            answer = chat([{"role": "system", "content": system}] + recent)
        st.write(answer)
    st.session_state.messages.append({"role": "assistant", "content": answer})
''', encoding="utf-8")
print("화면 파일:", Path("out_app_chat.py").stat().st_size, "바이트")

import time
from streamlit.testing.v1 import AppTest

at = AppTest.from_file(str(Path("out_app_chat.py").resolve()), default_timeout=180).run()
t = time.perf_counter()
at.chat_input[0].set_value("제 이름은 김솔내이고 물류팀에서 일해요. 기억해 주세요.").run()
print(f"{time.perf_counter() - t:.1f}초")
for m in at.chat_message:
    print(f"[{m.name}]", m.markdown[0].value)

at.chat_input[0].set_value("제 이름과 부서가 뭐였죠?").run()
last = at.chat_message[-1].markdown[0].value
print("[assistant]", last)
print("기록 수:", len(at.session_state.messages), "· 이름을 기억함:", "김솔내" in last, "· 부서를 기억함:", "물류" in last)

at.sidebar.button[0].click().run()             # 사이드바의 "대화 지우기"
print("지운 뒤 기록 수:", len(at.session_state.messages), "· 말풍선 수:", len(at.chat_message))
at.chat_input[0].set_value("제 이름이 뭐였죠?").run()
print("[assistant]", at.chat_message[-1].markdown[0].value)