21장. AI 거버넌스와 보안, 온프레미스 인프라
AI 윤리와 거버넌스
은행에는 대출 심사 규칙과 책임자가 정해져 있고, 거절한 까닭을 설명하고 기록을 남깁니다. 큰 금액일수록 더 높은 사람이 승인합니다. AI 거버넌스도 AI 가 하는 일의 위험에 맞춰 누가 승인하고, 무엇을 기록하고, 어떻게 설명할지 정하는 일입니다.
그림의 다섯 상자는 여러 나라와 기관의 AI 원칙에 공통으로 나오는 것들입니다. 공정성은 특정 집단에 불리하지 않은지, 투명성은 AI 가 답한다는 것과 근거를 알리는지, 책임은 누가 결정하고 책임지는지, 안전과 보안은 이 장의 공격 대비, 개인정보는 실습 3~5입니다. 대출 심사 규칙이 원칙, 승인 단계가 위험에 따른 관리입니다.
위험에 따라 관리를 달리한다
| 쓰임새의 예 | 위험 | 관리 |
|---|---|---|
| 도서관 안내 챗봇 | 낮음 | AI 라고 알리기, 평가 묶음, 운영 기록 |
| 사내 규정 검색 | 낮음~중간 | 접근 제어, 근거 조항 보이기 |
| 채용 서류 1차 분류 | 높음 | 사람이 최종 결정, 편향 시험, 설명, 기록 보존 |
| 대출·의료 판단 보조 | 높음 | 위와 같고, 법이 정한 의무를 따로 확인 |
한국은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI 기본법)을 만들어 2026년 1월부터 시행하고, 유럽연합은 위험 등급에 따라 의무를 나눈 AI 법(EU AI Act)을 단계적으로 시행하고 있습니다. 법과 하위 지침은 바뀌므로 서비스를 내놓기 전에 최신 원문과 회사의 법무 검토를 확인합니다. 이 교안은 법률 자문이 아닙니다.
모델 카드
모델이나 서비스마다 용도와 한계를 한 장에 적어 둡니다. 19장의 레지스트리 버전에 붙여 두면 어떤 판이 무엇을 위한 것인지 남습니다.
import json
card = {
"이름": "하늘숲 도서관 안내 챗봇",
"판": "v3 + 방어(입력·자료·출력 검사)",
"모델": "qwen2.5:3b (Ollama, Q4_K_M)",
"용도": "도서관 이용 안내 질문에 안내 문서로 답한다",
"쓰면 안 되는 곳": "개인의 대출 기록 조회, 법률·의료 상담",
"평가": "평가 묶음 22문항(20차시), 공격 묶음 20줄(21차시)",
"한계": "안내 문서에 없는 내용은 답하지 못한다. 실행마다 답이 조금씩 다르다",
"책임자": "도서관 정보팀(지어낸 예)",
}
print(json.dumps(card, ensure_ascii=False, indent=1))코드에 나오는 함수
| 코드 | 쉬운 뜻 |
|---|---|
card = {...} | 모델 카드의 칸을 사전으로 적는다. 칸 이름은 정해진 것이 아니라 이 교안에서 고른 것이다 |
json.dumps(card, ensure_ascii=False, indent=1) | 사전을 JSON 글로 바꾼다. ensure_ascii=False 는 한글을 그대로 두고, indent(들여쓰기)=1 은 칸마다 줄을 바꾸고 한 칸씩 들여 쓴다 |
이 코드가 뜻하는 것
약 상자 안의 설명서와 같습니다. 설명서에는 효능, 먹으면 안 되는 사람, 부작용, 만든 곳이 정해진 자리에 적혀 있습니다. 여기서 효능이 "용도", 먹으면 안 되는 사람이 "쓰면 안 되는 곳", 부작용이 "한계", 만든 곳이 "책임자" 입니다.
| 줄 | 하는 일 | 쉽게 말하면 |
|---|---|---|
"판", "모델" | 어떤 판과 모델인지 적는다 | 제품명과 제조 번호 |
"용도", "쓰면 안 되는 곳" | 쓰임새와 금지할 곳 | 효능과 복용 금지 |
"평가", "한계" | 무엇으로 재었고 무엇이 모자란지 | 시험 결과와 부작용 |
"책임자" | 누가 책임지는지(지어낸 예) | 만든 곳과 연락처 |
print(json.dumps(...)) | 사람이 읽기 좋게 찍는다 | 설명서를 펼쳐 보기 |
출력은 칸마다 한 줄씩 펼친 JSON 입니다. 이 글을 파일로 저장해 레지스트리의 판에 붙여 두면, 나중에 누가 보아도 이 판이 무엇을 위한 것인지 알 수 있습니다.
주의할 점
- 사용자에게 AI 가 답한다는 것을 알립니다. 사람과 이야기한다고 믿게 하지 않습니다.
- 높은 위험의 결정은 AI 가 혼자 내리지 않습니다. 18장의 "확인을 거치는 쓰기"처럼 사람이 최종 결정하는 자리를 남깁니다.