확인문제와 해답

Q1LoRA 에서 학습하는 것은 무엇일까요?

Q2LoRA 의 B 를 0 으로 시작하는 까닭은 무엇일까요?

Q3LoRA 설정에서 r 을 8 에서 16 으로 바꾸면 학습하는 파라미터는 대략 어떻게 될까요?

Q4순전파의 중간값을 버렸다가 역전파 때 다시 계산해 메모리를 아끼는 방법은 무엇일까요?

Q5DPO 의 선호 데이터 한 줄에 들어가는 세 가지로 알맞은 것은 무엇일까요?

Q6DPO 학습 기록의 rewards/accuracies 가 1 에 가깝다는 것은 무슨 뜻일까요?

Q7이 장의 실습에서 DPO 로 크게 바뀐 것과 거의 바뀌지 않은 것을 바르게 짝지은 것은 무엇일까요?