루나에게 옮은 쏠림
쏠림이 루나에게 옮는지 보려면 이 대화로 루나를 가르쳐 봐야 한다. 출발점은 묻는 말에 대답하기를 배운 루나(동화 GPT 위에 기본 질문 답변 지도 파인튜닝을 한 모델)이고, 그 위에 루나 말투 대화로 같은 방법의 지도 파인튜닝을 한 번 더 한다. 학습률 1e-4, 600 스텝, 배치 32 줄 가운데 8 줄은 동화 조각을 섞고, 답하는 쪽 표시는 「Luna:」다. RTX 4090 한 장에서 17초가 걸린다. 학습에 쓰지 않을 개발 대화 299 개를 먼저 떼어 두었는데, 첫 물음이 데이터 전체에서 한 번만 나오는 대화에서 유형마다 50 개까지 골랐다.
그리고 「이야기를 해 줘」 같은 물음 셋을 온도 1.0 으로 50 번씩 물어, 이야기에서 처음 나온 이름을 셌다(sources/data-fix/probe.py).
이름: 150 번 가운데 이름 있음 88, Tim 18, Lily 14, Sue 8, Mia 7, Tom 7, Lucy 5
시드 셋을 모으면 루나가 지은 이야기에서 처음 나온 이름은 Tim 24.7%, Lily 10.6% 다(위 그림의 오른쪽 끝). 타이니스토리즈의 24.6%, 11.8% 와 거의 같고, 마지막에 읽은 대화의 1등 Sam 은 위 여섯에 들지 못했다.

Tim 이네. 또.

마지막에 읽은 건 대화인데, 왜 동화를 따라가?

대화 안을 들여다보면 알 수 있어요. 루나 말투 대화에서 이야기를 지어 달라는 대화는 1,503 개인데, 그 이야기들에 사람 이름이 처음 나오는 건 21 번뿐이에요. 「작은 고양이가 나무 아래 앉아 있었어요」처럼 이름 없이 동물로 시작하거든요. 대화는 루나에게 이야기 속 이름을 하나도 가르치지 않았고, 그래서 이름은 271만 편을 읽은 프리트레인에서 그대로 와요.
이야기를 청하는 물음에 루나가 넷에 하나꼴로 Tim 을 내놓는 데는 이유가 둘 겹쳐 있다. 동화 데이터가 Tim 에 쏠려 있고, 대화 데이터는 이야기 속 이름을 가르치지 않는다. 고치는 일은 이름 바꿔 쓰기 절에서 한다. 그 전에, 대화를 더 넣기 전에 늘 해야 하는 검사가 하나 있다.