우리가 빚은 루나

언어 모델을 바닥부터 만들고 들여다보기

  1. 머리말: 언어 모델을 바닥부터 만들고 들여다보기
  2. 프롤로그: 서비스 종료 공지
  3. 일단 돌아가게
  4. 다음 글자 맞히기: 세기만으로 루나가 말을 할까
  5. 얼마나 잘 맞히나: 루나가 놀라는 정도를 재기
  6. 글자를 토큰으로: 루나라는 이름은 몇 조각인가
  7. 앞 글자 여럿 보기: 비슷한 낱말을 비슷하게 다루는 신경망
  8. 멀리 보기: 200줄이 안 되는 GPT
  9. 동화 쓰는 작은 GPT: 게이밍 GPU 한 장으로 17분
  10. 루나에게 말 걸기: 같은 시작 문장에 왜 매번 다른 이야기가 나올까
  11. 들여다보기 1: 칠판과 헤드