다음 루나를 위하여: 원하는 모델을 빚는 순서와 AI 의 앞날
끝이 없는 순환: AI 는 어디로 갈까
마지막으로 하은이 순서는 어디서 끝나느냐는 처음 물음을 다시 꺼내자, 선생님은 화이트보드 지도 옆에 빈자리를 남기고 말했다.

제 생각을 먼저 말할게요. 저는 AI 가 나아가는 데 끝은 없다고 생각해요. 과학과 기술이 나아가는 한 AI 도 같이 나아갈 거예요. 문제를 푸는 속도가 빨라지는 만큼, 새로운 문제를 찾아내는 속도도 빨라지거든요.

루나에게도 그랬는지 세어 볼게요.

| 시험지 | 칸 | 문항 | 누적 칸 |
|---|---|---|---|
| 성적표 시험지(설정서 점수 다섯 영역) | 5 | 7,449 | 5 |
| 논리 균형 묶음 | 3 | 600 | 8 |
| 동네 시험지 | 7 | 2,179 | 15 |
| 「둘 다」 과제(논리와 동네를 함께) | 3 | 1,800 | 18 |
| 마음 시험지 | 2 | 1,280 | 20 |
| 반응 시험지 | 2 | 1,920 | 22 |
| 놀이 시험 | 2 | 100 | 24 |
위 표는 sources/cycle/bench_growth.out 이다. 칸은 그 시험지가 따로 점수를 내는 단위다. 동네의 칸을 열자 논리와 동네를 함께 써야 하는 과제가 생겼고, 마음을 맞히자 반응을, 반응을 맞히자 놀이를 측정해야 했다. 칸 하나를 열 때마다 다음 칸이 보였다.

성적표 다섯 칸을 만드는 데는 손으로 쓴 문항이 필요했는데, 동네 시험지부터는 프로그램이 문항을 만들었어. 푸는 도구가 늘면서 묻는 도구도 같이 늘었어.

사람들이 가장 큰 변곡점으로 꼽는 건 재귀적 자기 개선이에요. AI 가 자기를 고치는 일을 스스로 해내는 단계요. 이 생각은 1965년 I. J. 굿(I. J. Good)의 글 「Speculations Concerning the First Ultraintelligent Machine」에 나와요. 사람보다 뛰어난 기계가 더 나은 기계를 설계하면 지능이 폭발한다고 했어요. 그리고 「the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control」이라고 썼어요. 뒤의 단서까지가 한 문장이에요.

우리 루나에서는 누가 루나를 고쳤지? 우리가 고쳤지.

지금은 그래요. 모델을 나아지게 하려면 여러 가지를 사람이 정하거나 직접 해야 해요. 어떤 방향으로 키울지에는 정답이 없어요. 루나를 다섯 살로 정한 것도, 가족 곁의 안정과 떨어짐의 불안을 마음의 중심에 둔 것도 여러분이 정했어요. 결국 AI 를 쓰는 사람이 사람이니까, 무엇을 원하는지는 사람이 정해요.

AI 가 도운 일도 많았어요. 딥시크가 동네 대화 2,755 편과 감정 대화 2,507 편의 말씨를 썼고, 루나의 대답 300 개를 읽고 「I asks」를 짚었어요.

데이터를 보강하고 구조와 하네스를 고치는 일은 AI 가 많이 돕고 있어요. 그런데 완전히 새로운 실험은 아직 사람이 감독하고 알아채야 해요. 놀이 첫 판에서 시연이 플래너만 아는 자리로 곧장 가 버리는 설계 잘못을 찾은 것, 마음을 묻는 이야기가 학습 글에 0 편이라는 것을 알아챈 것, 그리고 무엇을 측정할지 정한 것은 모두 여러분이 직접 해 봤기 때문에 가능했어요.
민준이 노트북을 끌어와 마지막 루나에게 물음 두 개를 쳤다. 시드 셋에 같은 물음을 넣었다.
Mommy: Luna, what do you want to learn?
시드 1 Luna: I want to learn about computers at home.
시드 2 Luna: I am worried.
시드 3 Luna: I am worried.
Mommy: Luna, what will you do when you are big?
시드 1 Luna: I am a little bird. I am in the frog pond.
시드 2 Luna: I am big, Mommy.
시드 3 Luna: I am big. I am happy.
위는 루나가 이어 쓴 대답이다(sources/cycle/luna_last.out, 그리디). 물음은 시험지 문항이 아니라 이 장면을 위해 쓴 것이다.

커서 뭐 할 거냐니까 벌써 컸대. 기쁘대.

배우고 싶은 걸 물었는데 시드 둘이 걱정된대요. 배운다는 말이 무섭나 봐요.

시드 1 은 집에서 컴퓨터를 배우고 싶대. 지도의 마지막 상자가 다시 첫 상자로 이어져. 루나가 다음에 원하는 걸 말했으니까, 그걸 시험지로 적는 데서 다시 시작하면 돼. 순서는 끝나는 곳이 없어.

「learn」에 「worried」라고 답하는 두 시드도 그 시험지의 첫 칸이에요. 다음 루나는 거기서 시작하죠.