다음 루나를 위하여: 원하는 모델을 빚는 순서와 AI 의 앞날
모델에 맥락을 건네는 하네스
학습이 끝난 모델을 쓰는 쪽에서는 모델에 무엇을 건네느냐를 손볼 수 있고, 루나에서는 계산기가 그 처음이었다. 루나가 계산 줄을 쓰면 하네스(모델 바깥에서 입력을 짜고 도구를 불러 결과를 다시 넣는 프로그램)가 생성을 멈추고 답을 넣어 준다. 서연은 같은 마지막 루나에 건네는 맥락만 바꾼 대조 둘을 나란히 놓았다.

| 같은 마지막 루나 | 맥락 없이 | 맥락을 건네면 |
|---|---|---|
| 처음 보는 산수 쌍(식) | 표시 줄 없음 26.0% (27.4·24.1·26.5) | 「Tools: calc, note.」 + 계산기 100% (100·100·100) |
| 놀이: 물건 가져오기 | 첫 줄에 자리 없음 0.07 (0.06·0.08·0.06) | 첫 줄에 물건·엄마 자리 1.00 (1.00·1.00·1.00) |
위 표의 산수는 sources/world-limits/m5_panel.out(표시 줄 없음)과 m5_mark.out(표시 줄 있음), 놀이는 agent_eval.out 의 M15dm3fxgR+big 두 줄이다(처음 보는 장면 100 가운데 물건 가져오기 50, 시드 셋). 표시 줄이 없을 때는 계산기를 켜 두어도 루나가 계산 줄을 쓰지 않았다(호출 0%, m5_panel.out). 모델의 가중치는 하나도 바뀌지 않았다.

계산기를 줬는데 안 쓰다가, 「Tools: calc, note.」 한 줄을 보니까 쓰네. 도구가 있다는 걸 알려 주는 것까지가 하네스구나.

철학에 「확장된 마음」이라는 생각이 있어요(앤디 클라크·데이비드 차머스, 1998). 기억이 나쁜 오토가 늘 들고 다니는 공책을 보고 미술관을 찾아가면, 그 공책도 오토의 마음의 일부라고 볼 수 있느냐는 물음이요. 루나의 계산기와 공책이 딱 그 자리예요.

요즘 채팅 모델과 코딩 에이전트가 하는 일이 이것을 크게 키운 거예요. 하네스가 지시문과 대화 기록을 맥락에 넣고, 파일과 검색 결과를 읽어 넣고, 모델이 부른 도구를 실행해 결과를 다시 넣는 일을 되풀이해요. 같은 모델이라도 무엇을 건네받느냐에 따라 할 수 있는 일이 달라지니까, 하네스를 고치는 것도 모델을 키우는 일의 한 부분이에요.