DGX Spark 두 대가 70시간 동안 책 지도 760권을 만들었다: 토큰 3억 5,800만 개, 함께 돌 때 초당 306토큰

6화는 시작한 지 24.6시간째의 중간 점검이었다. 이 글은 10월 2일 23시 51분에 시작해 10월 5일 21시 49분까지, 약 70시간 동안 두 스파크가 한 일을 모은 결과 보고다. 그사이 사유고에 새 책이 들어와 대상은 704권에서 795권으로 늘었다.

집계는 두 갈래로 했다. 책마다 지도에 남은 토큰 기록과, 어느 스파크가 어떤 책을 맡았는지 적힌 배치 기록을 맞춰 스파크별 글자 수와 토큰 수를 냈다. 일한 시간과 초당 토큰 수는 vLLM 서버가 10초마다 남긴 처리량 기록으로 계산했다.

70시간 동안 지도 760권을 만들고 토큰 3억 5,800만 개를 처리했다

항목	2번 스파크	1번 스파크	합계
만든 지도	445권	315권	760권
처리한 원문	1억 1,487만 자	8,129만 자	1억 9,623만 자
읽은 토큰(입력)	1억 5,686만	1억 3,297만	2억 8,983만
쓴 토큰(출력)	3,690만	3,130만	6,820만
모델 호출	1만 7,954회	1만 3,687회	3만 1,641회
일한 시간	66.1시간 (94%)	57.4시간 (82%)
초당 쓴 토큰(일하는 동안)	155	151	306 (두 대 동시)
초당 읽은 토큰(일하는 동안)	659	643	1,302

모델이 처리한 토큰은 읽은 2억 8,983만 개와 쓴 6,820만 개를 더해 약 3억 5,800만 개다. 70시간 전체로 평균하면 초당 271토큰을 썼고, 시간당 원문 280만 자를 처리했다.

760권에는 다시 만든 78권이 들어 있어 서로 다른 책은 683권이다

6화에서 문단이 줄마다 끊긴 책 78권을 다시 돌리기로 했다. 그 78권이 두 번 세어져 있어서 중복을 빼면 682권이다. 여기에 맨 처음 시험한 대표 책 『불안사회』 1권이 더해져 683권이 된다. 처리한 원문 1억 9,623만 자에도 다시 만든 78권 분량이 들어 있다.

함께 돌 때 속도는 155 대 151로 거의 같았고, 차이는 일한 시간에서 났다

1번은 2번보다 지도를 130권 적게 만들었다. 속도 탓은 아니다. 두 대가 동시에 일할 때 초당 쓴 토큰은 155와 151로 거의 같았다. 차이는 일한 시간에서 났다. 2번은 70시간 중 66.1시간(94%)을 일했고, 1번은 57.4시간(82%)을 일했다.

1번이 덜 일한 이유는 세 가지다. 카드릴스와 아침·저녁 딥리서치에 서버를 양보했고, 영상 작업에 두 번 내줬고, 10월 5일에는 영상 서버에서 언어 모델로 바꾼 뒤 커널이 멈춰 30분 동안 섰다. 전원을 껐다 켜서 되살렸다. 1번의 토큰 기록에는 딥리서치가 같은 서버를 잠깐 함께 쓴 양도 조금 섞여 있다.

책 기록으로 세면 토큰이 10% 적게 나왔다: 재시작 전 호출이 빠진다

토큰 수는 각 스파크의 모델 서버가 직접 남긴 기록으로 셌다. 책마다 남은 기록으로 세면 입력 2억 6,031만, 출력 6,025만으로 약 10% 적게 나온다. 재시작으로 끊겼다가 이어 간 책은 끊기기 전에 한 호출이 책 기록에서 빠지기 때문이다. 책 기록은 “이 책을 만드는 데 든 토큰”으로는 맞지만, “서버가 실제로 한 일”로 쓰기엔 모자란다.

795권 중 683권, 글자로 83%를 끝냈고 남은 112권은 10월 6일 아침에 끝날 전망이다

10월 5일 21시 49분 기준으로 795권 중 683권의 지도가 끝났다. 원문으로는 1억 8,036만 자, 글자 기준 83%다. 남은 112권은 약 3,700만 자이고, 10월 6일 아침 8~9시 무렵 끝날 것으로 봤다.

배운 것: 처리량은 속도보다 일한 시간이 갈랐다

두 대는 함께 돌 때 초당 155와 151토큰으로 거의 같은 속도를 냈다. 그런데 결과는 445권과 315권으로 130권 차이가 났다. 장비를 다른 일과 나눠 쓰면 속도보다 일한 시간이 결과를 정한다.

세는 기준도 숫자를 바꿨다. 권수는 다시 만든 책을 두 번 세고, 책 기록은 끊긴 호출을 빼먹는다. 서버 기록과 배치 기록과 책 기록을 맞춰 봐야 “얼마나 했나”에 답할 수 있었다.