스파크 활용 · 3화
DGX Spark 2번을 한 시간 반 만에 1번과 똑같이 세웠다: 같은 시드 영상 313초 대 319초
10월 2일 오후 DGX Spark를 한 대 더 들였다. 들이자마자 1번이 네트워크에서 사라졌는데 원인은 랜선이 아니라 업데이트 뒤 재시작이었다. 2번은 한 시간 반 만에 1번과 같은 세팅이 됐고, 200G 직결 케이블은 고정 IP가 없어 5분 만에 끊겼다.

1·2화는 DGX Spark 한 대로 한 일이었다. 10월 2일 오후에 한 대를 더 들였다. MSI가 만든 EdgeXpert로, 1번과 같은 NVIDIA GB10 칩에 메모리 128GB인 DGX Spark 계열 기기다. 두 대를 고속 케이블로 묶어 한 대에 안 들어가는 큰 모델을 나눠 올리는 방법도 있지만 당장 그럴 일은 없었다. 두 대를 따로 두고 일을 나눠 맡기기로 했다. 이 글은 2번을 들인 날 오후의 기록이다.
새 기기를 꽂자 1번이 사라졌고 원인은 업데이트 뒤 재시작이었다
집의 기기 상태를 한 화면에서 보는 관제탑(Control Tower)에 2번을 카드로 붙였다. 그런데 그사이 1번이 오프라인이 됐다. 2번을 연결하면서 랜선을 하나 더 꽂았으니 IP가 바뀐 줄 알았다.
IP 문제가 아니었다. IP만 바뀌었다면 새 주소로라도 보여야 하는데, 공유기에 물린 장비를 전부 훑어도 1번은 아예 없었다. 1번은 그날 오후 시스템 업데이트를 하고 다시 시작을 눌렀는데, 다시 켜지지 않고 꺼진 채로 남아 있었다. 랜으로 깨우는 신호를 보내 원격으로 켰고, 꺼진 지 8분 만에 돌아왔다.
다시 켜진 뒤에도 두 가지가 남았다. 재부팅 직후 한동안 맥에서 1번을 이름으로 찾지 못했다. 관제탑은 이름 대신 고정 주소로 1번을 찾도록 바꿨다. 그리고 영상 서버(ComfyUI)는 재부팅해도 저절로 켜지지 않아서 다시 켜 뒀다. 그날 저녁 카드릴스 제작이 이 서버를 쓴다.
이름도 하나 헷갈렸다. 두 대의 로그인 계정 이름을 똑같이 맞췄는데 이게 문제가 되는지 물었다. 계정 이름은 같아도 된다. 두 대를 묶어 쓸 때는 오히려 같게 맞추라고 한다. 같은 네트워크에서 서로 달라야 하는 건 기기 이름(호스트 이름)이다. 관제탑도, 맥의 NVIDIA Sync도 기기 이름으로 두 대를 구분한다.
2번은 한 시간 반 만에 1번과 같은 속도로 영상을 뽑았다
방침은 1번과 똑같이 세우는 것이었다. 영상 서버는 같은 버전(ComfyUI 0.37.0, PyTorch 2.14)에 로컬 영상 뽑기 4화에서 찾은 ck attention 설정까지 그대로 옮겼다. 영상 모델 95GB와 언어 모델 Qwen3.8 Flash Next의 가중치 195GB는 1번에서 랜으로 복사했다. 초당 113MB쯤 나왔다.
세팅이 같으면 속도도 같아야 한다. 같은 프롬프트와 같은 시드로 시험 영상을 하나씩 뽑아 비교했다.
| 시험 (같은 프롬프트·시드) | 1번 | 2번 |
|---|---|---|
| H3 107프레임 | 313초 | 319초 |
| LTX 5초 | 97초 | 113초 |
2번의 LTX가 16초 느린 건 언어 모델 파일을 복사하는 중에 돌렸기 때문이다. 화면 결과는 둘이 같았다. 언어 모델도 1번과 같은 한국어 설정(컨텍스트 50만 토큰)으로 컨테이너를 띄웠다. 171초 만에 떴고, 요청 하나로 한국어를 초당 약 42토큰씩 썼다.
관제탑에서는 2번도 1번처럼 영상 모드와 언어 모델 모드를 오가고, 켜고 끌 수 있게 했다. 2번이 만든 영상도 1번 것처럼 15분마다 외장 디스크로 옮겨진다. 요즘 쓰지 않던 27B 모델 두 개(약 80GB)는 옮기지 않았다. 처음 켤 때 받아 오면 된다.
2번을 들였다고 말한 때부터 여기까지 한 시간 반쯤 걸렸다. 사람이 한 일은 2번의 관리자 비밀번호를 넣은 것 정도였는데, 정작 그 입력창을 찾는 데 가장 오래 헤맸다. AI는 “터미널에 입력하라”고 했지만 어느 기기의 어느 창인지가 분명하지 않았다. 스파크 화면인지 맥인지, 앱 옆 패널인지 맥의 터미널 앱인지를 몇 번 되물은 끝에 찾았다.
200G 직결 케이블은 바로 붙었지만 고정 IP가 없어 5분 만에 끊겼다
두 대 사이에 QSFP 케이블도 꽂았다. 1번의 두 번째 포트와 2번의 첫 번째 포트가 200Gbps로 바로 연결됐다. 이 케이블로 모델 파일을 복사해 보니 처음 5분 동안 초당 1.2GB가 나왔다. 랜의 열 배다.
그런데 복사가 자꾸 끊겼다. 두 대의 네트워크 관리자가 이 포트에서 IP를 받으려고 계속 시도했기 때문이다. 공유기에 물린 랜과 달리 두 대만 직접 이은 선에는 IP를 나눠 줄 장치가 없다. 시도는 매번 실패했고, 실패할 때마다 포트 주소가 지워지면서 복사가 끊겼다. 남은 140GB는 랜으로 마저 옮겼다.
이 케이블을 계속 쓰려면 두 포트에 고정 IP를 넣어야 한다. 두 대 모두 관리자 비밀번호가 필요한 설정이다. 두 대를 따로 쓰는 동안은 필요 없어서 미뤄 뒀다. 두 대를 묶어 큰 모델 하나를 나눠 올릴 때 이 설정부터 하면 된다.
배운 것
장비를 하나 더할 때 먼저 터진 건 새 장비가 아니라 주변이었다. 업데이트 뒤 다시 켜지지 않은 1번, 이름으로 못 찾은 주소, 재부팅 뒤 꺼져 있던 영상 서버, IP를 받으려다 끊기는 직결 포트. 새 기기만 들여다보지 말고 원래 있던 기기부터 확인하는 게 빨랐다.
세팅을 옮긴 뒤에는 같은 시드로 같은 일을 시켜 시간을 비교했다. 같은 칩에 같은 세팅이면 같은 속도가 나와야 하고, 실제로 313초 대 319초가 나왔다. 이렇게 맞춰 둔 기준이 있으면 나중에 속도가 달라 보여도 장비보다 측정이나 일의 차이를 먼저 볼 수 있다.
다음 화는 2번의 첫 일이다. 사유고에 담긴 책 704권의 구조 지도를 두 대가 나눠 만든다.
스파크 활용 · 전 10화
- 1화DGX Spark의 Qwen3.8이 하루 딥리서치 31건을 썼다: 10월 1일 시황 뉴스를 한 건씩 조사한 보고서
- 2화DGX Spark는 한 건씩보다 다섯 건을 동시에 돌릴 때 빨랐다: 딥리서치 17건을 48분에 끝냈다
- 3화DGX Spark 2번을 한 시간 반 만에 1번과 똑같이 세웠다: 같은 시드 영상 313초 대 319초
- 4화DGX Spark 두 대가 책 704권을 나눠 정리한다: 속도가 달라 보인 건 원문을 읽던 순간이었다
- 5화DGX Spark를 두 대로 늘리자마자 엔비디아가 두 대를 묶으면 대역폭이 두 배라고 발표했다
- 6화DGX Spark 두 대가 24.6시간 만에 책 404권을 끝냈다: 글자로는 34.6%, 그 뒤 78권은 다시 돌린다
- 7화DGX Spark 두 대가 70시간 동안 책 지도 760권을 만들었다: 토큰 3억 5,800만 개, 함께 돌 때 초당 306토큰
- 8화스파크 한 대당 동시 24개가 스윗스팟이었다: 짧은 일감 분당 32.4건, 32개부터는 처리량은 그대로고 실패만 늘었다
- 9화맥스튜디오는 요청 하나에, 스파크는 일괄 작업에 강했다: 단독 51~66 대 37토큰, 최고 처리량 117 대 163토큰
- 10화맥·스파크·5090에서 돌려본 Qwen3.8 Flash Next