H3는 5090, LTX는 DGX Spark: 두 대로 나눠 동시에 돌렸다

터보 8스텝으로 H3가 빨라졌어도 한 대로는 여전히 느렸다. 집에는 GPU 장비가 하나 더 있다. 평소 로컬 언어 모델을 서빙하는 DGX Spark다. 두 대를 동시에 돌리면 어떨까.

두 대를 처음 같이 돌린 날

9월 26일, AC리서치 8편 본편을 두 장비로 나눠 만들었다. RTX 5090은 H3를, DGX Spark는 LTX 2.5를 맡았다. Spark는 평소 대형 언어 모델을 띄워 두는 장비라, 먼저 돌고 있는 요청이 없는지 확인한 뒤 언어 모델만 내리고 영상 생성 서비스를 올렸다. 자막 작업에 쓰는 작은 언어 모델은 맥에 그대로 남겨 뒀다.

첫 클립이 나오자 속도가 보였다. Spark의 LTX는 8초 클립에 2분 50초, 5090의 H3는 8초 클립에 6분 46초가 걸렸다. 두 장비가 비슷한 시각에 끝나야 기다리는 시간이 줄어든다. 그래서 본편에 쓸 컷을 LTX 17컷, H3 7컷으로 골라 나눴다. 막바지에는 Spark에도 같은 H3 모델이 설치돼 있는 것을 확인하고, 5090에 남은 H3 한 컷을 Spark로 넘겼다.

속도를 재는 단위

두 장비를 비교하려면 단위부터 맞춰야 했다. 클립마다 길이가 다르니 “클립 하나에 몇 분”으로는 비교가 안 된다. 그래서 영상 1초를 만드는 데 걸린 시간(초/영상초)을 기준으로 삼았다. 10초 영상에 200초가 걸렸다면 20초/영상초다. 숫자가 작을수록 빠르다.

분자는 ComfyUI 기록에서 실행이 시작된 때부터 성공한 때까지의 서버 시간이다. 모델 로딩, 텍스트 처리, 샘플링, 디코딩, 저장이 다 들어 있고, 큐에서 기다린 시간과 파일을 내려받는 시간은 빠진다. 분모는 요청한 길이가 아니라 실제로 나온 프레임 수를 24로 나눈 값이다. H3 10초 요청은 243프레임, 곧 10.125초가 나오고, LTX는 241프레임이 나온다. 이 작은 차이도 평균을 내면 어긋난다.

45건을 다시 세어 보니

새로 돌리지 않고, 9월 8일과 26일 제작 때 남은 생성 로그 45건을 이 단위로 다시 계산했다. 약 10초 클립만 비교하면 이랬다.

장비 · 모델	표본	클립당 평균	영상 1초당
RTX 5090 · H3	7건	9분 38초	57.1초
DGX Spark · H3	1건	20분 11초	119.6초
RTX 5090 · LTX 2.5	7건	3분 8초	18.8초
DGX Spark · LTX 2.5	8건	3분 20초	19.9초

H3는 5090이 Spark보다 두 배쯤 빨랐고, LTX는 두 장비가 비슷했다. 그래서 H3는 5090에, LTX는 Spark에 고정해 두는 배분이 맞았다.

다만 이 표로 말할 수 없는 것도 분명히 적어 뒀다. Spark H3는 1건뿐이라 반복 성능이라고 할 수 없다. 5090 LTX는 9월 8일에 메모리 설정을 바꿔 가며 실험하던 기록이라, Spark의 9월 26일 기록과 나란히 놓고 5090이 더 빠르다고 말할 수 없다. 실제로 5090 LTX는 시간 편차가 평균의 25%나 됐고, 5090 H3와 Spark LTX는 1% 안팎으로 일정했다. 두 장비는 운영체제도, PyTorch 버전도, 캐시 설정도 달랐다. 이 기록이 말해 주는 것은 “그때 그 설정으로 이만큼 걸렸다”까지다.

합이 아니라 늦게 끝나는 쪽

두 대로 나누면 얼마나 빨라질까. 여기서 흔히 하는 실수는 두 장비의 작업 시간을 더하는 것이다. 동시에 시작하면 완료 시각은 더 늦게 끝나는 장비가 정한다.

새로 만들어야 할 영상 60초를 H3 18초, LTX 42초로 나눈다고 해 보자. 위 속도로 계산하면 5090은 H3에 17분 8초, Spark는 LTX에 13분 57초가 걸린다. 합치면 31분 5초지만, 동시에 시작하면 17분 8초 뒤에 둘 다 끝난다. 같은 60초를 비율만 바꿔 계산하면 이렇다.

H3 / LTX 비중	두 대 동시	5090 혼자	줄어든 시간
20% / 80%	15분 57초	26분 26초	39.7%
30% / 70%	17분 8초	30분 16초	43.4%
50% / 50%	28분 33초	37분 56초	24.7%

두 장비가 정확히 같이 끝나는 비율은 H3 약 26%, LTX 약 74%였다. 물론 이건 계산 예시일 뿐, 영상에 H3를 몇 퍼센트 넣으라는 규칙은 아니다. 사람 동작이 필요한 장면이 많아지면 그만큼 5090이 끝까지 일하게 된다. 5090 혼자 계산에는 조건이 다른 9월 8일 LTX 평균을 썼고, 모델 교체, 재시도, 공유 자원 경합, 내려받기와 합성 시간은 뺐다.

배운 것

두 장비를 비교할 때는 같은 단위로, 같은 조건의 기록끼리만 비교해야 한다. 날짜와 설정이 다른 기록을 한 표에 섞으면 장비 순위처럼 보이는 숫자가 나오지만, 사실은 설정의 차이다. 그리고 병렬 작업의 완료 시각은 합이 아니라 가장 늦게 끝나는 쪽이 정한다. 그래서 목표는 두 장비가 같은 시각에 끝나도록 일을 나누는 것이다. 이 표를 만들고 나니 조건을 맞춰 다시 재 볼 이유가 분명해졌다. 다음 화가 그 이야기다.