상태 표시 설명
실행 중
컨테이너가 실행 중입니다. VRAM에 모델이 로드되거나, unload API로 해제된 상태일 수 있습니다.
대기 (중지)
On-demand 서비스의 정상 대기 상태입니다. 컨테이너는 중지되어 있으며, GPU 활성화 클릭 시 자동 시작됩니다.
중지됨
Persistent 서비스가 중지된 상태입니다. 다른 서비스 전환 완료 후 자동으로 복원됩니다.
GPU 사용 중
이 서비스가 GPU lock을 보유 중입니다. 작업이 끝날 때까지 다른 서비스로 전환이 차단됩니다.
그룹별 전환 특성
A
상시 Warm — 컨테이너를 항상 유지합니다. 전환 시 unload API로 VRAM의 모델만 해제하므로 재시작 없이 빠르게 전환됩니다.
단, video-gen은 NF4 대형 모델 로드를 위해 다른 A 서비스의 컨테이너도 중지합니다.
단, video-gen은 NF4 대형 모델 로드를 위해 다른 A 서비스의 컨테이너도 중지합니다.
B
On-demand — 전환 시 컨테이너를 시작하고, 다른 서비스 전환 시 중지합니다.
yue·diffrhythm·songgeneration은 idle 시 VRAM을 사용하지 않아 다른 서비스와 공존 가능합니다.
yue·diffrhythm·songgeneration은 idle 시 VRAM을 사용하지 않아 다른 서비스와 공존 가능합니다.
C
독점 — A 서비스의 VRAM을 해제하고 non-idle B 서비스를 중지한 뒤 독점 시작합니다.
다시 다른 서비스로 전환하면 Group A 컨테이너가 자동으로 복원됩니다.
다시 다른 서비스로 전환하면 Group A 컨테이너가 자동으로 복원됩니다.
전환 시 적용되는 규칙
A그룹 서비스forge · ollama · comfyui · video-gen
VRAM 해제 모델만 언로드, 컨테이너는 유지 — 재전환 시 빠르게 복구됨
A그룹 → video-gen으로 전환 시예외
VRAM 해제 + 컨테이너 중지 NF4 모델(~9GB) 로드에 CUDA 컨텍스트까지 완전 해제 필요
B · C 실행 중인 서비스gptsovits · vllm
컨테이너 중지 unload API 없음 — 컨테이너 자체를 중지해 VRAM 해제
B idle 서비스yue · diffrhythm · songgeneration
영향 없음 유휴 시 VRAM 사용 안 함 — 어떤 전환에도 중지되지 않음