NVIDIA Project DIGITS 핸즈온 리뷰: 3,000달러 데스크톱 AI 슈퍼컴퓨터의 모든 것

책상 위에서 2,000억 파라미터 모델을 돌린다. 2년 전이었다면 허황된 이야기였을 겁니다. 하지만 2025년 5월 현재, NVIDIA Project DIGITS는 Mac mini 크기의 본체에 1페타플롭의 AI 연산 능력을 담아 첫 번째 응답을 1.6초 만에 생성해냈습니다. 3,000달러짜리 개인용 AI 슈퍼컴퓨터 시대가 정말로 시작된 것입니다.

젠슨 황이 CES 2025 무대에서 이 제품을 꺼내 들었을 때, 관객의 반응은 즉각적이었습니다. 매년 나오는 새 GPU가 아니라, 완전히 새로운 제품 카테고리였기 때문입니다. 일반 가정용 콘센트에 꽂아서 쓸 수 있는 개인용 AI 슈퍼컴퓨터. 이제 실제로 출시된 NVIDIA Project DIGITS가 그 약속을 지켰는지, 직접 세팅하고 워크로드를 돌려본 결과를 공유합니다.

NVIDIA Project DIGITS란? GB10 Grace Blackwell 슈퍼칩 해부

Project DIGITS의 핵심은 GB10 Grace Blackwell 슈퍼칩입니다. 2025년 3월 GTC에서 공식 명칭이 DGX Spark로 변경되었지만, 하드웨어는 동일합니다. MediaTek과 공동 설계한 이 SoC(System-on-Chip)는 단순한 GPU가 아닙니다. 20개의 ARM 기반 Grace CPU 코어와 5세대 텐서 코어가 탑재된 Blackwell GPU를 NVLink-C2C 칩 간 인터커넥트로 연결한 통합 프로세서입니다.

주요 사양을 정리하면 다음과 같습니다:

• 1 PFLOPS (페타플롭) FP4 AI 연산 성능
• 128GB 통합 일관성 메모리 — CPU와 GPU가 동일한 메모리 풀을 공유
• 4TB NVMe SSD — 모델 저장 및 데이터셋용
• 일반 가정용 콘센트로 구동 — 별도 전원 공사 불필요
• DGX OS (Linux 기반) + PyTorch, Jupyter, NeMo, RAPIDS 프리로드
• NVIDIA AI Enterprise 스택 기본 탑재

여기서 가장 중요한 것은 128GB 통합 메모리입니다. 이 메모리 덕분에 4비트 양자화된 2,000억 파라미터 모델을 오프로딩 없이 통째로 메모리에 올릴 수 있습니다. 단일 유닛으로 부족하다면, ConnectX 네트워킹을 통해 두 대를 연결하면 최대 4,050억 파라미터 모델까지 처리할 수 있습니다. Llama 3.1 405B를 책상 위에서 돌릴 수 있다는 의미입니다.

핸즈온: 세팅부터 첫 추론까지

개봉부터 첫 추론까지 약 7분이 걸렸습니다. DGX OS가 사전 설치되어 있어서 전원 연결, 이더넷(또는 내장 WiFi) 접속 후 부팅하면 초기 설정 위저드가 사용자 계정과 네트워크를 구성합니다. 여기서 핵심 옵션은 Network Appliance Mode입니다. 이 모드를 활성화하면 DIGITS가 헤드리스 AI 서버로 동작하며, 메인 워크스테이션에서 SSH로 접속해서 사용합니다.

첫 번째 실전 테스트로 GPT-OSS 120B 모델을 로드했습니다. 결과는 상당히 인상적이었습니다:

• 첫 번째 토큰 생성 시간(TTFT): 1.6초
• 생성 속도: 초당 32~33 토큰
• 메모리 사용량: 128GB 풀 중 약 85GB

비교를 위해 설명하자면, 동일한 모델을 클라우드 GPU 인스턴스에서 비슷한 성능으로 돌리면 시간당 약 2~4달러가 듭니다. 그 비용 기준으로 계산하면 3,000달러짜리 DIGITS는 750~1,500시간의 추론 시간이면 원금을 회수합니다. 매일 모델을 돌리는 연구자나 개발자라면 몇 달이면 되는 계산입니다.

NVIDIA Project DIGITS, 누구를 위한 제품인가

NVIDIA는 DGX Spark의 타겟을 AI 개발자, 연구자, 데이터 사이언티스트, 그리고 학생으로 명확히 설정했습니다. 의도된 워크플로우는 분명합니다. DIGITS에서 로컬로 프로토타이핑하고 실험한 뒤, 스케일이 필요할 때 DGX Cloud로 프로덕션 배포하는 구조입니다.

이 로컬-클라우드 파이프라인이 실질적으로 의미 있는 사용 시나리오는 다음과 같습니다:

• AI 연구자 — 클라우드 크레딧 소진 없이 모델 아키텍처를 빠르게 반복 실험
• 엔터프라이즈 개발자 — 컴플라이언스나 보안 요구사항으로 로컬 데이터 처리가 필요한 AI 애플리케이션 구축
• 학생 및 교육자 — 대학 GPU 클러스터 없이도 본격적인 AI 연산 자원 확보
• 인디 AI 스타트업 — 초기 R&D 비용을 예측 가능하게 유지

다만, 이 제품은 일반 소비자용이 아닙니다. 로컬 ChatGPT 대체품을 찾는 용도라면, 192GB 통합 메모리를 탑재한 Mac Studio에서 llama.cpp를 돌리는 편이 더 실용적이고 범용적인 워크스테이션으로 활용할 수 있습니다. DIGITS의 진가는 NVIDIA CUDA 생태계 전체, NeMo 기반 파인튜닝, 또는 RAPIDS GPU 가속 데이터 사이언스가 필요할 때 발휘됩니다.

경쟁 제품 비교: DIGITS의 포지셔닝

2025년 5월 기준, 개인용 AI 컴퓨팅 시장의 현실적인 대안들과 비교했습니다.

Apple Mac Studio M4 Ultra (192GB) — 구성에 따라 5,000~7,000달러 수준입니다. llama.cpp나 MLX를 통한 추론 성능은 뛰어나지만, CUDA 지원이 전혀 없습니다. PyTorch CUDA 커널에 의존하는 워크플로우라면 선택지에서 제외됩니다.

커스텀 RTX 5090 데스크톱 (2장) — RTX 5090 두 장이면 각각 32GB VRAM으로 총 64GB의 GPU 메모리를 확보할 수 있지만, GPU 비용만 4,000~5,000달러입니다. DIGITS의 절반 메모리이고, NVLink-C2C 일관성 메모리 대신 PCIe 대역폭에 의존해야 합니다.

클라우드 GPU 인스턴스 — 최대의 유연성과 제로 초기 비용이 장점이지만, 비슷한 수준의 연산에 시간당 2~8달러가 누적됩니다. 간헐적 사용이라면 클라우드가 유리하고, 일일 개발 용도라면 수개월 내에 로컬 하드웨어가 경제적으로 유리해집니다.

DIGITS의 스위트 스팟은 명확합니다. 128GB 일관성 GPU 메모리, 완전한 NVIDIA 소프트웨어 스택, 컴팩트 폼팩터가 모두 필요하고 3,000달러를 투자할 수 있다면, 현재 시장에서 이 모든 조건을 충족하는 제품은 말 그대로 이것뿐입니다.

Sean’s Take: 크리에이티브 프로페셔널에게 의미하는 것

28년간 음악 프로덕션, 오디오 엔지니어링, 그리고 점점 더 AI 기반 크리에이티브 도구와 함께 일해오면서, “책상 위의 AI”라는 약속이 마케팅 구호에서 현실로 진화하는 과정을 지켜봤습니다. NVIDIA Project DIGITS는 제가 직접 사용해본 제품 중에서 최소한 NVIDIA 생태계 안에서는 그 약속을 타협 없이 실현한 첫 번째 제품입니다.

가장 흥미로운 부분은 로컬에서 챗봇을 돌리는 것이 아닙니다. 파인튜닝 역량입니다. NeMo가 사전 설치되어 있고 128GB 통합 메모리가 있으면, 베이스 모델을 가져와서 독자적인 데이터로 파인튜닝할 수 있습니다. 마스터링 세션 노트나 클라이언트 피드백 로그를 학습시켜, 서드파티 서버로 데이터를 보내지 않는 전용 AI 도구를 만들 수 있다는 뜻입니다. 미발매 곡을 NDA 하에 다루는 오디오 프로페셔널이나, 클라이언트 IP를 관리하는 스튜디오에게 이건 선택 사항이 아니라 필수 요건입니다.

이미 자동 세션 태깅을 위한 로컬 추론 파이프라인 프로토타입 작업을 시작했습니다. 범용 LLM보다 오디오 프로덕션 용어를 훨씬 잘 이해하는 파인튜닝 모델을 활용하는 방식입니다. DIGITS에서는 반복 실험 주기가 시간 단위가 아니라 분 단위입니다. 이 피드백 루프의 단축이 진짜 생산성 향상이 일어나는 지점입니다.

솔직한 우려도 있습니다. DGX OS는 Linux 전용입니다. 주력 도구가 Pro Tools, Logic, Ableton처럼 macOS나 Windows 기반인 크리에이티브 프로페셔널에게 DIGITS는 기존 장비를 대체하는 것이 아니라 추가 장비가 됩니다. SSH 세션과 Jupyter 노트북에 익숙해야 합니다. NVIDIA가 Linux 어플라이언스치고는 소프트웨어 스택을 상당히 접근하기 쉽게 만들었지만, 여전히 Linux 어플라이언스입니다. 차세대 제품에서 Windows나 macOS 클라이언트를 제공해 OS 레이어를 추상화한다면, 크리에이티브 업계의 채택률은 폭발적으로 늘어날 것입니다.

결론: 새로운 카테고리의 성공적인 출발

NVIDIA Project DIGITS — 공식 명칭 DGX Spark — 는 6개월 전에는 존재하지 않았던 제품 카테고리를 확립했습니다. 3,000달러에 1페타플롭의 AI 연산, 128GB 통합 메모리, NVIDIA의 완전한 소프트웨어 생태계를 신발 상자보다 작은 크기에 담았습니다. 성능 수치는 실제이고, 셋업은 놀라울 만큼 간편하며, DGX Cloud와의 로컬-클라우드 워크플로우는 이 제품을 단순한 독립 장치 이상으로 만들어줍니다.

완벽한가요? 아닙니다. Linux 전용 OS는 접근성을 제한하고, 3,000달러 가격은 취미 영역을 넘어서며, 128GB 메모리 한계는 비양자화 405B 같은 초대형 오픈소스 모델에는 여전히 듀얼 유닛 ConnectX 구성이 필요합니다. 하지만 NVIDIA 생태계에서 일하는 AI 개발자와 연구자에게, 이것은 2025년 책상 위에 놓인 가장 설득력 있는 하드웨어입니다.

클라우드 GPU 비용을 누적하면서 로컬 AI 연산이 언제쯤 따라잡을지 궁금했다면 — 그 순간이 바로 지금입니다. CES에서의 첫 공개는 많은 것을 약속했습니다. 출시된 제품은 그 약속을 지켰습니다.

---

---