AI UPDATE·5 min read

NVIDIA, 64GB DGX Spark 공개…로컬 AI를 한 대에서 시작해 두 대로 확장한다

NVIDIA가 64GB 통합 메모리를 탑재한 새 DGX Spark 구성을 공개했다. 한 대에서 최대 100B 규모 모델을 로컬로 실행하고, 두 대를 ConnectX-7으로 연결하면 메모리를 128GB로 풀링해 최대 200B 모델까지 확장할 수 있다. 10월 23일부터 4,999달러에 판매된다.

NVIDIA DGX Spark 64GB 한 대에서 최대 100B 모델을 로컬 실행하고 두 대를 ConnectX-7으로 연결해 128GB 메모리와 최대 200B 모델 지원으로 확장하는 구조
DGX Spark 64GB는 GB10 Grace Blackwell과 NVIDIA AI 소프트웨어 스택을 유지하면서 64GB 통합 메모리로 진입 구성을 낮추고, 두 시스템을 연결해 더 큰 로컬 AI 워크로드로 확장할 수 있게 한다. 대표 이미지: DECHIVE 제작 · 내용 출처: NVIDIA

UPDATE DETAIL

무엇이 발표됐는가

NVIDIA는 DGX Spark 제품군에 64GB 통합 메모리 구성을 추가했다.

새 구성도 GB10 Grace Blackwell Superchip, DGX OS, NVIDIA AI 소프트웨어 스택과 ConnectX-7 네트워킹을 제공한다. 핵심 차이는 통합 메모리 용량이다.

NVIDIA는 64GB DGX Spark 한 대에서 최대 1,000억 파라미터 모델과 이를 기반으로 한 에이전트 애플리케이션을 완전히 로컬로 실행할 수 있다고 설명한다.

클라우드 없이 로컬 AI 에이전트 실행

NVIDIA는 코딩·연구 에이전트를 장시간 실행해 코드 리뷰, 문서 분석과 다단계 작업을 처리하는 활용을 강조했다.

모델과 사용자 데이터를 로컬 시스템에서 처리할 수 있어 작업마다 클라우드 인스턴스를 사용할 필요를 줄일 수 있다.

기본 소프트웨어 환경은 NVIDIA Agent Toolkit, CUDA-X AI 라이브러리와 Nemotron 오픈 모델을 포함하며 Ollama, vLLM, PyTorch with CUDA 등도 지원한다.

두 대를 연결하면 128GB

모든 DGX Spark에는 ConnectX-7 NIC가 기본 탑재된다. 64GB 시스템 두 대를 QSFP 케이블로 직접 연결하고 NVIDIA Sync Cluster Assistant를 사용하면 메모리를 128GB로 풀링할 수 있다.

NVIDIA는 이 구성에서 메모리 대역폭이 두 배로 늘어나며 최대 2,000억 파라미터 모델까지 지원한다고 설명한다.

Cluster Assistant는 연결된 장치를 감지하고 구성을 검증한 뒤 ConnectX-7 네트워크를 설정한다. 각 노드가 같은 NVIDIA 소프트웨어 스택을 사용하므로 한 대에서 두 대로 확장할 때 환경을 다시 구성할 필요가 없다는 설명이다.

최대 1.7배 성능의 의미

NVIDIA는 Qwen 3.8 27B를 이용한 자사 테스트에서 64GB 시스템 두 대를 연결했을 때 단일 시스템 대비 최대 1.7배 성능을 기록했다고 밝혔다.

최대 1.7배는 NVIDIA의 특정 Qwen 3.8 27B 테스트 결과이며 모든 모델과 워크로드에 적용되는 성능 보장치가 아니다.

NVIDIA Sync Model Launcher

NVIDIA는 Sync Model Launcher를 10월 말 제공할 예정이다.

이를 이용하면 단일 DGX Spark나 클러스터에 Qwen3.8 27B를 다운로드해 실행하고 연결된 노트북에서도 모델을 사용할 수 있다. OpenCode 설정도 지원해 DGX Spark가 추론을 담당하고 사용자는 브라우저에서 코딩하는 구성을 만들 수 있다.

  • DGX Spark 64GB: 2026년 10월 23일 판매 시작 예정
  • NVIDIA Sync Cluster Assistant: DGX Spark 확장 기능으로 제공
  • NVIDIA Sync Model Launcher: 2026년 10월 말 제공 예정

이용 대상과 지원 작업

NVIDIA가 제시하는 주요 사용자는 개발자, 연구자와 AI 애호가다.

  • 로컬 AI 에이전트
  • 모델 추론과 파인튜닝
  • 데이터 과학
  • 엣지 개발
  • 로컬 언어·이미지 생성 애플리케이션

가격과 판매

DGX Spark 64GB는 2026년 10월 23일 금요일부터 4,999달러부터 판매된다.

Acer, ASUS, Dell, Gigabyte, HP와 MSI 제조사 파트너를 통해 제공된다. 4,999달러는 고정 가격이 아니라 시작 가격이다.

주의할 점

최대 100B와 최대 200B는 NVIDIA가 제시한 모델 지원 범위다. 같은 크기의 모든 모델이 동일한 속도와 품질로 작동한다는 의미는 아니다.

모델 양자화, 컨텍스트 길이, KV 캐시, 동시 실행 수와 프레임워크에 따라 실제 메모리 요구량과 성능은 달라질 수 있다.

WHAT CHANGED

무엇이 바뀌는가

기존 방식

로컬에서 더 큰 모델을 실행하려면 처음부터 충분한 GPU 메모리를 갖춘 시스템을 마련하거나 장비 용량을 넘는 작업은 클라우드 GPU로 옮기는 경우가 많았다.

변경된 방식

NVIDIA가 제시하는 구조는 “64GB로 시작 → 필요하면 두 번째 DGX Spark 추가 → ConnectX-7으로 연결 → 같은 소프트웨어 환경에서 클러스터 확장”이다.

실제 영향

여기부터는 DECHIVE의 해석이다. 중요한 변화는 단순히 64GB 제품이 추가됐다는 점보다 로컬 AI 환경이 한 대짜리 PC에서 필요에 따라 노드를 더하는 개인 AI 인프라로 확장된다는 점이다.

AI 개발 환경이 “클라우드만 사용”하는 방식에서 “로컬 → 로컬 클러스터 → 클라우드”로 분화될 가능성이 커진다.

장시간 실행하는 개인 AI 에이전트는 모델과 데이터를 자신의 장비에 둔 채 운영하고, 작업 규모가 커질 때 기존 시스템을 버리는 대신 노드를 추가할 수 있다.

WHAT WE CAN DO

이 변화로 무엇을 할 수 있는가

개인 로컬 AI 에이전트

코딩·연구 에이전트를 DGX Spark에서 계속 실행할 수 있다. 민감한 문서나 코드를 외부 API로 보내지 않고 로컬 모델을 이용하는 환경에도 적합하다.

로컬 RAG

개인 또는 기업 내부 문서 데이터베이스와 로컬 모델을 연결해 내부 지식 검색과 질의 시스템을 구축할 수 있다.

코딩 AI

DGX Spark가 모델 추론을 담당하고 일반 노트북이나 PC에서는 브라우저 또는 개발 환경만 사용하는 구성이 가능하다.

모델 실험과 파인튜닝

연구자와 개발자는 클라우드 GPU를 매번 생성하지 않고 로컬에서 모델 실험, 추론, 데이터 분석과 파인튜닝을 수행할 수 있다.

필요하면 두 번째 장비 추가

64GB로 충분할 때는 한 대로 사용하고 더 큰 모델, 긴 컨텍스트 또는 여러 에이전트의 동시 실행이 필요해지면 두 번째 시스템을 추가할 수 있다.

지원 가능한 모델 크기와 실제 속도는 다르다. 구입 전 자신의 모델·정밀도·컨텍스트·동시 실행 조건으로 검증해야 한다.
← AI Update 목록