NVIDIA, 여러 컴퓨터에 AI 작업을 나누는 PAIR 1.0 정식 출시
NVIDIA PAIR 1.0은 여러 컴퓨터에 독립적인 로컬 AI 추론 요청을 분배하는 무료 오픈소스 도구다. Windows·Linux·macOS와 llama.cpp·GGUF 모델을 지원하며, GPU 메모리를 합치거나 하나의 모델을 여러 PC에 분할 실행하지는 않는다.
UPDATE DETAIL
여러 컴퓨터를 연결하면 AI도 더 효율적으로 실행할 수 있을까?
NVIDIA가 여러 컴퓨터에 로컬 AI 추론 요청을 분배하는 Personal AI Router(PAIR) 1.0을 정식 출시했다. Windows, Linux, macOS를 지원하며, 이번 버전에는 llama.cpp와 GGUF 모델 지원이 추가됐다.
중요한 점은 PAIR가 여러 컴퓨터의 GPU 메모리를 합치는 기술이 아니라는 것이다. 하나의 AI 작업을 여러 컴퓨터가 공동으로 계산하는 것이 아니라, 서로 독립적인 요청을 각 컴퓨터에 나누어 처리하는 방식이다.
AI를 내 컴퓨터에서 실행한다는 것
우리가 일반적으로 사용하는 AI 서비스는 질문을 외부 서버로 전송하고, 서버에서 처리한 결과를 다시 받아오는 방식이다.
반면 로컬 AI는 모델을 자신의 컴퓨터에 설치하고 직접 실행한다.
예를 들어 집에 있는 데스크톱에 언어모델을 설치하면, 해당 컴퓨터의 GPU와 메모리를 이용해 문서를 요약하거나 코드를 생성할 수 있다.
그런데 여기서 문제가 하나 생긴다.
컴퓨터가 여러 대라면 어떨까?
데스크톱 한 대는 AI 요청을 처리하느라 바쁘지만, 옆에 있는 다른 컴퓨터는 아무 작업도 하지 않고 있을 수 있다.
각 컴퓨터에 모델을 설치해도 AI 애플리케이션이 어느 컴퓨터로 요청을 보내야 하는지 직접 관리해야 한다면 활용하기가 번거롭다.
NVIDIA의 PAIR는 이러한 문제를 해결하기 위한 도구다.
PAIR는 무엇인가?
PAIR는 Personal AI Router의 약자다.
이름 그대로 개인이 보유한 여러 컴퓨터 사이에서 AI 추론 요청을 전달하고 분배하는 역할을 한다.
같은 로컬 네트워크에 연결된 호환 컴퓨터들을 찾아 연결하고, 각 컴퓨터에서 실행할 수 있는 모델과 작업 상태를 참고해 요청을 전달한다.
예를 들어 세 가지 AI 작업이 동시에 실행된다고 가정해 보자.
각 컴퓨터에 준비된 모델에 따라 문서 요약 요청은 첫 번째 컴퓨터에서, 코드 생성 요청은 두 번째 컴퓨터에서, 정보 분석 요청은 세 번째 컴퓨터에서 처리될 수 있다. 실제 요청의 전달 대상은 실행 가능한 모델과 작업 상태 등을 바탕으로 PAIR가 자동으로 선택한다.
사용자는 여러 컴퓨터의 주소를 일일이 선택하는 대신, PAIR가 제공하는 엔진별 로컬 API 엔드포인트로 요청을 보낼 수 있다.
단, 요청을 처리할 컴퓨터에는 해당 요청을 실행할 수 있는 추론 엔진과 모델이 준비돼 있어야 한다. 같은 모델의 요청을 여러 장치에 분배하려면 그 모델을 각 장치에 준비해야 한다.
이번 1.0 버전에서 달라진 점
PAIR가 이번에 처음 등장한 것은 아니다. 기존에는 베타 형태로 제공됐으며, 이번 발표를 통해 1.0 정식 버전으로 전환됐다.
주요 변화는 다음과 같다.
1. llama.cpp 지원
기존 Ollama와 LM Studio에 더해 llama.cpp를 직접 설치하고 관리할 수 있도록 지원 범위가 확대됐다.
llama.cpp는 다양한 하드웨어에서 언어모델을 실행할 수 있도록 개발된 오픈소스 추론 엔진이다.
개발자는 호환되는 GGUF 형식의 모델을 내려받아 로컬 환경에서 실행할 수 있다.
다만 GGUF 형식이라고 해서 모든 모델이 모든 컴퓨터에서 실행되는 것은 아니다. 모델 크기와 사용 가능한 메모리, 하드웨어 지원 여부를 확인해야 한다.
2. 서로 다른 운영체제 연결
PAIR는 Windows, Linux, macOS 환경을 지원한다.
따라서 모든 컴퓨터를 동일한 운영체제로 구성할 필요는 없다.
다만 운영체제가 지원된다는 사실과 각 컴퓨터의 GPU가 특정 모델을 원활하게 실행할 수 있다는 사실은 구분해야 한다.
3. 로컬 AI 애플리케이션 연결
PAIR는 호환 API를 통해 로컬 AI 애플리케이션이 추론 요청을 전달할 수 있도록 한다.
앱이 여러 추론 서버를 개별적으로 관리하는 대신 PAIR를 요청 전달 지점으로 사용할 수 있다.
단, API 형식이 호환된다고 해서 모든 앱에서 추가 설정 없이 작동하는 것은 아니다.
4. 터미널 및 장치 관리 기능
화면이 없는 컴퓨터에서도 관리할 수 있도록 터미널 환경이 개선됐다.
장치 연결 상태와 모델, 추론 작업 등을 확인하는 데 활용할 수 있다.
컴퓨터 두 대를 연결하면 GPU 성능도 두 배가 될까?
여기서 가장 중요한 오해를 바로잡아야 한다.
PAIR는 GPU 메모리를 합치는 프로그램이 아니다.
예를 들어 VRAM이 12GB인 컴퓨터 두 대가 있다고 가정해 보자.
두 컴퓨터를 PAIR로 연결했다고 해서 24GB VRAM이 필요한 하나의 모델을 실행할 수 있게 되는 것은 아니다.
PAIR가 수행하는 것은 요청 단위의 분산 처리다.
- 여러 PC 연결: 지원
- 여러 독립 요청 분배: 지원
- 로컬 모델 실행 관리: 지원
- GPU 메모리 합치기: 지원하지 않음
- 하나의 모델을 여러 PC에 분할 실행: 지원하지 않음
- 모든 작업의 속도 향상 보장: 보장하지 않음
이 차이는 실제 사용 환경에서 중요하다.
AI 요청이 동시에 여러 개 발생하는 환경에서는 유용할 수 있지만, 하나의 거대한 모델을 실행하려는 목적이라면 다른 기술이 필요하다.
무료로 사용할 수 있을까?
PAIR 프로그램 자체는 무료 오픈소스로 제공되며 Apache License 2.0이 적용된다.
별도의 PAIR 월 구독 요금은 없다.
하지만 로컬 AI를 실행하려면 컴퓨터, GPU, 전력, 저장 공간이 필요하다. 사용하려는 AI 모델의 라이선스도 별도로 확인해야 한다.
따라서 PAIR가 무료라는 것과 로컬 AI 운영 비용이 전혀 들지 않는다는 것은 다른 의미다.
실제로 어떻게 사용할 수 있을까?
가장 이해하기 쉬운 예시는 여러 AI 에이전트를 동시에 운영하는 환경이다.
예를 들어 한 에이전트는 문서를 분석하고, 다른 에이전트는 코드를 작성하며, 또 다른 에이전트는 로컬 지식 저장소에서 정보를 검색한다고 가정해 보자.
이 작업들이 서로 독립적인 추론 요청을 발생시킨다면 PAIR를 이용해 여러 컴퓨터로 분배하는 구조를 만들 수 있다.
실제로 시험하려면 NVIDIA 공식 사이트에서 운영체제에 맞는 PAIR를 설치하고, Ollama·LM Studio·llama.cpp 중 호환되는 추론 엔진과 모델을 준비한다.
이후 같은 신뢰할 수 있는 네트워크에 연결된 다른 컴퓨터에 PAIR를 설치하고, PIN을 통해 장치를 연결한다.
마지막으로 애플리케이션을 실행하는 컴퓨터에서도 PAIR를 실행한 뒤, Endpoints 화면에서 엔진별 로컬 API 주소를 확인하고 애플리케이션에 연결하면 된다.
여기서 중요한 검증은 단순히 컴퓨터가 연결됐는지 확인하는 것이 아니다.
각 요청이 실제로 어느 컴퓨터에서 처리됐는지, 처리 시간은 얼마나 걸렸는지, 오류가 발생했을 때 어떻게 복구되는지까지 확인해야 한다.
보안과 개인정보는 어떻게 될까?
로컬 AI의 장점 중 하나는 외부 클라우드 모델을 호출하지 않고도 작업을 수행하도록 구성할 수 있다는 점이다.
그러나 PAIR를 설치했다고 해서 모든 데이터가 자동으로 안전해지는 것은 아니다.
컴퓨터 사이의 연결은 신뢰할 수 있는 로컬 네트워크에서 구성해야 한다. AI 애플리케이션이 별도의 외부 API를 호출한다면 해당 데이터 흐름도 확인해야 한다.
특히 개인정보나 내부 문서를 처리하는 환경에서는 모델의 실행 위치와 네트워크 접근 권한을 점검해야 한다.
DECHIVE의 관점 — AI 인프라의 확장은 무엇으로 검증할까?
이번 발표는 새로운 AI 모델의 성능을 높인 업데이트가 아니다.
이미 보유한 여러 컴퓨터를 로컬 AI 실행 환경으로 활용할 수 있도록 운영 방식을 개선한 업데이트다.
여러 컴퓨터를 연결하면 사용할 수 있는 자원이 늘어나는 것은 사실이다.
하지만 그것이 반드시 더 빠른 응답이나 더 큰 모델의 실행으로 이어지는 것은 아니다.
컴퓨터가 세 대라고 해서 성능이 세 배가 되는 것도 아니다.
실제 효과는 요청의 수, 각 장치의 처리 성능, 모델의 크기, 네트워크 상태, 작업 분배 방식에 따라 달라진다.
연결할 수 있다는 것과 효율적으로 사용할 수 있다는 것은 다른 문제다.
PAIR의 가치를 판단하려면 연결된 장치의 숫자보다 실제 요청이 어떻게 처리됐는지를 확인해야 한다.
공식 자료
이번 업데이트의 핵심
NVIDIA PAIR 1.0은 AI 모델 자체를 더 똑똑하게 만드는 기술이 아니다.
여러 컴퓨터에 흩어진 로컬 AI 실행 자원을 보다 편리하게 활용하도록 만드는 기술이다.
기존에는 사용자가 직접 여러 컴퓨터의 모델과 API 주소를 관리해야 했다면, PAIR는 그 사이에서 요청을 전달하고 분배하는 역할을 맡는다.
NVIDIA의 공식 릴리스 노트에서도 이번 1.0 버전의 주요 변화로 llama.cpp, GGUF 모델 다운로드, RTX Spark 지원을 명시하고 있다.
하지만 가장 중요한 검증 기준은 여전히 같다.
“컴퓨터를 여러 대 연결했는가?”가 아니라 “실제로 AI 작업을 더 효율적으로 처리했는가?”
이것이 오늘 DECHIVE AI Update에 남길 결론이다.
WHAT CHANGED
무엇이 바뀌는가
기존에는 사용자가 여러 컴퓨터의 모델과 API 주소를 개별적으로 관리했다면, PAIR는 엔진별 로컬 API 주소를 통해 호환 장치로 독립적인 추론 요청을 전달한다.
1.0에서는 기존 Ollama·LM Studio에 더해 llama.cpp 설치·관리와 호환 GGUF 모델 다운로드를 지원한다. RTX Spark 지원과 터미널 관리 화면도 개선됐다.
GPU 메모리를 합치거나 하나의 모델을 여러 PC에 분할 실행하는 기능은 아니다. 동시에 발생하는 독립 요청을 분배하는 데 의미가 있으며, 모든 작업의 속도 향상을 보장하지 않는다.
WHAT WE CAN DO
이 변화로 무엇을 할 수 있는가
문서 요약·코드 생성·정보 분석처럼 독립적인 추론 요청을 발생시키는 로컬 AI 앱이나 에이전트를 여러 컴퓨터의 자원으로 운영할 수 있다.
신뢰할 수 있는 로컬 네트워크에서 장치를 PIN으로 연결하고, 요청을 처리할 장치에 호환 엔진과 모델을 준비한다. 같은 모델의 요청을 분배하려면 여러 장치에 그 모델을 준비해야 한다.
애플리케이션을 실행하는 컴퓨터의 PAIR Endpoints 화면에서 해당 엔진의 주소를 복사해 연결한다. Jobs 화면에서 실제 실행 장치를 확인하고, 처리 시간과 오류 복구까지 검증한다.