DELL PRO MAX · NVIDIA GB10 / GB300
해외에 데이터를 둘 수 없는 조직을 위한 온프레미스 AI
AI in a Box
최첨단 AI를 쓰고 싶지만 데이터 주권, 망분리, 국외 이전 규제가 막고 있습니까.
AI in a Box는 NVIDIA GB10 또는 GB300을 탑재한 Dell Pro Max를 기반으로 GenAI와 LLM 등 까다로운 AI 워크로드를 해외 클라우드가 아닌 로컬에서 처리하는 컴팩트형 고성능 AI 머신입니다.
128GB
LPDDR5X 통합 메모리
200억
매개변수 모델 로컬 추론
200GbE
ConnectX-7 클러스터링
LOCAL INFERENCE
ARCHNVIDIA Grace-Blackwell
AI in a Box Lite
GB10
GB10을 탑재한 Dell Pro MAX
AI in a Box Ultra
GB300
GB300을 탑재한 Dell Pro MAX · 상세 사양 TBD
THE PROBLEM
첨단 AI 사용을 위해 클라우드를 쓰고 싶어도, 못 올리는 데이터가 있습니다.
넷킬러는 4,000여 조직의 클라우드 전환을 이끌며 현장의 공통된 고민을 목격했습니다. 바로 ‘데이터 규제’입니다. 혁신적인 클라우드 AI를 도입하고 싶어도 핵심 데이터는 사내망을 벗어날 수 없기에, 수많은 기업들이 AI 도입의 문턱에서 멈춰 서 있습니다.
문제 1
국외 데이터 이전 제한
개인정보보호법상 국외 이전 요건, 데이터 소재지로 해외 LLM API 사용 불가
문제 3
학습 데이터 활용 불안
외부 AI 서비스에 올린 프롬프트와 문서가 어디에 저장되고 어떻게 쓰이는지 모름
문제 2
망분리 · 폐쇄망 의무
금융, 공공, 방산 조직은 업무망이 인터넷과 분리되어 SaaS AI 자체가 접근 불가
문제 4
감사 · 인증 대응
ISMS-P, ISO 27001, 산업별 감독규정 심사에서 AI 데이터 처리 경로를 문서로 입증해야 함
AI DATA SOVEREIGNTY
데이터 주권, 네 가지 층에서 모두 사내에 둡니다.
“데이터는 로컬에”라는 문구만으로는 감사를 못 통과합니다. AI 시스템의 어느 계층이 어디에 있는지 층별로 답해야 합니다. AI in a Box의 답은 전부 같습니다. 여기, 이 박스 안.
해결 1
데이터 소재지
원본 문서, 벡터 인덱스, 대화 기록이 모두 사내 서버 NVMe에 저장됩니다. 데이터 소재지 확인서를 발급합니다.
국외 이전 0건 · 소재지 증명 가능
해결 3
접근 · 권한 주권
사내 디렉터리(Google Workspace 또는 AD) 권한을 그대로 상속합니다. 볼 수 없는 문서는 AI도 답하지 않습니다. 모든 질의가 감사 로그로 남습니다.
SSO · 문서 권한 상속 · 전 질의 로깅
해결 2
모델 주권
오픈 가중치 모델을 사내에서 실행합니다. 외부 API 호출이 없으니 프롬프트가 학습에 쓰일 경로 자체가 없습니다. 모델 버전은 조직이 고정합니다.
외부 API 0건 · 모델 버전 자체 통제
해결 4
운영 주권
인터넷 없이 운영됩니다. 업데이트는 넷킬러가 검증한 오프라인 패키지로 반입합니다. 서비스 종료, 약관 변경, 리전 이전에 흔들리지 않습니다.
폐쇄망 운영 · 오프라인 업데이트 · TPM 2.0
방대한 출력. 작은 설치 공간.
컴팩트한 디자인으로 탁월한 성능을 제공하는 이 시스템은 최첨단 NVIDIA Grace-Blackwell 아키텍처를 갖추고 있습니다. 레이턴시가 매우 짧은 NVLink-C2C와 128GB LPDDR5X 통합 메모리를 통해 CPU와 GPU 간의 데이터 공유를 간소화하여 효율성을 높이고 GenAI 및 LLM 등 까다로운 AI 모델을 지원합니다.
ARCHITECTURE
NVIDIA Grace-Blackwell
최첨단 아키텍처를 갖춘 컴팩트 시스템.
INTERCONNECT
NVLink-C2C
레이턴시가 매우 짧은 연결로 CPU와 GPU 간의 데이터 공유를 간소화합니다.
MEMORY
128GB LPDDR5X 통합 메모리
GenAI 및 LLM 등 까다로운 AI 모델을 지원합니다.
200억
PARAMETERS · LOCAL
강력한 로컬 AI 솔루션
최대 200억 개의 매개변수를 지원하는 대규모 모델 로컬 추론을 기반으로 AI 및 데이터 사이언스 워크로드를 손쉽게 처리할 수 있습니다.
KEY BENEFITS
확장하고, 만들고, 안전하게 제어합니다
확장
Connect X-7 포트를 활용하여 2개의 GB10을 탑재한 Dell Pro Max에 연결하여 대규모 모델 및 워크로드를 처리할 수 있습니다.
제조
NVIDIA AI 소프트웨어 스택은 개발자에게 AI 워크플로를 구축하고 실행할 수 있는 툴을 제공합니다.
안전
데이터는 외부 위치로 전송할 필요 없이 로컬에 유지됩니다.
제어
자체 AI 클라우드 — 데이터 센터 컴퓨팅이나 클라우드 인스턴스 비용에 대한 경합이 없습니다.
SCALE OUT
성공을 위한 확장
기존 멀티 GPU 설정에 비해 더 빠른 성능으로 확장 가능한 추론을 통해 효율성을 한 차원 더 높일 수 있습니다. ConnectX-7 SmartNIC 및 200GbE 연결 기능을 갖춘 이 시스템은 노드 전반에서 원활한 고속 클러스터링을 지원하여 대규모 모델을 효율적으로 실행할 수 있습니다. RDMA(Remote Direct Memory Access) 및 GPUDirect를 사용하면 CPU와 GPU가 서로의 메모리에 직접 액세스할 수 있으므로 오버헤드가 제거되고 안전한 공유 워크로드가 지원됩니다.
CONNECTX-7 SMARTNIC200GbERDMAGPUDIRECT
SOFTWARE
원활한 성능
안정적이고 완벽하게 테스트를 거친 환경에서는 AI, 머신 러닝 및 분석 워크로드를 효율적으로 실행하여 고급 애플리케이션의 신뢰성과 생산성을 극대화합니다. Ubuntu Linux를 기반으로 하는 NVIDIA DGX OS는 시스템별 최적화 및 추가 드라이버로 최적화되어 효율성을 간소화합니다.
AI머신 러닝분석 워크로드
OPERATING SYSTEM
NVIDIA DGX OS
시스템별 최적화 및 추가 드라이버로 최적화되어 효율성을 간소화합니다.
BASE
Ubuntu Linux
EDGE AI · SECURITY
엣지에서
안전하게 혁신
엣지는 데이터가 현실이 되는 곳입니다. TPM 2.0, 신속한 AI 데이터 수집 및 엣지에서 안전한 분석을 통해 더 빠르게 발견하고 워크플로를 간소화하여 효과적으로 혁신할 수 있습니다. 소스에서 작업하면 숨겨진 효율성을 발견하고, 더 나은 경험을 하며 진정한 발전을 촉진하는 솔루션을 제공할 수 있습니다.
🔒TPM 2.0
소스에서 처리신속한 AI 데이터 수집안전한 엣지 분석
DELL PRO MAX·GB10
AI in a Box로 온프레미스 AI를 시작하세요
데이터는 로컬에, 컴퓨팅은 책상 위에