엔비디아, 팔란티어와 소버린 AI 스택 구축
공급망 운영체제를 AI로 전환, 독점 데이터 통제권 유지
한눈에 보기
- 엔비디아와 팔란티어는 공급망의 복잡성을 극복하기 위해 엔비디아의 수백만 개 부품과 수천 개 공급업체로 구성된 세계 최대 규모 공급망을 기반으로, 팔란티어 온톨로지와 네모트론 오픈 모델을 통합한 소버린 AI 스택을 구축했다.
- 이 스택은 엔비디아의 자체 운영 데이터인 네모 데이터 라이브러리로 맞춤화된 사후 학습 모델을 활용해, 공급 제약을 조기에 식별하고 대안을 평가하는 동시에 최종 의사결정 권한을 전문가가 유지하는 구조로, 의사결정의 정확성과 신속성을 동시에 높였다.
- 공급망의 핵심 요소인 자재 할당, 생산 전 과정의 영향 분석, 운영 지식의 지속적 반영을 가능하게 하며, 랙 스케일 AI 시스템을 위한 130만 개 부품 공급 조율까지 포함해 실제 제조 환경에서의 실행 가능성을 입증했다.
엔비디아(NVIDIA)와 팔란티어 테크놀로지스(Palantir Technologies)는 엔비디아 자체 공급망을 대상으로 소버린 인텔리전스 기반의 AI 스택을 구축했다. 이번 협력은 팔란티어 온톨로지(Ontology)를 기반으로 엔비디아 네모트론(Nemotron) 오픈 모델을 팔란티어 파운드리(Palantir Foundry)와 인공지능 플랫폼(AI Platform, AIP)에 통합한 결과다. 이 AI 스택은 공급망의 가시성을 전례 없는 수준으로 높이고, 제약 요소를 조기에 식별하며, 운영 전문성을 체계화하는 것을 목표로 한다.
엔비디아는 수백만 개의 부품과 수천 개의 공급업체, 전 세계 제조 파트너 네트워크로 구성된 세계에서 가장 복잡한 공급망 중 하나를 운영하고 있다. 이 공급망은 웨이퍼에서 토큰까지의 전 과정을 추론하고 계획하며 오케스트레이션하는 시스템으로, AI 팩토리는 지금까지 구축된 가장 복잡한 시스템 중 하나다. 엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 공급망이 실물경제의 운영체제이며, AI 팩토리는 복잡한 시스템이라고 설명했다. 팔란티어 공동 창업자 겸 CEO 알렉스 카프(Alex Karp)는 엔비디아가 세계에서 가장 가치가 높고 정교하며 복잡한 공급망을 보유하고 있다고 평가하며, 이번 협력이 소버린 AI 혁명에서 핵심 역할을 한다고 강조했다.
이번 AI 스택의 핵심은 독점 데이터에 대한 통제권과 소유권을 유지하면서도 고도화된 의사결정을 가능하게 하는 점이다. 팔란티어 AIP 내에서 엔비디아 cuOpt™ 소프트웨어는 최적화와 시나리오 계획 기능을 제공해 팀이 공급 제약을 모델링하고, 여러 대안의 장단점을 평가하며, 자원 할당 결정이 운영에 미치는 영향을 파악할 수 있도록 한다. 사후 학습된 엔비디아 네모트론 오픈 모델은 대응 방안을 추천하고 대안 간 장단점을 설명하며 새롭게 발생하는 위험을 식별한다.
최종 의사결정에 대한 통제권은 공급망 전문가가 유지한다. 이는 AI가 의사결정을 대체하는 것이 아니라 전문가의 판단을 보완하는 구조다. 엔비디아 공급망 팀은 통합 관제 환경을 통해 소유 시간(Time of Ownership)을 단축할 수 있다. 우선 부품이 공급망을 얼마나 빠르게 이동하는지에 영향을 미치는 자재 할당 의사결정부터 적용된다. 시스템은 잠재적인 제약 요인을 조기에 파악하고, 대안을 신속하게 평가하며, 생산 전 과정에 미치는 영향을 바탕으로 자재를 할당할 수 있도록 지원한다.
이전과의 차이점은 데이터와 모델의 통제 구조에 있다. 기존 범용 모델은 조직의 고유한 가치사슬, 공급업체 네트워크, 운영 제약, 의사결정 기준을 충분히 반영하기 어렵다. 이번 구축은 엔비디아 네모 데이터 라이브러리(NeMo™ Data Libraries)를 활용해 준비하고 보강한 자체 운영 데이터로 네모트론 오픈 모델을 맞춤화함으로써, 모델과 데이터, 배포 환경에 대한 통제권을 유지하면서 실제 비즈니스 운영 방식을 반영하는 AI를 구축할 수 있도록 했다.
엔비디아 네모 오토모델(AutoModel)과 네모 RL 라이브러리가 통합된 팔란티어 오토파일럿(Autopilot)은 피드백을 실제 운영에 반영해 모델이 지속적으로 개선될 수 있도록 지원한다. 이를 통해 운영 지식을 보존하고, 실제 결과를 바탕으로 의사결정을 평가하며, 워크플로우를 지원하는 특화된 AI 모델을 지속적으로 개선하는 거버넌스가 적용된 학습 루프를 구축한다. 양사는 엔비디아 적용 사례에서 얻은 경험을 확장해 기업이 더욱 회복탄력적이고 신속하게 대응하며 지능적인 공급망을 구축할 수 있도록 지원할 계획이다. 제조, 에너지, 헬스케어, 자동차, 항공우주 등 다양한 산업에서 이 접근 방식은 기업이 독점 데이터에 대한 통제권과 소유권을 유지하면서 분산된 운영 데이터를 활용해 신속하고 안정적인 의사결정을 내릴 수 있도록 한다.
SAIOS는 델 테크놀로지스(Dell Technologies)와 시스코(Cisco)의 지원을 받는다. 이번 협력의 기반이 되는 AI 스택과 다양한 산업에서의 활용 사례는 팔란티어의 AIP콘(AIPCon) 11 콘퍼런스에서 자세히 소개됐다. 농업, 제조, 제약, 리테일, 기술 산업과 정부 기관 등 복잡한 산업 환경의 조직들은 이 AI 스택을 활용해 각자의 고유한 공급망 운영을 최적화할 수 있다.
랙 스케일 AI 시스템을 생산하려면 컴퓨팅, 메모리, 네트워킹, 전력, 냉각, 기계 부품 등 각 구성 요소의 공급이 필요한 시점에 맞춰 조율돼야 한다. AI 인프라에 대한 수요가 빠르게 증가함에 따라 엔비디아는 생태계 파트너들과 긴밀히 협력해 각 엔비디아 베라 루빈(Vera Rubin) 랙에 필요한 130만 개의 부품 공급을 확보하고 AI 인프라 확장 속도를 높이고 있다.
한국 독자를 위한 맥락
엔비디아는 웨이퍼부터 토큰까지의 전 과정을 추론하고 계획하는 세계에서 가장 복잡한 공급망을 운영하고 있다. 이 공급망은 수백만 개의 부품과 수천 개의 공급업체, 전 세계 제조 파트너 네트워크로 구성되며, 단순한 물류를 넘어 실물경제의 운영체제로 기능한다. 이 복잡성을 해결하기 위해 엔비디아는 자체 데이터와 모델을 기반으로 한 독자적인 인프라 구축이 필수적이었다. 기존 범용 AI 모델은 조직의 고유한 가치사슬이나 운영 제약을 충분히 반영하지 못하는 한계가 있었고, 이는 의사결정의 정확성과 신속성에 직접적인 영향을 미쳤다.
이러한 문제를 해결하기 위해 엔비디아는 팔란티어와 협력해 소버린 인텔리전스 기반의 AI 스택을 구축했다. 핵심은 팔란티어의 온톨로지 플랫폼과 엔비디아의 네모트론 오픈 모델을 통합해, 공급망의 가시성을 전례 없이 높이는 동시에 데이터와 모델의 통제권을 엔비디아가 직접 유지하는 구조를 마련한 점이다. 이는 외부 AI 서비스에 의존하는 방식이 아니라, 조직의 고유한 운영 방식을 그대로 반영하는 방식이다.
이 스택의 핵심 기능 중 하나는 사후 학습된 네모트론 모델이 공급 제약을 조기에 식별하고, 대응 방안을 추천하는 것이다. 예를 들어, 특정 부품의 공급 지연이 예상될 경우, 시나리오 계획 기능을 통해 여러 대안을 평가하고, 자원 할당 결정이 생산에 미치는 영향을 분석한다. 이 과정에서 최종 의사결정은 공급망 전문가가 수행하며, AI는 전문가의 판단을 보완하는 역할을 한다. 이는 AI가 인간의 판단을 대체하는 것이 아니라, 복잡한 데이터를 기반으로 의사결정을 지원하는 구조다.
또한, 팔란티어 파운드리와 AIP 플랫폼 내에서 구동되는 엔비디아 cuOpt™ 소프트웨어는 최적화와 시나리오 계획을 가능하게 하며, 공급망의 핵심 지표인 '소유 시간'을 단축하는 데 기여한다. 부품이 공급망을 얼마나 빠르게 이동하는지에 영향을 주는 자재 할당 의사결정부터 시작해, 실제 운영 데이터를 기반으로 지속적으로 개선되는 학습 루프를 구축한다. 이는 단순한 데이터 분석을 넘어서, 실제 운영 결과를 반영해 모델이 스스로 발전하는 시스템이다.
이러한 시스템은 랙 스케일 AI 시스템을 생산하는 데 필수적인 130만 개 부품의 공급 조율을 가능하게 한다. AI 인프라 수요가 급증하는 상황에서, 공급망의 복잡성과 속도를 동시에 해결해야 하는 과제가 존재했고, 이는 엔비디아가 생태계 파트너들과 긴밀히 협력해 해결한 사례다. 이는 단순한 기술 통합을 넘어서, 실제 제조 환경에서의 실행 가능성을 입증한 사례로, 다른 산업으로의 확장 가능성도 높다.
이번 협력의 결과는 제조, 에너지, 헬스케어, 자동차, 항공우주 등 다양한 산업에 적용될 수 있다. 각 산업은 고유한 공급망 운영 방식을 가지고 있으며, 이 AI 스택은 독점 데이터를 보유하면서도 분산된 운영 데이터를 활용해 신속하고 안정적인 의사결정을 내릴 수 있도록 한다. 특히, 팔란티어 AIP콘 11 콘퍼런스를 통해 공개된 사례들은 이 시스템이 실제 산업 환경에서 어떤 방식으로 최적화를 이끌어낼 수 있는지를 구체적으로 보여준다.
결국 이 협력은 단순한 기술 제휴를 넘어서, 복잡한 공급망을 운영하는 기업이 스스로 데이터와 의사결정 권한을 확보하면서도 AI의 능력을 극대화하는 새로운 모델을 제시한다.