엔비디아(Nvidia)는 왜 여전히 AI 대장주인가 (ft. 인텔 & 오픈AI 투자, 루빈CPX, 네오클라우드)

고평가 논란 속에서도 무너지지 않는 이유

엔비디아는 지금도 전 세계 시가총액 1위를 지키고 있다.
 
Forward PER 는 점점 낮아지고 있어도, 고평가 논란은 끊이지 않는다.
그런데도 시장은 여전히 엔비디아의 포지션을 인정하고 가격을 붙여주고 있다.
 
단순히 GPU 성능 때문이 아니라, 생태계·네트워크·공급망·유통 전략까지 얽혀 있는 종합 구조가 버텨주고 있기 때문이다.

9월 26일 기준 시가총액 순위

 
 

0. GPU를 넘어선 플랫폼 전략: CUDA + NVLink

알 사람들은 다 알겠지만, 일단 제일 기본부터 짚고 넘어가자.

엔비디아의 경쟁력은 단순히 GPU 스펙이 아니다. CUDA 생태계와 NVLink 네트워크 인프라라는 두 가지 락인 요소가 근본이다.
 
CUDA는 이미 AI 연구와 모델 학습의 표준 언어가 되어버렸다. 모델 학습·추론 대부분이 CUDA 위에서 돌아간다. 그래서 누군가 새로운 칩을 만든다고 해도, CUDA 전체를 대체할 소프트웨어 스택을 갈아엎어야 한다. 마치 안드로이드 유저가 앱스토어에 올라온 iOS 앱을 쓸 수 없는 것과 같은 구조다.
참고로, AMD는 CUDA를 대체할 ROCm이라는 플랫폼을 내놨지만 시장 점유율을 확보하지 못했다.
 
여기에 NVLink와 InfiniBand는 수십만 개 GPU를 하나처럼 묶어낼 수 있는 통신망이다.
 
결국 엔비디아는 칩만 파는 게 아니라, 비유하자면, "AI 인프라 OS"를 쥐고 있는 회사가 되어버렸다.
 
 

1. 추론 시장으로의 확장 – CPX와 ASIC의 차이

이제 엔비디아는 학습뿐 아니라 추론 시장까지 본격적으로 공략하고 있다. 2025년 9월 공개된 루빈 CPX가 그 상징적 출발점이다.

엔비디아 - 9월 10일, Rubin CPX 발표

 
AI 서비스가 본격화되면서 게임의 무게추는 학습보다 추론 쪽으로 옮겨가고 있다.
학습은 한 번 하면 끝이지만, 추론은 사용자가 채팅을 치거나 이미지를 생성하거나 음성을 변환할 때마다 발생한다. 사용자가 늘어날수록 추론 부하는 기하급수적으로 커진다. UBS에 따르면 2024년까지 AI 반도체 수요의 90%가 학습에서 비롯됐지만, 2025년에는 추론이 시장의 20% 이상을 차지할 것으로 예상된다. 2024년에 발표한 미국 시장조사 전문기관 트렉티카에서는 2025년 추론 비중을 AI 반도체 시장의 78%로 로 예상하고 있다.

AI 학습 & 추론용 시장 규모

 
이 시장을 지금까지는 ASIC 칩들이 전력 효율성을 앞세워 장악하려 했으나, 엔비디아는 CPX라는 추론 특화 GPU를 내놓으면서 균형을 흔들었다.
 
CPX의 강점은 범용성과 CUDA 호환성이다.
ASIC은 특정 LLM 디코딩 같은 워크로드에서는 효율적이지만, 범용 서비스에는 약하다. 반대로 CPX는 효율성을 확보하면서도 CUDA 생태계 그대로 쓸 수 있다. 기업 입장에서는 추가 비용 없이 그대로 엔비디아 칩을 확장해 쓸 수 있는 셈이다.
 
그래서 추론 시장도 결국 엔비디아의 것이 될 가능성이 크다. 적어도 범용성을 기반으로 한 추론 시장은 엣지나 ASIC 중심의 틈새 시장보다 훨씬 더 클 것이다. 젠슨 황이 “앞으로 학습보다 추론이 훨씬 큰 시장이 될 것”이라고 강조한 이유도 바로 여기에 있다.
 
 

2. OpenAI 10GW 락인 – 규모 그 자체가 전략이다

9월 23일, 엔비디아는 OpenAI를 전략적 파트너로 묶어냈다.

오픈AI & 엔비디아 - 1,000억 달러 규모 GPU 계약 체결

OpenAI는 단순한 모델 회사가 아니라, 전 세계 개발자와 기업들이 가장 많이 쓰는 AI API의 관문이다.
이들의 인프라가 엔비디아 칩 위에서만 돌아간다는 건 곧 AI 시대의 표준이 엔비디아라는 의미다.
 
특히 발표된 10GW 인공지능 인프라는 상징적이다. 10GW는 원자력 발전소 10기에 해당하는 전력 규모다. 이제 AI는 더 이상 소프트웨어 혁신 산업이 아니라, 에너지 집약적 하드웨어 산업으로 진화하고 있음을 보여준다.
 
OpenAI가 수백만 개의 GPU를 확보한다는 건 단순히 학습 속도가 빨라진다는 차원이 아니다.
이건 곧 표준을 고정시키는 Resource Lock-in 이라고 생각한다. 한 번 엔비디아 GPU 위에서 학습된 모델과 인프라는 쉽게 옮겨갈 수 없다. 모델 최적화, 드라이버, 프레임워크, 네트워크 아키텍처까지 모두 엔비디아 생태계와 맞물려 있기 때문이다.
 
후발주자가 새로운 칩을 내놓더라도, OpenAI가 이미 CUDA와 NVLink 기반으로 최적화된 시스템을 굴리고 있는 한, 그 표준은 바뀌지 않는다. 바꾸려면 전체 인프라와 소프트웨어 스택을 갈아엎어야 하는데, 이는 시간·비용·리스크 면에서 사실상 불가능하다.
 
즉, OpenAI가 엔비디아와 손잡은 건 단순한 협력이 아니라, AI 인프라 패권을 선점하고 후발주자의 진입 자체를 어렵게 만드는 자원 독점 선언에 가깝다고 판단된다.
 
 

3.  NVLink Fusion (5월) + Intel 투자 (9월)

이어서 2025년 5월, 엔비디아는 NVLink Fusion 컨셉을 발표했다.

5월 19일 Computex 2025 기조연설 - NVLink Fusion 발표

 
기존에는 GPU끼리만 연결되던 NVLink를 CPU·ASIC까지 열어준 것이다. 그리고 9월 18일 인텔 보통주 50억 달러(약 6.9조 원)를 직접 매입하며 단순 제휴를 넘어 지분으로까지 묶었다.

엔비디아 - 인텔 협력 발표

 
이 두 가지가 합쳐지면 의미는 명확하다. 이제 경쟁자들조차 엔비디아 네트워크 안으로 들어와야만 생존 가능하다는 것이다.
Fusion은 커스텀 ASIC이나 다른 CPU까지 붙일 수 있어, “너 칩 만들어도 돼. 하지만 NVLink 없으면 못 굴러간다”는 상황을 만들어낸다.
 
엔비디아가 CPU를 직접 다 설계할 필요가 없는 이유가 바로 여기 있다.
인텔, 미디어텍, 마벨, 아스테라랩스 같은 기업들이 엔비디아 생태계 안에서 각자의 역할을 수행한다.
 
결국 시장 전체가 NVLink라는 도로 위에서만 움직이는 구조로 재편되고 있는 것이다.
 
 

4. 스케일업과 스케일아웃 – NVLink와의 연결

여기서 엔비디아가 발표한 '스케일업' 과 '스케일아웃' 전략이 NVLink와 맞닿는다.

스케일업 vs 스케일아웃

 

• 스케일업은 한 서버 안에서 GPU, 메모리, CPU를 더 강하게 붙여 성능을 키우는 방식이다. 예컨대 엔비디아의 Grace Blackwell 슈퍼칩이 그 예다. (Grace Blackwell 슈퍼칩 = CPU(Grace)와 GPU(Blackwell)를 초고속 NVLink 로 붙여서, 한 소켓 안에서 연산 효율을 극대화함. 즉, 기존 CPU+GPU가 PCIe로 따로 연결돼 있던 구조를 “하나의 칩 수준”으로 압축)
• 스케일아웃은 여러 서버를 NVLink와 InfiniBand로 묶어 수십만 개 GPU를 하나처럼 쓰는 방식이다.

엔비디아는 둘 다 하고 있다. 그래서 Hyperscaler들이 AI 팩토리를 키우려면 엔비디아 시스템을 쓸 수밖에 없다.
 
ASIC 업체가 단일 서버에서는 효율을 낼 수 있지만, 데이터센터 스케일로 확장할 네트워킹 인프라가 없다는 점이 치명적인 한계라고 생각한다.
 
즉, 엔비디아는 이제 칩 단위가 아니라 데이터센터 전체 아키텍처를 표준화하려는 것이다. NVLink Fusion은 이 전략을 한 단계 더 확장한 것이다.
 
 

5. 유통 네트워크 – 네오클라우드 (코어위브, 네비우스, 람다, 아이렌 등) 의 의미

마지막으로, 앞단에서 R&D와 네트워크를 강화했다면 뒷단에서는 유통 네트워크를 장악하고 있다.

 
CoreWeave, Lambda, Nebius Cloud 같은 네오클라우드 업체들이 대표적이다.
이들은 Hyperscaler가 흡수하지 못하는 롱테일 수요(스타트업, SaaS, 연구기관)를 받아내고, 구형 GPU까지 SME와 B2C 시장에 풀어낸다. 그 결과 장기적으로, 엔비디아 칩은 “못 쓰는 기업이 없는 칩"이 된다.
 
즉, 엔비디아는 칩만 만드는 게 아니라, 칩의 생애주기 전체를 시장에 풀어내는 유통망까지 컨트롤한다.
 
 

정리하면, 왜 엔비디아는 AI 대장주 자리를 유지할 수밖에 없는지

• CUDA + NVLink 락인 → 기본 생태계 고정
• CPX 출시 → 추론이라는 더 큰 시장 선점
• OpenAI 락인 → AI 산업의 표준 고정
• NVLink Fusion + Intel 투자 → 경쟁자까지 네트워크에 흡수, CPU까지 네트워크 확장
• 스케일업/스케일아웃 → 데이터센터 확장 독점
• 네오클라우드 전략적 투자 → 유통까지 (간접적) 장악

다시 말해, 결국 엔비디아는 "GPU 회사”가 아니라, AI 인프라 OS로 진화했다.

그래서 지금의 밸류에이션을 단순히 버블이라고만 말하기 어렵다. 이 정도 포지션을 가진 기업이 과연 또 있을까 싶다.
 
 

(Disclaimer: 본 글은 투자 권유 목적이 아니며, 작성자의 개인적인 의견을 기반으로 작성되었습니다. 투자로 인한 손실에 대한 책임은 전적으로 투자자 본인에게 있음을 알립니다.)