엔비디아가 있는데 왜 한국 AI 반도체에 수천억이 몰릴까?
AI 반도체 시장을 이야기할 때 가장 먼저 떠오르는 기업은 엔비디아다. AI 모델을 학습시키는 GPU 시장에서 막강한 영향력을 갖고 있고, CUDA를 중심으로 형성된 소프트웨어 생태계까지 구축했다. 이제 엔비디아의 경쟁력은 좋은 GPU 하나가 아니라 반도체와 소프트웨어, 서버와 네트워크, 수많은 개발자가 연결된 하나의 거대한 플랫폼에 가깝다.
그런데 최근 한국에서는 얼핏 이해하기 어려운 일이 벌어지고 있다. AI 반도체 스타트업 리벨리온은 2026년 3월 4억 달러, 약 6,000억 원의 투자를 유치하면서 약 3조5,000억 원의 기업가치를 인정받았다. 모빌린트도 700억 원 규모의 시리즈C 투자를 받았고, 하이퍼엑셀에는 게임회사 크래프톤이 약 500억 원을 투자했다. 리벨리온 한 회사에 대한 기대라기보다 여러 AI 반도체 스타트업으로 큰돈이 동시에 움직이고 있는 것이다.
여기서 질문이 생긴다. 엔비디아가 이렇게 강한데 투자자들은 왜 또 다른 AI 반도체에 수백억, 수천억 원을 넣는 것일까. 한국의 작은 반도체 기업들이 정말 엔비디아의 아성을 깰 수 있다고 생각하는 것일까.
엔비디아 독점의 성벽: GPU 칩을 넘어선 CUDA 생태계 이해
한국 AI 반도체의 가능성을 보기 전에 먼저 인정해야 할 것이 있다. 엔비디아를 정면으로 무너뜨리는 일은 쉽지 않다는 점이다. 엔비디아의 가장 강력한 무기는 GPU의 연산 성능만이 아니다. 오랫동안 축적된 CUDA 생태계와 개발도구, AI 프레임워크와의 호환성, 서버와 네트워크까지 연결된 인프라가 함께 움직인다.
새로운 AI 반도체가 등장했다고 해서 기업들이 기존 시스템을 바로 바꾸기 어려운 이유도 여기에 있다. 칩의 성능이 조금 좋거나 가격이 조금 싸다는 것만으로는 부족하다. 개발자가 쉽게 사용할 수 있어야 하고, 기존 AI 모델이 안정적으로 돌아가야 하며, 대규모 서버에서도 문제가 없어야 한다.
따라서 한국 AI 반도체 기업을 ‘제2의 엔비디아’ 후보로만 바라보면 오히려 중요한 변화를 놓칠 수 있다. 이들이 노리는 시장을 따라가 보면 엔비디아와 똑같은 싸움을 하는 것이 아니라는 사실이 보인다.
AI 시장의 대전환: AI 학습 경쟁에서 ‘초저가 AI 추론’ 경쟁으로
AI 반도체 시장에는 크게 두 종류의 연산이 있다. 하나는 방대한 데이터를 이용해 AI 모델을 만드는 학습(Training)이고, 다른 하나는 만들어진 AI가 실제 사용자의 요청에 답하는 추론(Inference)이다.
생성형 AI가 확산되면서 추론의 경제성이 점점 중요해지고 있다. 모델은 한 번 학습했다고 끝나지만 서비스가 시작되면 사용자가 질문할 때마다 연산이 발생한다. 이용자가 수백만 명으로 늘어나고 AI가 문장뿐 아니라 이미지와 영상, 게임 캐릭터, 로봇과 각종 기업 서비스에 들어가기 시작하면 추론은 끊임없이 발생한다.
이때 기업의 질문도 달라진다. 가장 빠른 반도체가 무엇인지뿐 아니라 같은 AI 서비스를 얼마나 적은 전력과 비용으로 운영할 수 있는가가 중요해진다. AI가 널리 사용될수록 추론 비용은 기술 문제가 아니라 기업의 원가 문제가 된다.
바로 이 틈에서 한국 AI 반도체 스타트업들이 서로 다른 길을 찾고 있다.
리벨리온: 데이터센터 AI 추론 시장의 비용 절감 전략
리벨리온은 세 회사 가운데 엔비디아와 가장 가까운 전장에서 경쟁한다. 대규모 데이터센터의 AI 추론 시장이다. 2026년 3월 4억 달러를 유치하면서 기업가치 약 23억4,000만 달러를 인정받았고, 누적 조달자금은 8억5,000만 달러에 이르렀다(연합뉴스). 회사는 이 자금을 미국 시장 진출 등에 활용할 계획이며 미국 고객들과 PoC도 진행하고 있다고 밝혔다.
그러나 투자금액보다 눈여겨볼 부분은 리벨리온의 움직임이다. 단순히 NPU 칩 하나를 만들어 성능을 보여주는 데서 멈추지 않고 실제 AI 서비스가 돌아가는 인프라까지 사업 영역을 넓히고 있다.
최근에는 AI 모델 경량화와 추론 최적화 기술을 보유한 스퀴즈비츠를 인수했다. 리벨리온은 이를 통해 NPU 하드웨어에서 소프트웨어 최적화, 모델 실행과 결과 반환까지 이어지는 추론 서빙을 하나의 플랫폼으로 제공하겠다는 계획이다. 결국 AI 반도체 경쟁이 칩 하나의 성능표만으로 끝나지 않는다는 사실을 리벨리온 스스로 보여주고 있는 셈이다.
모빌린트: 데이터센터 밖 온디바이스 엣지 AI 시장 공략
모빌린트가 선택한 전장은 다르다. 공장과 CCTV, 로봇, 각종 기기처럼 데이터가 발생하는 현장에서 바로 AI를 실행하는 엣지 AI 시장이다.
이 시장에서는 질문 자체가 달라진다. 엔비디아의 최고급 GPU보다 빠른가를 따지기 전에 이 일을 처리하기 위해 굳이 거대한 GPU 서버가 필요한가를 물어야 한다.
공장의 카메라가 불량품을 찾아내거나 CCTV가 사람과 차량을 구분하고 로봇이 주변 사물을 인식하는 작업을 생각해 볼 수 있다. 데이터를 매번 멀리 떨어진 데이터센터로 보내 결과를 받아오는 것보다 현장에서 바로 처리하는 편이 유리한 경우가 있다. 이때는 작은 전력 소비와 낮은 지연시간, 가격과 크기가 중요한 경쟁력이 된다.
모빌린트는 700억 원 규모의 시리즈C 투자를 유치했다.(ZDNet Korea)투자 과정에서도 고성능·저전력 NPU 기술뿐 아니라 산업현장에서의 사업화 성과와 데이터센터 의존도를 낮추는 엣지 AI 수요가 주요 배경으로 평가됐다.
모빌린트 사례는 엔비디아의 시장 지배력이 강하다고 해서 모든 AI 연산이 엔비디아의 데이터센터용 GPU로 수렴하는 것은 아니라는 점을 보여준다. AI가 현실의 기기와 산업현장으로 퍼질수록 오히려 용도에 맞게 작고 효율적인 반도체가 필요한 영역도 함께 커질 수 있다.
하이퍼엑셀 LPU: 크래프톤이 엔비디아 대신 500억을 투자한 이유
세 회사 가운데 투자 논리가 가장 흥미롭게 드러나는 곳은 하이퍼엑셀이다. 하이퍼엑셀은 대규모언어모델의 추론에 특화된 LPU(Language Processing Unit)를 개발한다.
그런데 투자자 가운데 게임회사 크래프톤이 있다. 크래프톤은 하이퍼엑셀의 시리즈B 투자에 전략적 투자자로 참여해 약 500억 원을 투자했다. 게임회사가 아직 규모가 작은 AI 반도체 스타트업에 500억 원을 넣었다는 것만으로도 눈길을 끌지만, 더 흥미로운 사실이 있다.
크래프톤은 엔비디아 GPU를 사용하지 않는 회사가 아니다.
오히려 AI 퍼스트 전략을 추진하면서 약 1,000억 원 규모의 GPU 클러스터를 구축했다. 그런데 동시에 하이퍼엑셀에 500억 원을 투자했다.
이 장면을 보면 처음의 질문이 달라진다. 선택지는 ‘엔비디아냐, 한국 AI 반도체냐’가 아니었다.
크래프톤이 AI 캐릭터와 개인화된 콘텐츠를 게임에 본격적으로 넣는다고 생각해 보자. 몇 명을 대상으로 기술을 시연하는 것과 수백만 명의 이용자가 AI 캐릭터와 계속 대화하도록 서비스를 운영하는 것은 전혀 다른 문제다. 사용자가 늘어날수록 추론 연산이 증가하고, 그 비용은 결국 게임회사가 부담해야 할 원가가 된다.
따라서 크래프톤 입장에서는 엔비디아 GPU를 계속 사용하면서도 특정 LLM 추론에서는 비용을 낮출 수 있는 다른 반도체가 필요할 수 있다. 하이퍼엑셀에 대한 투자는 엔비디아를 버리겠다는 선택이라기보다 GPU 의존도를 낮추고 AI 서비스의 원가를 통제할 또 하나의 선택지를 확보하려는 투자로 읽을 수 있다. 한국경제 역시 크래프톤의 투자 배경으로 AI 서비스 확대에 따른 추론 비용과 원가 통제 필요성을 짚었다(한국경제).
결론: 세 곳의 AI 반도체 스타트업이 엔비디아 성벽을 두드리는 방법
세 회사를 한꺼번에 놓고 보면 국내 AI 반도체 투자의 구조가 선명해진다. 리벨리온은 데이터센터에서 대규모 추론을 효율적으로 처리하려 하고, 모빌린트는 데이터센터 밖의 저전력 엣지 AI를 노린다. 하이퍼엑셀은 LLM을 실제 서비스에서 반복적으로 돌릴 때 발생하는 추론 비용을 낮추는 데 집중한다.
이들의 공통점은 엔비디아보다 모든 면에서 뛰어난 범용 GPU를 만들겠다는 것이 아니다. 엔비디아 GPU를 사용하기에는 비싸거나, 크거나, 지나치게 범용적인 영역을 찾고 그 작업에 특화된 반도체를 제공하려는 전략에 가깝다.
이 차이는 중요하다. AI 시장이 작다면 엔비디아가 대부분을 차지하고 남은 시장은 스타트업이 살아가기 어려울 수 있다. 그러나 AI가 게임, 로봇, 공장, CCTV, 금융, 통신, 공공서비스와 개인용 기기로 계속 확산된다면 이야기가 달라진다. 엔비디아가 시장의 가장 큰 부분을 차지하더라도 그 주변에서 새롭게 생기는 특정 용도의 시장 자체가 상당한 규모로 성장할 가능성이 있기 때문이다.
그렇다고 엔비디아의 아성이 무너지는 것은 아니다
여기서 지나친 기대도 경계해야 한다. 국내 AI 반도체 스타트업에 대규모 투자가 들어간다는 사실을 곧바로 엔비디아의 시장 지배력이 무너지는 신호로 해석하기는 어렵다.
좋은 반도체를 만드는 것과 실제 시장을 확보하는 것은 다른 문제다. AI 반도체 기업은 성능과 전력 효율뿐 아니라 소프트웨어 호환성, 안정적인 양산, 서버 구축, 고객 지원과 실제 서비스에서의 검증까지 넘어야 한다. 특히 엔비디아가 오랫동안 쌓아온 CUDA와 개발자 생태계는 후발 기업이 단기간에 복제하기 어려운 자산이다.
리벨리온이 스퀴즈비츠를 인수해 하드웨어를 넘어 소프트웨어와 추론 서빙까지 확장하는 이유도 여기서 찾을 수 있다. 실제 고객이 새로운 반도체를 선택하려면 좋은 칩만으로는 부족하기 때문이다. 리벨리온은 최근 금융 AI 인프라, 기업용 AI 솔루션, 공공 CCTV 등 실제 적용 영역도 넓히고 있다.
따라서 한국 AI 반도체의 현실적인 성공 조건은 엔비디아를 쓰러뜨리는 것보다 엔비디아를 반드시 사용할 필요가 없는 영역을 얼마나 많이 확보하느냐에 있을 가능성이 크다.
처음의 질문으로 돌아가 보자. 엔비디아라는 압도적인 기업이 있는데도 왜 리벨리온에는 약 6,000억 원, 모빌린트에는 700억 원, 하이퍼엑셀에는 대규모 투자가 이어지고 있을까.
투자자들이 반드시 한국에서 엔비디아를 무너뜨릴 회사를 찾고 있다고 볼 필요는 없다. 오히려 AI가 산업 곳곳으로 퍼질수록 하나의 범용 GPU만으로 모든 연산을 처리하는 것이 경제적이지 않은 영역이 커질 가능성에 돈을 걸고 있다고 보는 편이 자연스럽다.
AI 반도체 스타트업의 기회는 엔비디아를 쓰러뜨리는 데 있는 것이 아니라, 엔비디아 GPU를 쓰기에는 너무 비싸거나 과한 영역을 찾아내는 데 있다.그런 의미에서 투자자들이 사는 것은 ‘제2의 엔비디아’가 아니라 엔비디아가 모든 AI 연산을 차지하지 못할 때 생기는 새로운 시장의 선택권일 수 있다.
앞으로 또 다른 AI 반도체 스타트업이 수백억 원의 투자를 유치했다는 뉴스를 보게 된다면 단순히 엔비디아와 성능을 비교하기보다 다른 질문을 던져볼 필요가 있다.이 회사는 엔비디아보다 강한가가 아니라, 엔비디아와 어디에서 싸우지 않으려고 하는가.그 답을 찾으면 투자금이 향하는 이유도 조금 더 선명하게 보일 수 있다.
📚 참고 자료
연합뉴스(코리안센터 재게재): “韓 AI반도체기업 리벨리온, 4억불 투자유치…美시장 진출 추진
리벨리온 “리벨리온, AI 추론 최적화 기업 스퀴즈비츠 인수… 추론 서빙까지 품은 풀스택 AI 실현”
ZDNet Korea — 모빌린트 700억 원 시리즈C 보도
❓ 자주 묻는 질문(FAQ)
Q. AI 반도체 시장에서 엔비디아의 경쟁력이 강한 이유는 무엇인가요?
엔비디아의 경쟁력은 GPU 성능만으로 설명하기 어렵습니다. CUDA를 중심으로 한 소프트웨어 생태계와 개발도구, 서버와 네트워크, 수많은 개발자가 함께 연결되어 있기 때문입니다. 따라서 새로운 AI 반도체가 성능이나 가격에서 장점을 보여도 기존 엔비디아 환경을 대체하려면 소프트웨어 호환성과 안정성까지 함께 증명해야 합니다.
Q. 리벨리온·모빌린트·하이퍼엑셀은 엔비디아와 직접 경쟁하는 회사인가요?
모두 AI 반도체를 개발하지만 노리는 시장은 서로 다릅니다. 리벨리온은 데이터센터의 AI 추론, 모빌린트는 공장·CCTV·로봇 등에 쓰이는 저전력 엣지 AI, 하이퍼엑셀은 대규모언어모델의 추론 효율과 비용 절감에 집중하고 있습니다. 엔비디아와 모든 영역에서 정면승부하기보다 각자 특화된 시장을 찾는 전략에 가깝습니다.
Q. AI 시대에 추론용 반도체가 중요해지는 이유는 무엇인가요?
AI 모델을 만드는 학습도 중요하지만 실제 서비스가 시작되면 사용자가 질문하거나 AI 기능을 이용할 때마다 추론 연산이 발생합니다. 이용자가 많아질수록 전력 사용량과 서버 비용도 함께 증가하기 때문에 기업에는 단순한 최고 성능보다 같은 서비스를 얼마나 낮은 비용으로 운영할 수 있는가가 중요한 문제가 됩니다.
Q. 한국 AI 반도체 스타트업이 엔비디아를 넘어설 수 있을까요?
현재로서는 엔비디아의 전체 생태계를 정면으로 넘어설 것이라고 단정하기 어렵습니다. 오히려 현실적인 기회는 엔비디아 GPU가 너무 비싸거나 과한 특정 영역에서 찾을 수 있습니다. 앞으로 한국 AI 반도체 기업을 볼 때는 “엔비디아보다 강한가?”보다 “엔비디아가 꼭 필요하지 않은 어떤 시장을 확보하고 있는가?”를 살펴보는 것이 더 유용합니다.
✨함께 보면 좋은 글
2026년 카나나 인 카카오톡 정식 오픈, 맛집 추천부터 예약까지 한 번에
뤼튼은 589억 적자인데 어떻게 1조 원짜리 회사가 됐을까?자주 묻는 질문
#한국 AI 반도체 스타트업#리벨리온#모빌린트#하이퍼엑셀#AI 추론 반도체#엣지 AI