AI 반도체 뉴스를 보다 보면 한동안 모든 길이 HBM으로 통하는 것처럼 느껴졌습니다. 엔비디아의 AI 가속기가 잘 팔린다는 뉴스 뒤에도 HBM이 있었고, 삼성전자와 SK하이닉스의 경쟁을 이야기할 때도 빠지지 않았습니다.
저도 처음에는 단순하게 생각했습니다. AI 반도체가 많이 필요하다면 HBM을 더 많이 만들면 되는 것 아닌가? 그런데 반도체 공급망을 조금 더 따라가다 보면 낯선 단어가 자꾸 등장합니다. ‘첨단 패키징’, 그리고 TSMC의 CoWoS입니다.
처음에는 패키징이라는 말 때문에 완성된 반도체를 마지막에 포장하는 공정 정도로 생각하기 쉽습니다. 하지만 AI 반도체에서는 이야기가 달라집니다. 아무리 성능 좋은 GPU와 빠른 HBM을 만들어도 두 부품이 대량의 데이터를 빠르게 주고받도록 제대로 연결하지 못하면 고성능 AI 가속기가 완성되지 않습니다.
HBM 다음에 첨단 패키징이 주목받는 이유가 바로 여기에 있습니다.
1. GPU와 HBM만 있다고 AI 반도체가 완성되는 것은 아닙니다
AI가 거대한 데이터를 처리하려면 연산을 담당하는 GPU와 데이터를 공급하는 메모리 사이에서 엄청난 양의 정보가 쉴 새 없이 오가야 합니다.
HBM은 이 문제를 해결하기 위해 여러 개의 D램 다이를 수직으로 쌓고, 수많은 연결 통로를 이용해 높은 대역폭을 확보하는 메모리입니다. 일반 메모리보다 훨씬 많은 데이터를 빠르게 전달하는 것이 목적입니다.
여기까지 보면 GPU와 HBM만 잘 만들면 될 것 같습니다. 하지만 문제가 하나 남습니다. 그 둘을 어떻게 연결할 것인가? 좋은 엔진과 좋은 연료통을 만들었다고 자동차가 저절로 완성되지 않는 것과 비슷합니다. 엔진에서 필요한 순간에 연료가 충분히 공급되도록 연결 구조가 제대로 만들어져야 합니다. AI 반도체에서는 이 연결 작업의 중요성이 매우 커졌습니다.
2. 첨단 패키징은 이제 ‘포장’이라고 부르기 아깝습니다
과거 반도체 패키징은 만들어진 칩을 외부 충격으로부터 보호하고 기판과 연결하는 후공정이라는 이미지가 강했습니다. 하지만 AI 시대의 첨단 패키징은 여러 종류의 고성능 칩을 가까이 배치하고, 서로 빠르게 데이터를 주고받도록 연결하여 하나의 시스템처럼 작동하게 만드는 기술에 가까워지고 있습니다.
여기에서 등장하는 대표적인 기술이 TSMC의 CoWoS(Chip-on-Wafer-on-Substrate)입니다. TSMC는 CoWoS를 고성능 컴퓨팅을 위한 첨단 패키징 기술로 설명합니다. 특히 실리콘 인터포저 위에 연산용 로직 칩과 여러 개의 HBM을 함께 배치해 고밀도로 연결할 수 있습니다.
이름은 어렵지만 구조는 의외로 단순하게 이해할 수 있습니다. GPU와 HBM 사이에 아주 넓고 촘촘한 전용 도로망을 깔아주는 것이라고 생각하면 됩니다.
GPU가 아무리 빠르게 계산할 수 있어도 필요한 데이터가 좁은 길을 통해 천천히 들어온다면 제 성능을 낼 수 없습니다. 그래서 GPU와 HBM을 가까이에 놓고 데이터가 오갈 수 있는 길을 크게 넓혀주는 것입니다.
이 과정에서 인터포저(interposer)가 중요한 역할을 합니다. 그래서 AI 반도체의 성능 경쟁은 이제 좋은 GPU를 만드는 경쟁, 좋은 HBM을 만드는 경쟁에서 한 단계 더 나아가 좋은 칩들을 얼마나 효율적으로 연결하느냐의 경쟁으로 확대되고 있습니다.
3. HBM 공급이 늘면 병목은 다른 곳으로 이동합니다
반도체 산업을 보다 보면 재미있는 현상이 있습니다.
공급망에서 가장 부족했던 하나가 해결되면 모든 문제가 끝나는 것이 아니라, 그다음으로 좁은 곳이 새로운 병목으로 드러난다는 점입니다.
예를 들어 넓은 고속도로를 새로 만들었다고 생각해 보겠습니다. 차로를 네 개에서 열두 개로 늘렸습니다. 그런데 마지막 톨게이트는 여전히 두 개뿐이라면 자동차는 결국 그곳에서 줄을 섭니다.
AI 반도체도 비슷합니다.
GPU 생산량이 충분하더라도 HBM이 부족하면 HBM에서 막힙니다. HBM 생산능력이 충분해지더라도 첨단 패키징 능력이 부족하면 이번에는 그곳에서 완성품 생산량이 제한될 수 있습니다.
실제로 TSMC는 강한 고객 수요에 대응하기 위해 2025년 CoWoS 생산능력을 두 배로 늘리겠다고 밝힌 바 있습니다. 이는 첨단 패키징 생산능력이 AI 반도체 공급망에서 얼마나 중요한 요소가 되었는지를 보여주는 사례입니다.
그리고 확장은 여기에서 멈추지 않습니다. TSMC는 2026년 현재 더 큰 CoWoS 패키지를 생산하고 있으며, 2028년에는 약 10개의 대형 연산 다이와 20개의 HBM 스택까지 통합할 수 있는 훨씬 큰 패키지를 생산한다는 계획도 공개했습니다.
4. 왜 TSMC가 AI 반도체 뉴스에 계속 등장할까
이 구조를 알고 나면 한 가지가 눈에 들어옵니다.AI 반도체 기사를 읽다 보면 엔비디아 이야기에도 TSMC가 나오고, 파운드리 이야기에도 TSMC가 나오고, 이제 패키징 이야기에도 TSMC가 등장합니다.
단순히 세계적인 파운드리 회사이기 때문만은 아닙니다.
AI 반도체에서는 최첨단 공정으로 연산 칩을 만드는 능력과 여러 칩을 하나의 고성능 패키지로 묶는 능력이 함께 중요해지고 있기 때문입니다. TSMC 역시 CoWoS를 포함한 3DFabric 첨단 패키징 기술을 계속 확대하고 있습니다.
메모리 회사들도 마찬가지입니다. SK하이닉스 역시 AI 메모리 수요 확대에 대응해 HBM 생산뿐 아니라 패키징 인프라 투자를 확대하고 있습니다.
이제 반도체 산업을 단순히 ‘누가 가장 좋은 칩을 만드느냐’만으로 보기 어려워지는 이유입니다.
5. 투자자라면 ‘지금 가장 좁은 곳’을 봐야 합니다
HBM을 공부하다 보면 자연스럽게 삼성전자와 SK하이닉스를 보게 됩니다. GPU를 보면 엔비디아를 떠올리게 되고, 최첨단 공정을 따라가면 TSMC가 등장합니다.그런데 AI 반도체 공급망을 조금 더 넓게 보면 이들이 따로 움직이지 않습니다.
GPU → HBM → 첨단 패키징 → AI 가속기
이 과정은 하나의 사슬처럼 연결되어 있습니다.그래서 저는 이제 AI 반도체 뉴스를 볼 때 한 가지 질문을 더 던져보는 것이 좋다고 생각합니다.“지금 이 공급망에서 가장 좁은 곳은 어디인가?” 한때 그 답은 HBM이었습니다. 앞으로도 HBM이 매우 중요한 것은 변하지 않습니다. 다만 HBM 생산이 늘어나면 시장의 관심은 그다음 단계로 이동할 수 있습니다.
첨단 패키징이 최근 더욱 중요하게 보이는 이유입니다. AI 반도체 시장에서 경쟁력은 이제 단순히 ‘좋은 칩을 만드는 능력’만으로 결정되지 않습니다. 좋은 GPU와 좋은 HBM을 만들고, 그것들을 가까이 배치하고, 엄청난 양의 데이터를 빠르게 주고받도록 연결한 뒤, 실제 제품으로 대량 생산할 수 있어야 합니다.
그래서 HBM 뉴스 다음에는 첨단 패키징 투자와 CoWoS 생산능력도 함께 살펴볼 필요가 있습니다.병목은 사라지는 것이 아니라 이동하기 때문입니다.
❓자주 묻는 질문
Q1. 첨단 패키징과 일반 반도체 패키징은 무엇이 다른가요?
전통적인 패키징이 칩 보호와 외부 기판 연결에 초점을 맞췄다면, 첨단 패키징에서는 여러 고성능 칩을 가까이에 배치하고 고밀도로 연결해 하나의 시스템처럼 작동하도록 만드는 역할이 더욱 중요합니다.
Q2. CoWoS는 무엇인가요?
CoWoS는 TSMC가 제공하는 대표적인 첨단 패키징 기술입니다. 연산용 로직 칩과 여러 개의 HBM을 인터포저 등을 활용해 가까이 배치하고 고속으로 연결하는 데 사용됩니다.
Q3. HBM 공급이 늘어나면 AI 반도체 공급 부족도 해결되나요?
반드시 그런 것은 아닙니다. GPU 생산, HBM 공급, 첨단 패키징 등 여러 공정 가운데 생산능력이 가장 부족한 부분이 전체 공급량을 제한할 수 있기 때문입니다.
Q4. 투자자가 첨단 패키징을 봐야 하는 이유는 무엇인가요?
AI 반도체 성능이 개별 칩뿐 아니라 여러 칩을 효율적으로 연결하는 능력에 점점 더 의존하고 있기 때문입니다. 따라서 HBM 업체뿐 아니라 첨단 패키징 기술과 생산능력 확대도 AI 반도체 공급망을 이해하는 중요한 단서가 됩니다.
📚참고 자료
✨반도체후공정시리즈 함께 보면 좋은 글