AI 시대의 산업 지형을 바꾼 주인공은 단연 HBM(High Bandwidth Memory, 고대역폭 메모리)이다. HBM은 AI 산업의 구조와 경쟁 구도를 실질적으로 재편한 핵심 요인이자, 치열한 AI 전쟁의 승패를 가르는 게임 체인저로 자리매김했다. 그리고 이 격전지의 중심에서 HBM을 필두로 승기를 잡으며 세계의 이목을 집중시킨 주인공이 있다. 바로 SK하이닉스다.

2025년 역대 최고 실적을 경신하며 메모리 업계에 새로운 역사를 써 내려가고 있는 SK하이닉스의 성과는 결코 우연이 아니다. 끊임없이 찾아온 위기의 순간들을 극복한 경험을 내재화하며, 경쟁력으로 전환해 온 필연적 결과다.
 

2002년, 하이닉스가 마이크론에 넘어갔다면.
2012년, SK가 하이닉스를 인수하지 않았다면.
2013년, 하이닉스와 AMD의 HBM 실험이 좌초됐다면.
2020년, 엔비디아의 AI 칩에 HBM2E가 탑재되지 못했다면.
마지막으로, 한국 경제에 하이닉스가 없었다면.

한국 경제의 굴곡과 AI 시대라는 기술 패권 전환기를 관통해 온 SK하이닉스의 선택을 압축한 이 질문들은 ‘오늘의 환호를 있게 한 어제의 선택’이라고 표현된다.

▲ SK하이닉스의 시가총액 규모 변화

숫자는 그 선택의 결과를 분명히 보여준다. 2011년 말 13조 원에 불과하던 SK하이닉스의 시가총액은 2026년 2월 초 기준, 600조 원 이상으로 확대됐다. 14년 만에 기업 가치는 46배 성장했고, 2025년 연간 경영 실적은 사상 최대인 매출액 97조 1,467억 원, 영업이익 47조 2,063억 원을 기록했다.

이는 결코 순탄하게 얻은 열매가 아니다. 2000년대 외환위기와 반도체 빅딜, IT 버블 붕괴를 거치며 회사는 부도 직전까지 내몰렸고, 마이크론 매각을 눈앞에 두고서 가까스로 생존했다. 이후 2012년 SK그룹 편입을 계기로 체질을 개선하며 반등의 발판을 마련했고, 현재의 결과를 만들기 위해 쉼 없이 내달렸다.
 

이 과정에서 결정적 역할을 한 것은 바로 HBM이다. 이 제품은 메모리 산업의 패러다임을 바꾸며 SK하이닉스를 AI 메모리 글로벌 1위 반열에 올려놓았지만, HBM이 처음부터 환영받았던 건 아니다.

2000년대 중반, SK하이닉스는 메모리 성능과 공정 미세화의 한계를 돌파할 해법으로 TSV*에 주목하며 새로운 메모리 구조 실험에 나섰다. 2009년 회사는 전사 로드맵 수립과 전담 조직 신설을 거쳐 TSV를 핵심 전략 과제로 끌어올렸고, 4년간의 시행착오 끝에 2013년 12월, 세계 최초의 HBM을 선보였다.

* TSV(Through Silicon Via, 수직관통전극): 칩을 수직으로 연결하는 패키징 기술로, 제품 성능과 용량을 동시에 높여줌

놀라운 기술적 성취에도 불구하고, 시장의 반응은 냉담했다. 당시 HBM은 ‘시장이 없는 슈퍼카 메모리’로 표현된다. HPC(고성능 컴퓨팅) 시장이 HBM을 품을 만큼 성숙하지 못했기 때문이다. 수요가 불확실한 상황에서도 SK하이닉스는 프로젝트를 중단하지 않았다. 당장의 수익보다 ‘최초’라는 기술적 상징성과 시장 선점에 대한 학습 효과를 선택한 것이다. 이 결정은 회사의 공정, 수율, 패키징 전반의 성장 곡선을 앞당기는 결정적 자산이 됐다.

▲ SK하이닉스의 HBM 주도권 확보 시작점이 된 HBM2E

HBM2에서 한 차례 좌절을 겪었지만, 절치부심으로 완성한 3세대 제품 HBM2E부터 판세가 뒤집혔다. MR-MUF* 공정과 방열 기술을 고도화하며 기술적 전환점을 마련했고, 이는 AI 인프라 확산과 맞물리며 결정적인 기회로 이어졌다. SK하이닉스의 HBM2E는 2020년 7월 양산을 시작해 엔비디아의 AI 전용 GPU A100에 탑재됐다. 그리고 본격적인 드라마가 시작됐다.

* MR-MUF(Mass Reflow Molded Underfill): 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 공간 사이에 액체 형태의 보호재를 주입하고, 굳히는 공정

▲ ‘SK AI 서밋 2025’에서 SK그룹의 AI 설루션 전략을 설명하고 있는 SK 최태원 회장

SK하이닉스가 HBM2E의 우선 공급자로 자리매김하던 2021년 5월, SK 최태원 회장은 미국 엔비디아 본사를 찾았다. 테크 업계에서 AI 기반 대규모언어모델(LLM)이 물밑에서 올라오기 시작하던 때다.

최 회장은 엔비디아 젠슨 황 CEO로부터 GPU 수요 전망과 AI 생태계에 대한 구상을 들으며 깊은 공명을 느꼈다고 회자했다. 이 만남을 통해 최 회장은 스스로 축적해 온 AI 비전에 대한 확신을 재확인하게 된다.

이 경험은 HBM을 출발점으로 한 SK의 ‘AI 모멘트’를 본격화하는 계기가 됐다. 최 회장의 시선은 단순히 HBM 공급에 머물지 않았다. GPU와 HBM을 넘어 서버, 네트워크, 냉각, 전력, 데이터센터 건설과 운영까지, AI 인프라 전반을 하나의 생태계로 바라보며 큰 그림을 그리기 시작했다.

그리고 비전을 현실로 구현할 강력한 엔진, HBM이 본격 가동될 이른바 ‘AI 빅뱅’이 시작됐다. 2022년 11월 30일, 오픈AI는 GPT-3.5 기반의 생성형 AI ‘챗GPT’를 공개했다. 챗GPT 학습에는 엔비디아의 GPU A100이 1만 개 이상 활용된 것으로 알려져 있다. 그 연산의 토대에는 HBM2E가 있었다. HBM은 AI의 학습과 추론을 가능하게 하는 실질적 기반으로 작동하며, AI 시대의 수레바퀴를 본격적으로 가속시켰다.

▲ SK하이닉스 HBM 개발 연혁

이 시점, SK하이닉스는 이미 전 세대 대비 성능을 두 배 가까이 끌어올린 HBM3 개발을 마치고, 안정적인 양산 체제에 진입해 있었다. 최적의 타이밍이었다. 이어 불과 1년여 만인 2023년 고용량·고대역폭·고신뢰성이라는 세 가지 요건을 최고 수준으로 갖춘 ‘슈퍼 AI 메모리’ HBM3E 개발에도 성공했다. 이 모든 것이 불가능에 가까운 조건 아래 있었지만, SK하이닉스는 ‘무조건 개발’이라는 목표 아래 투자를 아끼지 않았고, 결국 고객의 요구 성능을 맞춰냈다.

양산 전략 역시 예외는 아니었다. 원팀으로 ‘시프트 레프트*’하여 HBM 개발에서 양산 사이의 시간을 획기적으로 단축했다. 또한, 2023년에는 급증하는 HBM 수요에 대응하기 위해 청주 M15 전공정 팹을 HBM 후공정 라인으로 전환하는 전례 없는 결정을 내리기도 했다. 후공정 인력만으로는 부족해 전공정 팹 엔지니어들까지 투입됐고, 전사가 동시에 움직이며 세계 최초로 HBM3E 양산용 샘플을 완성했다.

* 시프트 레프트(Shift Left): 문제를 발견하고 수정하는 과정을 개발 초기 단계로 이동시켜, 전체 개발 프로세스의 효율성을 높이는 전략

이러한 선택과 실행은 이후 SK하이닉스의 HBM 시장 주도와 최고 실적을 가능케 한 결정적 기반이 됐다고 평가된다. 중요한 순간마다 고객의 속도에 맞춰 ‘타임 투 마켓*’ 승부를 걸었던 판단은 HBM 공급 경쟁에서 뚜렷한 우위를 만들었고, 메모리 혹한기를 이겨내는 자양분이 됐다. 그리고 이 전략은 현재도 유효하다.

* 타임 투 마켓(Time to Market): 제품이나 서비스가 개발에서 시장에 출시되기까지 걸리는 총 시간을 의미

2024년 4월, SK하이닉스는 TSMC와 협력해 6세대 HBM4를 개발한다고 발표했다. 고객–파운드리–메모리로 이어지는 삼각 협력 구조가 차별적 경쟁력이 되는 지점이다. 이 판을 설계한 인물 역시 최태원 회장이다. 그는 엔비디아와 TSMC 양측에 “세 회사가 함께 AI 병목을 해결하자”는 생태계 연합을 제안했고, 이를 계기로 HBM4에서 TSMC 설계를 채택하는 협업 구조가 자리 잡았다.

그 결과 2025년 3월, SK하이닉스는 HBM4 12단 샘플을 세계 최초로 고객사에 제공했다. 데이터 전송 통로를 두 배로 늘려 대역폭을 최대치로 끌어올렸고, 전력 효율과 AI 추론 성능을 대폭 향상시켰다.

▲ SK하이닉스 HBM 점유율

시장조사기관과 애널리스트들은 SK하이닉스가 HBM4에서도 주도권을 이어갈 가능성이 높다고 평가한다. HBM은 기술력뿐 아니라 납기와 품질, 그리고 신뢰가 동시에 맞물려야 하는 제품이다. 오랜 시행착오 끝에 축적된 노하우와 고객 및 협력사와의 신뢰는 SK하이닉스의 독보적인 경쟁력이다.

훗날 지금을 되돌아봤을 때, 2024년은 SK하이닉스의 역사를 ‘이전과 이후’로 가르는 결정적 기점이 될 것이라 평가된다. AI 인프라의 핵심 설계자로 거듭나며 기업의 위상과 업의 본질을 완전히 새롭게 정의했기 때문이다.

SK하이닉스 곽노정 대표이사 사장은 2026년 신년사를 통해 “이제 SK하이닉스는 진정한 ‘풀 스택 AI 메모리 크리에이터(Full Stack AI Memory Creator)’로 도약해야 한다”며, “고객이 가장 필요로 하는 가치를 창의적인 방식으로 제시하고 구현해 나가겠다”는 방향을 분명히 했다. ‘비욘드 메모리’로 향하는 SK하이닉스의 다음 장이 기대되는 이유다.

▲ 플랫폼9와3/4에서 발행한 『슈퍼 모멘텀(SUPER MOMENTUM)』

이와 같은 서사가 담긴 책 『슈퍼 모멘텀(SUPER MOMENTUM)』은 SK하이닉스가 HBM을 중심으로 AI 시장의 흐름을 어떻게 읽고 움직여 왔는지를 조명한다. 위기와 불확실성 속에서 내린 선택과 전략, 그리고 이를 뒷받침한 경영진의 리더십이 발휘된 순간들을 현장감 있게 재현하고, 주요 경영진들의 전언을 통해 당시 상황을 실감 나게 전달하며 어떻게 신화가 만들어졌는지 짚어낸다.

아무도 가보지 않은 길에 도전하며 HBM이라는 새로운 표준을 만들어가고 있는 SK하이닉스의 성공 스토리와 그 배경, 그리고 앞으로의 비전에 관한 저자의 생각을 들어보기 위해 SK하이닉스 뉴스룸에서 집필진과 인터뷰를 진행했다.

▶ 『슈퍼 모멘텀(SUPER MOMENTUM)』 집필진 6인과의 심층 인터뷰 공개