COMPUTEX를 찾은 최태원 회장, AI 산업의 흐름을 읽다
컴퓨텍스(COMPUTEX)는 얼마 전까지만 하더라도 게이밍 PC를 사랑하는 사람들이 모이는 행사였습니다. 그런데 올해, 그 무대에 ‘메모리 반도체 기업’인 SK하이닉스의 총수가 처음으로 섰습니다. 저 역시 반도체를 전공했고 관련 콘텐츠를 만드는 사람으로서 엔비디아의 초대를 받아 참석하게 되었습니다. 다만 방문하기 전까지만 하더라도 과연 딥테크를 주로 다루는 우리 회사에서 다룰 만한 내용이 있을지 걱정이 앞섰습니다. 하지만 이제 컴퓨텍스(COMPUTEX)는 게이밍 부품 박람회가 아니라 AI 인프라와 로봇, 데이터센터, AI PC를 모두 한꺼번에 보여주는 산업 쇼케이스로 바뀌었습니다.
사실 지금까지의 관점에서 본다면 섭씨 33도가 넘는 무더위를 뚫고 대만의 게이밍 행사를 찾는다는 것은 상상하기 어려웠을 것입니다. 하지만 그 행사가 AI 인프라와 공급망의 핵심 무대로 바뀌었다면 이야기는 달라집니다. 실제로 최태원 회장은 외신과의 인터뷰에서 “현재는 AI용 메모리 칩을 생산하고 있지만, 앞으로는 AI 팩토리를 만드는 데 도전하고 싶다”고 말했습니다.
SK하이닉스는 단순히 메모리 반도체를 만드는 기업을 넘어, AI 인프라의 길목을 잡은 회사로 나아가고 있다고 생각합니다. 비유하자면 전기차 시대로의 전환기와 같습니다. 시장이 ‘전통 자동차 회사’로 분류한 기업들과 ‘전기차 및 자율주행 플랫폼 회사’로 분류한 기업들의 주가수익비율(PER)은 전혀 다른 길을 걸었습니다. 같은 차를 만들어도 시장이 매기는 ‘카테고리’가 달라지자 밸류에이션의 천장이 바뀐 것입니다. SK하이닉스가 지금 그리는 그림도 본질은 같습니다.
그렇기에 저에게 이번 컴퓨텍스에서 단 하나만 기억해야 하는 것이 무엇이냐고 묻는다면 저는 ‘AI 팩토리*’를 꼽겠습니다.
* AI 팩토리(AI Factory): 원자재로 제품을 생산하는 공장처럼 데이터로 부가가치를 창출해 내는 데이터센터 인프라
지능을 찍어내는 공장, AI 팩토리
▲ COMPUTEX 2026 내 SK하이닉스 전시 부스에 마련된 ‘AI 팩토리 존’
AI 팩토리는 전기와 데이터를 원료로 넣어 토큰*이라는 지능을 생산해 내는 공장형 데이터센터를 말합니다. 실제로 최태원 회장은 한 다큐멘터리에서, “지금까지 공장은 소비재를 생산해 왔으나, 이제 공장은 지능을 생산하는 곳으로 바뀌고 있다”고 강조하신 적이 있습니다.
핵심은 ‘컴퓨팅’을 비용이 아니라 ‘생산 공정’으로 본다는 데 있습니다. 과거 데이터센터는 파일을 저장하고 정해진 소프트웨어를 돌리는 ‘창고’에 가까웠습니다. 그러나 엔비디아 젠슨 황 CEO가 그리는 세계에서 데이터센터는 원료(데이터 · 전력)를 넣으면 지능(토큰)이 쏟아져 나오는 공장입니다. 그는 “1차 산업혁명의 원료가 물, 산물이 전기였다면, 이제 공장에 들어가는 원료는 데이터와 전기이며 그 산물은 지능”이라고 강조한 바 있습니다. 실제로 컴퓨텍스 기간 중 엔비디아에서 21년간 근무한 제시 클레이턴(Jesse Clayton) 수석 제품 마케팅 매니저와 인터뷰할 기회가 있었는데, 그 역시 기존의 전통적인 데이터센터와 현재의 AI 팩토리의 차이를 두고 ‘산물이 지능’이라는 점을 강조하였습니다.
이 공장에서 나오는 건 단순한 챗봇 답변이 아닙니다. 코드를 짜고, 설계를 하고, 진단을 내리고, 계약서를 검토하고, 영상을 만들고, 로봇을 움직이게 하는 지능이 생산됩니다. AI 팩토리의 산출물은 ‘텍스트’가 아니라 인간의 지적 노동을 대체하거나 증폭하는 ‘작업 능력’ 그 자체입니다. 특히 황 CEO는 이번 키노트에서 “토큰이 한 국가의 GDP를 좌우하는 시대가 온다”고 강조했습니다.
* 토큰(Token): AI가 정보를 처리(학습, 생성, 추론)하기 위해 이를 분해해 만든 데이터의 최소 단위
AI 메모리를 넘어 인프라 전반의 경쟁력을 보여준 부스
이런 흐름 속에서 개인적으로 이번 SK하이닉스 부스에서 가장 인상적이었던 것은 ‘메모리’라는 단어를 찾는 것이 쉽지 않았다는 점입니다. SK하이닉스의 부스가 내세운 핵심 키워드는 ‘Full-Stack AI Infrastructure’, ‘AI Frontier Industry Standard’, ‘Next Generation Infrastructure’였습니다. 셋 모두 ‘AI 메모리’ 대신 ‘AI 인프라’를 전면에 세웠습니다.
전시는 그 기업이 ‘무엇으로 보이고 싶은가’를 가장 솔직하게 드러내는 언어라 생각합니다. 그런 관점에서 SK하이닉스 부스를 보며 메모리 부품 공급사를 넘어, AI 인프라 전체의 길목을 잡겠다는 의지가 느껴졌습니다.
메모리 반도체 공급 부족…’더 긴밀해진 협업’
개인적으로 컴퓨텍스 기간 중 가장 인상적이었던 순간은 언제였냐고 묻는다면 엔비디아 젠슨 황 CEO가 부스를 깜짝 방문한 때를 주저 없이 선택할 겁니다.
황 CEO는 전시품 위에 친필 사인을 남겼습니다. 특히 이번에는 메모리 쇼티지*를 반영하듯, HBM4E 웨이퍼에 “제발 더 만들어줘(Please Make More)”라는 메시지를 남겼고, 192GB SOCAMM2* 위에는 “소캠 사랑해(LOVE SOCAMM)”라고 적었습니다. 저는 이 짧은 메시지가 현재 메모리 시장의 본질을 압축해서 보여준다고 생각합니다. 세계적인 AI 가속기 기업의 CEO가 공급사 전시품 위에 ‘더 만들어 달라’고 적어야 할 만큼 병목이 심각하다는 뜻이니까요.
컴퓨텍스가 시작되기 전날 밤, 황 CEO는 한국의 주요 기업인들과 대만의 소박한 식당 앞에 모여 ‘소맥’을 한잔 하며 간단한 기자회견을 하였는데요. 그는 취재진과 만난 자리에서 “우리는 SK하이닉스와 매우 긴밀히 협력해야 한다”고 말하며, “SK하이닉스와는 매우 오랜 관계를 맺어왔고, 그들의 성공을 보게 돼 기쁘고 자랑스럽다”고 강조했습니다.
* 메모리 쇼티지(Memory Shortage): 글로벌 메모리 반도체 공급 부족
* SOCAMM(Small Outline Compression Attached Memory Module): 저전력 D램 기반의 AI 서버 특화 메모리 모듈
HBM의 진짜 해자는 ‘발열 해소’에 있다
그렇다면 왜 하필 SK하이닉스일까요? 제가 보는 본질적 답은 ‘발열’입니다.
HBM은 본질적으로 D램을 위로 쌓아 올려 만들어집니다. 층층이 쌓인 D램 사이를 수직으로 관통하며 신호를 전달하는 통로가 TSV(Through Silicon Via)입니다. ‘반도체 내부 엘리베이터’로 전기 신호를 전달하는 역할을 수행합니다. 문제는 이 구리 기둥이 촘촘해지고 적층 단수가 높아질수록 열이 가파르게 오른다는 점입니다. 이 열을 안정적으로 잡아내는 것이야말로 메모리 기업의 핵심 역할이자 기술적 해자입니다. 특히 이번 전시에 포함되지는 않았지만, SK하이닉스는 iHBM* 기술을 최근 발표하며 발열 관리에 대한 자신감을 보여줬고, 이번에 전시된 eSSD를 비롯한 엔비디아와의 협력 제품들에서도 냉각 성능의 우수성을 보여주었습니다.
엔비디아가 AI 팩토리를 설계하는 회사라면, 그 공장의 심장인 가속기를 가장 안정적으로 식히고 가장 빠르게 데이터를 공급하는 메모리를 내놓는 회사가 SK하이닉스입니다. SK하이닉스가 HBM 시장 점유율 세계 1위를 지키는 이유도 단순 속도가 아니라 발열과 전력, 성능 등 가장 육각형에 가까운 HBM을 선보이기 때문이라고 생각합니다.
* iHBM: HBM 패키지에 일체형 냉각 요소 ICE(Integrated Cooling Elements)를 내재해 발열을 획기적으로 낮춘 차세대 메모리 기술
▲ COMPUTEX 2026 SK하이닉스 전시 부스에 소개된 Chronicle of SK hynix’s HBM
SK하이닉스의 HBM 발전 속도는 주가가 올라가는 속도만큼이나 매섭습니다. 지금 널리 쓰이는 HBM3E의 대역폭은 스택 당 약 1.2TB/s(초당 테라바이트)입니다. 그런데 SK하이닉스가 세계 최초로 양산 체제를 구축한 HBM4는 데이터 통로(I/O)를 1,024개에서 2,048개로 두 배 늘려 대역폭을 획기적으로 끌어올리고 전력 효율을 40% 이상 개선했습니다. 이번에 처음 공개된 HBM4E는 데이터 전송속도를 최대 16.0Gbps(초당 기가비트), 대역폭을 4.0TB/s 수준까지 끌어올렸습니다. 현업자가 아닌 이상 각각의 HBM의 성능 차이와 발전 과정을 체감하기는 어려운 것이 사실입니다. 하지만 SK하이닉스는 두 차례에 걸쳐 관람객들이 이를 체감할 수 있도록 노력했습니다.
첫 번째는 HBM2E부터 HBM4E까지 한눈에 들어오도록 구성한 점입니다. 그리고 그 옆에 이 작은 칩을 확대하면 어떻게 보이는지 TSV와 함께 전시해 둔 점은 관람객들의 이해도를 크게 높이는 데 기여했습니다.
두 번째는 실제 웨이퍼와 함께 현재 가장 널리 쓰이는 HBM3와 앞으로 양산 및 실제품으로 만들어질 HBM4와 HBM4E의 시제품도 전시해 둠으로써, 앞으로 SK하이닉스가 나아갈 방향을 명확하게 보여주었다는 점입니다. 관람객들은 거대한 HBM 모형과 그 발전 과정, 그리고 앞으로 나아갈 방향을 보며 숫자로만 접하던 HBM의 성능 향상이 실제 제품의 세대 변화 속에서 어떻게 이어져 왔는지를 한눈에 이해할 수 있었습니다.
▲ COMPUTEX 2026 SK하이닉스 전시 부스에 소개된 HBM4E 모형
공장 컨베이어 벨트에서 로봇팔이 아무리 빨라도 벨트가 느리면 생산량은 늘지 않습니다. AI 반도체도 마찬가지입니다. GPU가 아무리 빨라도 HBM이 데이터를 제때 공급하지 못하면 제 성능을 발휘하기는 어렵습니다. 그래서 SK하이닉스는 ‘메모리 납품 업체’가 아니라 ‘AI 생산량을 결정하는 인프라 업체’가 되려는 것입니다. 엔비디아가 공장의 설계자라면, SK하이닉스는 그 공장 안에서 원료와 제품이 막힘없이 오가게 만드는 ‘인프라의 설계자’인 셈입니다. 하이퍼스케일러*가 AI 팩토리를 지을 때, 성능 · 전력 · 발열 목표를 SK하이닉스 없이 맞추기 어렵다는 말은 과장이 아닙니다.
* 하이퍼스케일러(Hyperscaler): 데이터센터를 대규모로 보유한 업체
‘AI 팩토리 동맹’의 한 축으로
최태원 회장은 대만 타이베이에서 엔비디아, TSMC, 폭스콘 회장 및 경영진과 만나 차세대 AI 인프라 경쟁력 강화를 위한 협력 방안을 논의했습니다. 단순 부품 공급 관계를 넘어, AI 팩토리라는 공장 전체를 함께 구축하는 파트너십으로 SK하이닉스의 역할이 확장되고 있음을 보여주는 장면이었습니다.
다만 넘어야 할 관문도 남아 있습니다. 최 회장은 AI 팩토리에는 GPU와 메모리뿐 아니라 자금, 에너지, 장비, 물까지 여러 병목이 동시에 존재한다고 말했습니다. 새 팹(Fab)을 짓는 데만 최소 3년, 부지 조성부터 시작하는 그린필드는 5년 이상 걸립니다. 그럼에도 최 회장은 투자 의지를 굽히지 않았습니다. 특히 기자회견을 마치고 타사의 컴퓨텍스 부스를 둘러보다가 소비재를 판매하는 한 회사의 직원이 “어떻게 메모리 쇼티지를 해결하고 있느냐”고 질문하자, “버리는 것 없이 작은 것이라도 하나하나 모두 활용해 보는 것이 중요하다”고 강조했습니다.
대만 기자들은 ‘대만 생태계’에 대해 많은 질문을 던졌습니다. 이에 대해 최 회장은 TSMC와의 협력을 언급하며 “HBM4에서 협력하고 있으며, 훌륭한 파트너십을 맺고 있다”고 답했습니다. 또 “AI 사업을 확장할수록 우수한 대만 파트너들과의 협력이 필수적”이라고 말하며 폭스콘 등 주요 대만 기업들을 직접 찾아 협력 방안을 점검했습니다. 첫 컴퓨텍스 방문에서 최 회장이 보여준 동선은 AI 팩토리의 인프라 병목을 한 기업의 힘만으로는 풀 수 없고, 협력을 통해 해결해야 하는 문제라는 점을 보여줬습니다.
효율화는 수요를 죽이지 않는다
일각에서는 터보퀀트*와 같은 메모리 압축과 추론 효율화가 진전되면 메모리 수요가 오히려 줄 것으로 예측합니다. 하지만 저는 동의하지 않습니다.
반도체의 역사에서 수요를 죽인 것은 ‘효율화’가 아니라 ‘쓸 곳이 없는 기술’이었습니다. 오히려 효율화는 단가를 낮추고, 낮아진 단가는 더 많은 사용자를 불러오며, 엔비디아 젠슨 황 CEO도 강조했듯 늘어난 사용처가 다시 더 큰 인프라 수요를 만듭니다. 통신 단가가 내려가자 영상 스트리밍이 폭발했고, 반도체 성능이 좋아지자 더 무겁고 복잡한 소프트웨어가 세상을 지배했습니다. 이것이 ‘제번스의 역설*’입니다. 그래서 저는 토큰 경제가 본격화할수록 메모리 수요가 줄기는커녕 더 가팔라질 것이라 봅니다.
최태원 회장은 일전에 지금까지는 한 분야를 깊이 파는 ‘스페셜리스트(Specialist)’가 인정받았다면, AI가 무언가를 알게 되는 시간을 10분의 1로 줄여주는 시대에는 여러 일을 동시에 잘하는 ‘제너럴리스트(Generalist)’의 가치가 커질 것으로 전망했습니다. 한 사람이 의사이자 엔지니어이자 사업가가 될 수 있는 세상, 그 지능을 떠받치는 물리적 토대가 바로 메모리입니다.
* 터보퀀트(TurboQuant): AI 모델의 내부 연산 값을 저비트로 양자화해 메모리 사용량과 연산 부담을 줄이는 추론 효율화 기술
* 제번스의 역설(Jevons Paradox): 기술 효율이 높아질수록 자원 사용이 줄기보다는 오히려 전체 수요가 늘어날 수 있다는 이론
승부는 물리적 역량에서 갈린다
저는 올해 1월 CES, 3월 GTC, 6월 대만 GTC 타이베이와 컴퓨텍스를 차례로 지켜보며, SK하이닉스의 전시와 기술 방향성에서 이 경쟁 구조의 핵심 축에 SK하이닉스가 이미 자리 잡고 있음을 분명히 느꼈습니다.
AI 시대의 승패는 ‘누가 더 똑똑한 알고리즘을 만드느냐’가 아니라, ‘그 알고리즘을 현실로 끌어내리는 물리적 역량’에서 갈릴 가능성이 큽니다. 19세기 골드러시에서 끝까지 살아남은 것이 금을 캐던 이들이 아니라 청바지와 곡괭이를 공급한 기업들이었던 것처럼 말입니다.
일각에서는 대한민국 메모리가 멈추면 전 세계 AI가 흔들린다고 말하곤 합니다. 그리고 이는 더 이상 과장이 아닙니다. 지금 우리가 보고 있는 것은 한 기업의 전성기가 아니라, AI 인프라 전쟁에서 한국이 그 중심에 설 수 있느냐를 가르는 역사적 분기점일지도 모릅니다. 지능을 생산하는 ‘AI 팩토리’의 시대, SK하이닉스는 이제 AI 인프라의 단순한 부품 공급사가 아니라 다음 산업의 질서를 설계하는 핵심 축으로 올라서고 있습니다.
