GTC는 현재 전 세계에서 가장 거대하고 영향력 있는 AI 콘퍼런스가 아닐까 합니다. 산업 전시와 학술 발표를 동시에 아우르는 독특한 콘퍼런스로, 현업 종사자들에게 실질적인 볼거리를 제공하면서도 학문적 진지함이 기저에 흐르고 있어 여느 콘퍼런스와 차별됩니다. 저는 CES와 MWC, IFA 등 세계 3대 콘퍼런스를 모두 참석해오고 있으나, GTC는 첫 참여였습니다.

▲ GTC 2026에서 엔비디아가 우수작으로 선정한 오하이오주립대의 포스터

▲ SK하이닉스 도승용 부사장(DT 담당)이 참석한 ‘Building the Future of Manufacturing’ 세션

이번 GTC 2026은 명성답게 기술적으로 매우 밀도 높은 시간이었습니다. 발표된 연구를 종합해서 느낀 점은, AI 경쟁의 분위기가 바뀌었다는 것입니다. 얼마 전까지만 해도 ‘누가 더 크고 똑똑한 모델을 만드는가’의 싸움이었다면, 이제는 ‘그 거대한 모델을 얼마나 싸게, 물리적 제조 현장과 플랫폼에 얼마나 효율적으로 적용하는가’의 싸움이 됐습니다. 물론 이러한 흐름은 1~2년 전부터 감지됐으나, 거의 상당수의 연구가 이 부분에 포커스되어 있다는 점은 주목할 만합니다. 특히 의료 AI 경량화, 로봇 공정 시뮬레이션, GPU 통신 최적화 등 현장에서 확인한 국내 연구팀들의 포스터 연구들도 대다수가 비용 절감과 효율화에 집중돼 있었습니다. 이밖에도 엔비디아 젠슨 황 CEO는 키노트와 기자 Q&A에서 ‘AI 에이전트 시대가 세상을 바꿀 것’이라 강조하며 AI 산업의 재편을 예고했습니다.

부스 전시의 흐름도 흥미로웠습니다. 어느 부스에 가도 데이터센터와 인프라가 주제였습니다. ‘AI 거품론’이 시장 일각에서 거론되지만, 현장의 밀도와 투자 열기는 그 반대의 이야기를 하고 있었습니다.

이런 AI 인프라 분야가 주목받는 가운데, 유독 눈길이 향하는 부스가 있었습니다. 이 행사의 주최사인 엔비디아의 파트너이자 AI 메모리 시장을 이끄는 반도체 기업, SK하이닉스였습니다.

반도체는 작습니다. 눈에 잘 보이지 않고, HBM4*와 HBM3E는 겉으로 봐서는 구분하기가 사실상 불가능합니다. 그럼에도 ‘이건 저번 반도체와 다른 것’이라는 걸 보여주어야 합니다. 이번 GTC에서 SK그룹 최태원 회장이 현장에서 직접 언급한 내용이기도 합니다. 그런 면에서 SK하이닉스의 부스 전략은 이 문제를 영리하게 돌파했다고 생각합니다.

▲ SK하이닉스 부스에서 공개된 HBM4 실물

제가 SK하이닉스 부스에서 받은 느낌은 ‘메모리 반도체의 시각화에 정말 신경을 많이 썼구나’와 ‘엔비디아와의 협업을 이렇게까지 구체적으로 보여주는구나’로 요약됩니다. HBM을 100만 배 확대한 실물 모형은 전문가가 아니더라도 그 구조를 직관적으로 이해할 수 있도록 만들어졌습니다.

특히 엔비디아의 차세대 AI 가속기인 ‘베라 루빈(Vera Rubin)’ 랙(Rack)* 모형이 인상적이었습니다. 참관자가 SOCAMM2*와 HBM 모형을 베라 루빈 모형의 해당 위치에 직접 올리면, 전기가 흐르듯 빛이 켜지는 방식으로 구성돼 있었습니다. 한 번 체험하면 ‘아, 이 부품이 이 자리에 올라가는 거구나’를 몸으로 이해할 수 있게 됩니다. 시각화에 있어 SK하이닉스는 어려운 것을 쉽게 보이게 만드는 데 큰 강점이 있다고 생각합니다.

▲ 100만배 확대한 HBM4 모형

▲ SK하이닉스 부스에 마련된 엔비디아의 AI 가속기 ‘베라 루빈’ 모형. 비어 있는 곳에 HBM 칩을 올리자 빛이 들어온다.

기술적으로 가장 인상 깊었던 것은 cHBM(Custom HBM, 맞춤형 HBM)이었습니다. 저는 좋은 기업의 조건 중 하나는 고객의 불편함을 먼저 파악하고 해결책을 내놓는 것이라고 생각하는데, cHBM은 그 정신을 잘 구현한 제품입니다. 이번에 전시된 cHBM의 핵심은 베이스다이(Base Die)*에 적용된 ‘스트림 DQ 아키텍처(Stream DQ Architecture)’입니다. HBM을 작업대, GPU가 작업자라면, 스트림 DQ 아키텍처는 그 작업대 위에 컨베이어 벨트를 깔고 재료를 미리 손질해 두는 기술입니다. 기존에는 GPU가 직접 처리해야 했던 데이터 전처리 작업을 HBM의 베이스다이 단에서 수행함으로써, GPU의 부담을 줄이고 연산 속도를 끌어올리는 구조입니다. 현장 관계자에 따르면 이 구조를 통해 최대 추론 속도가 7배까지 향상될 수 있다고 합니다. 고객사별로 차별화된 HBM을 제공할 수 있다는 점에서, 단순 공급사를 넘어 파트너로서의 포지셔닝을 강화하는 의미 있는 기술 방향성이라 생각합니다.

▲ 수냉에 최적화된 eSSD인 PEB210 E1.S

eSSD(enterprise SSD, 기업용 SSD) 전시도 주목할 부분이었습니다. 엔비디아의 베라 루빈 랙에는 AI가 이전 대화와 문맥 정보를 저장하는 ICMS(In-Context Memory System)라는 저장 공간이 탑재됩니다. LLM(Large Language Model, 거대언어모델) 활용이 대중화되면서 처리해야 할 문맥 데이터가 급격히 늘어났지만, 이를 고가의 HBM에 저장하는 것은 비효율적입니다. 그래서 엔비디아는 별도의 ICMS 공간을 구성했고, 여기에 대용량 eSSD가 대거 탑재됩니다. 업계에서는 랙 하나당 약 9,600TB(테라바이트) 수준의 용량이 필요할 것으로 추측하고 있습니다. 베라 루빈 랙이 한 대 팔릴 때마다 SK하이닉스는 HBM과 함께 eSSD도 공급할 수 있게 됩니다. ‘잊혀진 메모리’로 불리던 낸드플래시가 부활하고 있습니다. 최근 낸드플래시의 중요성이 다시 강조됨에 따라 SK하이닉스는 베라 루빈의 수냉 냉각 환경에 최적화된 eSSD까지 전시해 두는 등 선제적 대응 속도가 인상적이었습니다.

엔비디아와 SK하이닉스는 AI 필수 인프라인 GPU와 HBM 분야를 각각 선도하며 끈끈한 협력 관계를 유지하고 있습니다. HBM은 SK하이닉스가 2013년 세계 최초로 개발한 제품이었고, 엔비디아가 AI 가속기 개발에 뛰어들며 HBM을 주문한 것이 두 회사 협력의 실질적인 출발점이었습니다. 이후 본격적인 제품 공급과 챗GPT 열풍을 거치며, 두 회사는 AI 시대의 아이콘으로 떠올랐습니다. SK하이닉스는 현재 압도적인 점유율로 HBM 시장을 주도하고 있고, 단순 부품 공급사를 넘어 AI 칩의 성능 혁신을 함께하는 기술 파트너로 진화하는 중입니다.

▲GTC 2026에서 엔비디아 젠슨 황 CEO와 함께 SK하이닉스 부스를 방문중인 최태원 SK그룹 회장

그 역사의 연장선 위에서, 최태원 회장의 이번 GTC 2026 참석은 단순한 격려 방문이 아니었습니다. 최 회장은 GTC를 불과 한 달 앞두고 실리콘밸리에서 젠슨 황 CEO와 단독 회동을 가졌는데, 이 자리에서는 HBM4의 차질 없는 공급과 함께 cHBM, eSSD, AI 데이터센터 설루션에 이르는 포괄적인 협력 확대 방안이 논의된 것으로 알려졌습니다. 더 나아가 최 회장은 같은 시기 단 1주일 사이에 브로드컴 혹 탄, 마이크로소프트 사티아 나델라, 메타 마크 저커버그, 구글 순다르 피차이 등 글로벌 5대 빅테크 CEO를 연달아 만나며 사실상의 ‘AI 메모리 외교’를 전개했습니다. 이 회동들은 단순한 HBM 공급 논의를 넘어, 각 빅테크의 차세대 AI 칩 로드맵에 맞춘 맞춤형 메모리 공동 설계, AI 데이터센터 구축 등 협력 범위를 전방위로 넓히는 내용으로 채워졌습니다. AI 생태계의 구조적 전환기에, 최 회장이 직접 발로 뛰며 복수의 파트너십을 동시에 확보해두는 선제적 포지셔닝을 한 것입니다. 그 일환인 GTC 현장 참석은 글로벌 빅테크 앞에 SK하이닉스의 기술력을 직접 각인시키는 공개 선언이었습니다.

젠슨 황 CEO의 기조연설이 끝난 뒤 전시장은 전 세계에서 몰려든 경영진, 엔지니어, 기자들로 가득 찼습니다. 저는 그 복잡한 인파 속에서 엔비디아 부스를 자세히 둘러보고 있는 최 회장을 가까이에서 지켜볼 기회가 있었습니다. 최 회장은 담당 임원과 대화를 나누며 ‘왜 이렇게 돼야만 하냐’는 식의 질문을 계속 이어 나갔습니다. 소음과 인파가 넘치는 전시장 한복판에서, 이해될 때까지 질문을 멈추지 않는 것이 굉장히 인상적이었습니다.

▲ 엔비디아 부스에서 질문을 이어가는 최태원 SK그룹 회장

SK하이닉스 부스에서는 또 다른 층위의 리더십을 보여주었다고 생각합니다. 최 회장은 SK하이닉스 곽노정 CEO와 함께 전시 제품들을 하나하나 직접 확인했습니다. HBM 패키지와 관련 설루션을 살피며, 궁금한 점이 생기면 곽노정 CEO와 부스 담당자에게 바로 물었습니다. 기자단의 즉석 질문에 대한 대응도 인상적이었습니다.

GTC는 AI가 세상의 물리적 기반을 재편하고 있는 지금 이 시대의 가장 상징적인 행사가 됐습니다. 아무리 잘 쓰인 보고서라고 하더라도 직접 눈으로 보고 발로 걸으며 접한 것과는 차이가 큽니다. 공급망의 핵심 노드를 직접 확인하고, 모르는 것에 솔직하게 질문하며, 자신이 이끄는 회사의 실물을 손으로 짚어보는 것. 저는 리더십은 듣기 좋은 선언이 아니라 현장에서 증명된다고 생각합니다.

AI 산업에 있어 인프라의 중요성은 갈수록 커지고 있습니다. 그리고 그 중심에는 HBM과 데이터 이동, 그리고 이를 실제 시스템으로 구현하는 기업들이 있습니다. AI 시대의 승패는 알고리즘이 아니라, 그 알고리즘을 현실로 끌어내리는 ‘물리적 역량’에서 갈릴 가능성이 크다고 생각합니다. 19세기 미국 캘리포니아 골드러시 때 살아남은 곳은 청바지와 곡괭이를 공급한 기업들이었던 것처럼 말입니다. GTC 2026 현장에서 직접 본 SK하이닉스의 전시와 기술 방향성은, 이 경쟁 구조의 핵심 축에 SK하이닉스가 이미 자리 잡고 있음을 보여주었습니다.