AI 기술 발전은 HBM(High Bandwidth Memory)과 떼 놓고 이야기할 수 없다. HBM은 수년 전부터 AI 산업을 지탱해 온 제품으로, 그 역할은 앞으로도 막중하다. 특히 세대를 거듭하며 새로운 형태로 진화하고 있어, 계속해서 AI 혁명의 중심에 설 것으로 기대된다.
AI 산업의 핵심 메모리, HBM의 주요 기술과 미래 경쟁력을 모색하기 위해 SK하이닉스 대학생 앰버서더(이하 앰버서더)가 고려대학교 신창환 교수를 만났다. 이 자리에서 앰버서더와 신 교수는 HBM이 무엇인지, 어떤 기술이 HBM을 가능하게 했는지, 앞으로는 어디까지 진화할 것인지 깊이 있게 이야기 나눴다.
HBM이 갑자기 부상한 이유는?
“대한민국 반도체 산업의 첨병으로서 AI 시대에 가장 많은 이익을 가져다 주는 D램의 파생 제품이 바로 HBM입니다.”
이날 특강은 HBM을 정의하는 것으로 문을 열었다. 신 교수는 “D램을 수직으로 쌓아 초당 전송 가능한 데이터양을 범용 D램보다 수백 배 늘린 제품”이라고 표현하며, “대한민국 반도체 산업의 최전선에서 이익을 창출하고 있다”고 설명했다.
HBM과 D램의 차이를 묻는 차승민 앰버서더의 질문에는 비행기와 지하철로 비유했다. 이어 “출입구가 하나인 비행기는 줄을 서서 20분을 기다려야 500여 명이 탑승하지만, 출입구가 많은 지하철은 30초 이내에 수천 명이 승하차한다”며 “HBM은 문 하나당 동시에 이동할 수 있는 데이터양, 즉 대역폭이 D램과 비교할 수 없는 수준”이라고 덧붙였다.
HBM이 급부상한 배경에 관한 이야기도 이어졌다. SK하이닉스가 HBM을 세계 최초로 개발한 것은 2013년이다. 이에 유동현 앰버서더가 “HBM이 나온 지 한참 되었는데, 왜 이제서야 주목받느냐”고 묻자, 신 교수는 “세계 최초였지만 당시에는 시장이 크지 않아 빛을 보지 못했다”며 “챗GPT를 비롯한 생성형 AI의 등장이 상황을 바꿨다”고 답했다.
“아무리 우수한 GPU가 있어도 메모리가 데이터를 제때 공급하지 못하면 AI 가속기 전체가 병목 현상에 시달리죠. 그 병목을 해결할 수 있는 제품이 바로 HBM이었던 것입니다.”
SK하이닉스 HBM의 정수, TSV와 MR-MUF란?
‘HBM의 핵심 기술’은 이번 특강에서 깊이 다룬 주제였다. 김대현 앰버서더는 “HBM 하면 빼놓을 수 없는 두 가지 기술이 TSV와 MR-MUF”라며 자세한 설명을 요청했다.
TSV(Through Silicon Via)는 D램 적층을 가능하게 한 기술이다. 기존에는 칩과 칩을 계단처럼 쌓고 와이어로 연결했는데, 배선이 길어질수록 지연 시간이 늘어나는 문제가 있었다. 이에 칩 가운데에 구멍을 뚫고 수직으로 쌓아 데이터 전송 통로(I/O)를 만드는 TSV 기술이 발전했다. HBM3E까지 1,024개였던 I/O는 HBM4에서 2,048개로 두 배 늘었다. 신 교수는 이를 ‘층마다 멈추지 않고 꼭대기까지 내달리는 초고속 엘리베이터 수천 대’에 빗댔다.
MR-MUF(Mass Reflow Molded Underfill)는 적층 과정에서 생기는 휨(Warpage) 현상을 해결하고, 방열 성능 및 양산성을 개선한 SK하이닉스의 독자적인 패키징 공법이다. 신 교수는 “SK하이닉스는 가접합 상태로 여러 개의 칩을 고정한 뒤 액체 상태의 물질을 주입해 한 번에 포장하는 MR-MUF 기술로 양산성과 시장 경쟁력을 확보했다”고 밝혔다.
“불가능하다고 여겨지던 MR-MUF를 어떻게 공정에 적용했느냐”는 곽정은 앰버서더의 질문에, 신 교수는 ‘SK하이닉스의 기업문화’를 꼽았다. 이어 “당시 HBM 개발 조직은 업계 전반적으로 주목받지 못했지만, SK하이닉스 경영진의 끊임없는 지원과 신입 엔지니어까지 의견을 모아 합의하는 원팀 스피릿 덕분에 기술 난제를 돌파할 수 있었다”고 전했다.
미래의 HBM은 어떤 모습?
HBM 기술의 한계와 미래에 대해서도 심도 있게 논의됐다. 신 교수는 ‘두께’와 ‘발열’을 핵심 과제로 짚었다. 스펙(Spec.)에 맞춰 성능을 높이려면 더 얇은 칩을 적층해야 하고, 이 과정에서 휨 현상이 심해지며 발열 관리도 어려워진다는 설명이다. 이를 극복하기 위한 차세대 기술로는 ‘하이브리드 본딩(Hybrid Bonding)’을 지목했다.
“기존에는 칩과 칩 사이에 범프(작은 돌기)를 두어 연결했다면, 하이브리드 본딩은 범프 없이 칩 표면의 구리와 구리를 직접 맞붙이는 방식이에요. 간격 자체가 사라지므로 층수를 늘려 성능을 높여도, 전체 두께는 오히려 얇아지죠.”
HBM4에 적용된 로직 베이스 다이(Logic Base Die)와 HBM4E부터 적용될 10나노미터급 6세대(1c) D램도 핵심 경쟁력으로 꼽았다. 로직 다이 덕분에 고객이 원하는 성능을 추가한 커스텀 HBM(cHBM)을 개발할 수 있고, 1c D램을 통해 속도와 효율을 더욱 끌어올릴 수 있다는 것이 신 교수의 설명이다.
▲ 신창환 고려대학교 전기전자공학부 교수
앰버서더들의 질문은 AI 산업의 미래로도 이어졌다. 신 교수는 “메모리가 연산의 중심이 되는 구조로 컴퓨팅 패러다임이 바뀔 것”이라고 내다봤다. 이와 함께 “SK하이닉스가 풀 스택 AI 메모리 크리에이터(Full-Stack AI Memory Creator)로 비전을 바꾼 것도 ‘메모리 기업’을 넘어 컴퓨팅 패러다임의 정점에 서겠다는 방향성이 담긴 것”이라고 강조했다.
마지막으로 신 교수는 미래인재로 성장하기 위한 조언도 건넸다.
“전기 · 전자, 신소재, 화학 공학 같은 전공이 아니어도 환경, 전력, 건설 등 반도체 산업이 필요로 하는 분야는 많습니다. 본인 전공을 살려 함께할 수 있는 일을 찾아보면 분명 길이 있을 것입니다. 미래의 SK하이닉스에서 리더 역할을 기대하며, SK하이닉스와 함께하지 않더라도 대한민국 AI 산업의 인재가 되어 주길 부탁합니다.”
