SK하이닉스 HBM 기술개발 주역 박명재 부사장, “HBM 성공신화 비결은 우리만의 압도적 기술력”

SK하이닉스는 지난 3월부터 최고 성능 HBM3E*를 양산하고, 다음 세대 제품인 HBM4의 양산 시점을 내년으로 앞당기면서 ‘글로벌 No.1 AI 메모리 프로바이더(Global No.1 AI Memory Provider)’의 입지를 굳건히 다지고 있다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직관통전극(TSV, Through Silicon Via)으로 연결해 고대역폭을 구현한 메모리로, 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발됨. HBM3E는 HBM3의 확장(Extended) 버전

HBM이 본격적으로 세상에 알려진 건 생성형 AI가 기술 업계 판도를 흔들기 시작한 2~3년 전부터다. 그러다 보니 SK하이닉스 HBM을 두고 ‘벼락 성공’으로 보는 시각도 있다. 하지만 사실 회사가 이 분야 정상에 오른 배경에는 최고의 기술진이 15년 이상 HBM 연구·개발에 집중하며, 갈고 닦은 고유의 기술력이 자리 잡고 있다.

뉴스룸은 HBM설계 담당 박명재 부사장을 만나 SK하이닉스 HBM의 성공 스토리에 관해 이야기 나눠봤다.

HBM 시초부터 최고의 자리까지, 절치부심으로 다져온 기술력

▲ SK하이닉스의 HBM 개발 연혁

SK하이닉스의 HBM이 처음 세상에 나온 건 2013년 12월의 일이다. 그보다 앞선 2009년, 고성능 메모리 수요가 증가할 것으로 내다본 회사는 이를 구현할 기술로 TSV*에 주목했고, 4년여의 개발 끝에 2013년 세계 최초로 TSV에 기반한 1세대 HBM을 내놓는다.

* TSV(Through Silicon Via): D램 칩에 수천 개의 미세 구멍을 뚫어 상하층 칩의 구멍을 수직 관통하는 전극으로 연결하는 기술

하지만 SK하이닉스가 HBM으로 주목받기까지는 이후로도 많이 세월이 흘러야 했다. 2010년대에는 당시로선 ‘필요 이상으로’ 속도가 빠르고 용량이 큰 HBM을 받아들일 만큼 컴퓨팅 시장이 성숙하지 못했기 때문이다. 이러다 보니 회사가 2세대 제품인 HBM2를 개발하는 데 난항을 겪었던 시기에는 HBM에 대한 우려의 목소리가 나오기도 했다. 박명재 부사장은 당시를 ‘위기 속에서 기회를 발견한 시기’라고 표현했다.

▲ SK하이닉스 HBM설계 담당 박명재 부사장

“2010년대 중후반 HBM설계 조직은 공공연히 오지로 불렸습니다. 회사가 HBM2를 개발하는 과정에서 어려움을 겪고 있었고, 무엇보다 시장 성장이 예상보다 더뎠던 탓입니다. 이 사업에 대한 우려가 커지면서 업계에서는 비관론이 쏟아졌죠. 하지만 우리는 HBM이 SK하이닉스 고유의 기술력을 보여줄 기회이며, 최고의 제품만 개발하면 이를 활용할 서비스는 자연스레 생길 것이라고 확신했습니다. 이것이 HBM2E를 비롯해 후속 제품들의 개발을 밀고 나가는 원동력이 되었습니다.”

박 부사장은 이 과정에서 ‘성공의 키(Key)는 고객과 시장이 요구하는 것보다 월등히 높은 수준의 1등 성능을 확보하는 것’이라는 교훈을 얻었다. 그리고 이를 위해 절치부심하며 HBM2E 개발에 나섰다고 회상했다.

“HBM2E부터는 외부 기대치보다 훨씬 높은 수준을 목표로 잡고 협업을 강화했습니다. 복잡하고 어려운 기술을 조화롭게 접목해야 하는 HBM의 경우, 유관 조직과의 협업으로 난제를 풀고 시너지 효과를 높이는 게 특히 중요했죠. 덕분에 많은 기술 발전을 이뤘는데요. MR-MUF*, HKMG*, Low-K IMD* 등 주요 요소 기술과 현재의 기틀이 된 설계 및 테스트 기술들이 모두 이때 기반을 다지게 되었습니다.”

* MR-MUF(Mass Reflow Molded Underfill): 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 공간 사이에 액체 형태의 보호재를 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적이라는 평가. 특히, SK하이닉스의 어드밴스드 MR-MUF는 기존 공정보다 칩을 쌓을 때 가해지는 압력을 줄이고, 칩의 휨 현상 제어(Warpage Control)도 향상해 HBM 공급 생태계 내에서 안정적인 양산성을 확보하는 데 핵심이 되고 있음

* HKMG(High-K Metal Gate): 유전율(K)이 높은 물질을 D램 트랜지스터 내부의 절연막에 사용해, 공정 미세화로 인해 발생하는 누설 전류를 막고 정전용량(Capacitance, 데이터 저장에 필요한 전자량)을 개선한 차세대 공정. 처리 속도를 빠르게 하면서도 소모 전력을 줄일 수 있음

* Low-K IMD(Low-K Inter Metal Dielectrics): 유전율(K)이 낮은 물질을 반도체 칩 내부 배선 사이에 삽입해 전기적 간섭을 줄이고 성능을 향상시키는 기술

독자 기술로 HBM 르네상스의 포문을 열다

2020년대 초반, 시장에서는 메모리 업체 간 HBM3 주도권 경쟁이 치열해질 것으로 예상했지만, 결과는 예상 밖으로 흘러갔다. 공격적인 기술 개발 및 투자를 지속해 온 SK하이닉스가 1위 굳히기에 성공한 것이다.

▲ SK하이닉스 HBM설계 담당 박명재 부사장

“당시 SK하이닉스는 기술력은 물론, 고객 관계 및 품질 측면에서도 계속해서 혁신을 시도했습니다. 마침내 압도적인 성능과 특성을 앞세운 HBM3로 높은 시장 점유율을 확보했고, HBM 1위의 지위를 확실히 인정받게 되었습니다.”

이후 ‘HBM 성공신화’는 거침없이 이어졌다. 회사는 세계 최고 용량 12단 HBM3를 개발한 지[관련기사] 4개월 만인 2023년 8월 HBM3E를 공개하며[관련기사] 제품이 시장에 나오기까지 걸리는 시간(Time to Market)을 획기적으로 단축했다.

“AI 기업 간 경쟁에 불이 붙으면서 우리는 HBM을 개발하는 데도 속도를 낼 수밖에 없는 상황이었죠. 이에 SK하이닉스는 설계 검증의 혁신을 거듭하면서 제품 설계 완성도를 높이고, 개발 및 양산 초기부터 고객사와 협력하는 등 많은 노력을 기울였습니다. 그 결과 올해 3월, HBM3E 양산에 이어 고객에게 가장 먼저 제품을 공급할 수 있었습니다.”

박 부사장은 이 같은 성공의 비결은 ‘성능, 품질, 시장 대응력’임을 강조했다.

“SK하이닉스의 HBM은 업계 최고의 속도, 성능을 갖췄습니다. 특히 여기에 적용된 당사 고유의 MR-MUF 기술은 고성능으로 인한 발열을 가장 안정적으로 줄여 세계 최고 성능 구현에 기여했죠. 게다가 우리 회사는 준수한 품질의 제품을 대량 생산하는 능력도 빠르게 갖췄습니다. 또, 고객 대응 수준은 타의 추종을 불허하는데요. 이러한 종합적인 경쟁 우위가 HBM3E를 명품 반열에 올렸다고 생각합니다.”

이와 함께, 구성원 모두가 자만에 빠지지 않고 원 팀(One Team)이 되어 기술 혁신에 매진해 온 것도 큰 역할을 했다고 박 부사장은 말했다.

▲ SK하이닉스 HBM설계 담당 박명재 부사장

“우리 회사는 HBM 2세대를 제외하곤 줄곧 1등으로서 후발 주자를 따돌리기 위해 노력해 왔습니다. 특히 세대마다 성능은 50% 높이면서 전력 소모는 기존 수준을 유지하고자 노력했는데요. 불가능에 가까워 보였지만 패키지, 미래기술연구원 등 많은 조직이 힘을 보태면서 해낼 수 있었습니다. 또, 개발과 양산에 문제가 생기면 이 분야 전문성을 가진 조직들이 솔루션을 도출해 주었죠. 이런 협업 시스템이 있었기에 세계 최고 성능의 HBM3E가 나올 수 있었다고 봅니다.”

▲ 지난 6월 5일 SK그룹 ‘2024 SUPEX추구 대상’ 수상자들과 최고경영진. 왼쪽부터 SK하이닉스 곽노정 CEO, 박명재 부사장, 박문필 부사장, 이규제 부사장, 정창손 팀장, 김귀욱 팀장, SK그룹 SUPEX추구협의회 최창원 의장. (사진출처: SK그룹)

이러한 노력 덕분에 박 부사장은 HBM 개발 공로를 인정받고, 지난 5일 회사 핵심 기술진과 함께 SK그룹 최고 영예인 ‘2024 SUPEX추구 대상’을 받았다.

“제품 개발에 기여해온 수많은 구성원을 대표해서 SUPEX추구 대상을 수상하게 되어, 송구스럽고 감사하게 생각합니다. HBM은 우리의 압도적인 기술력을 보여줄 뿐만 아니라, AI 기술 발전을 이끌며 사회 전체에 크게 기여한 제품입니다. 앞으로도 회사가 이 같은 역할을 주도할 수 있도록 최선을 다하겠습니다.”

커스텀(Custom) 제품으로 변화하는 차세대 HBM… 지속 혁신으로 1등 지켜간다

박 부사장은 얼마 전 HBM 개발과 관련돼 항간에 돌았던 루머에 대해 ‘사실무근’이라고 명확히 짚으면서 앞으로도 경쟁 우위를 확고히 지켜가겠다는 의지를 다졌다.

“SK하이닉스의 HBM은 지난 15년간 구성원들이 피땀 흘려 쌓은 기술력의 결실입니다. 얼마 전 경쟁사의 HBM팀이 당사로 넘어와 기술을 개발했다는, 사실무근의 루머가 있었는데요. 온전히 우리 힘으로 기술 개발을 해낸 당사 구성원들로서는 자존심에 상처를 받을 수밖에 없었습니다. SK하이닉스 HBM은 명확하게 당사 자체 기술이며, 당시 경쟁사에서 우리 HBM 설계 조직에 들어온 인력은 1명도 없습니다. 우리 기술력이 그만큼 대단하기에 헛된 루머가 돌 정도로 유명세를 치렀다고 생각하며, 앞으로도 우위를 지키기 위해 더욱 노력하겠다고 마음을 다집니다.

현재 위상을 지키고 강화하려면 지속적인 혁신이 필수입니다. 특히 HBM이 커스텀(Custom) 제품으로 다양해짐에 따라 앞으로 고객 및 파운드리 업계와의 협업이 더욱 중요해질 것입니다. 이러한 변화 속에서도 시장 리더십을 지킬 수 있도록 트렌드에 발맞추며 흔들림 없이 달려 나가고자 합니다.”

▲ SK하이닉스 HBM설계 담당 박명재 부사장

끝으로, 박 부사장은 HBM 외의 차세대 AI 기술에 대한 자신감과 함께 미래 포부를 밝혔다.

“HBM뿐 아니라 CXL*, PIM*, 3D D램 등 다양한 AI 메모리 기술이 앞으로 새로운 기회를 창출할 것이며, 회사는 이러한 차세대 AI 메모리 분야에서도 선도 지위를 지킬 준비가 되어 있습니다.

돌이켜보면, HBM은 당사 비즈니스 영역을 고부가가치 사업으로 확장한 시발점이기도 합니다. 자부심과 책임감을 동시에 느끼는데요. 앞으로도 HBM설계 조직은 현재에 안주하지 않고 구성원들과 오래도록 다져온 기술력과 협업 시스템을 믿고 혁신을 거듭할 것입니다. 이를 통해 SK하이닉스가 전체 AI 산업을 이끄는 핵심 기업으로 성장하도록 노력하겠습니다.”

* CXL(Compute Express Link): 고성능 컴퓨팅 시스템 구현을 위해 메모리와 여타 장치간 인터페이스를 하나로 통합해 대역폭(데이터 송수신 통로)과 용량을 더 쉽게 확장해주는 기술

* PIM(Processing-In-Memory): 메모리에 프로세서의 연산 기능을 추가한 차세대 지능형 반도체