SK하이닉스 이규제 부사장 “차세대 패키징 기술로 HBM 1등 성공신화 이어갈 것”

초고속 D램 HBM은 AI 시스템을 구현하는 메모리의 기술 한계를 돌파하게 한 주역으로, 지금의 AI 시대를 가능하게 해준 대표적인 AI 반도체 중 하나다. 생성형 AI와 함께 벼락같이 등장한 ‘히트상품’이라 보여지기도 하지만, 사실 HBM은 10년 넘는 오랜 기간 동안 수많은 기술 전문가들이 혼신의 힘을 다해 협업해 완성한, 반도체 기술 혁명의 산물이다.

SK하이닉스는 11년 전 세계 최초로 HBM을 개발한 이후 차세대 기술 개발을 선도했고, 올해 3월에는 현존 최고 성능의 5세대 HBM3E를 가장 먼저 양산해 공급하며 이 시장을 주도하고 있다.

이처럼 SK하이닉스가 이 분야 1등 리더십을 구축한 배경에는 오래 전부터 TSV, MR-MUF 등 주요 패키징 기술을 준비해 온 회사의 혜안이 있었다. 뉴스룸은 PKG제품개발 담당 이규제 부사장을 만나 SK하이닉스가 AI 메모리 패키징에서 이루어 가고 있는 기술 혁신에 관해 이야기를 나눴다.

▲ SK하이닉스 PKG제품개발 담당 이규제 부사장

과감한 패키징 기술 투자와 연구개발로 HBM 1등의 초석을 다지다

 ▲SK하이닉스의 주요 HBM 패키징 기술

SK하이닉스는 2013년 세계 최초로 개발한 1세대 HBM 제품에 TSV 기술을 적용했다. TSV는 여러 개의 D램 칩에 수천 개의 구멍을 뚫고 이를 수직 관통 전극으로 연결해 HBM의 초고속 성능을 구현해 주는 핵심 기술이다.

TSV는 이미 20여 년 전부터 기존 메모리의 성능 한계를 극복해 줄 차세대 기술로 주목받았지만, 곧바로 상업화된 기술로 부상하지는 못했다. 인프라 구축의 어려움과 투자비 회수 불확실성 등 난제로 누구도 선뜻 개발에 나서지 못했기 때문이다. 이규제 부사장은 당시 상황에 대해 ‘커다란 호수 주변에서 누가 먼저 물에 뛰어들지 서로 눈치를 보며 기다리는 아이들과 같았다’고 표현했다.

“SK하이닉스도 처음에는 망설이는 회사들 중 하나였습니다. 하지만 우리는 미래 시장에 대비하기 위해서는 고성능과 고용량을 동시에 구현할 수 있는 TSV 기술과 적층(Stacking)을 포함한 WLP* 기술을 동시에 확보해야 한다고 판단하고, 2000년대 초반부터 적극적인 연구에 들어갔습니다.”

* WLP(Wafer Level Packaging): 웨이퍼를 칩 단위로 잘라 칩을 패키징하는 기존의 컨벤셔널 패키지(Conventional Package)에서 한 단계 발전한 방식으로, 웨이퍼 상(Wafer Level)에서 패키징(Packaging)을 마무리해 완제품을 만드는 기술

2010년대로 접어들며, 고성능 GPU(그래픽 연산장치) 컴퓨팅 시장의 성장과 함께 이를 지원할 수 있는 고대역폭(High Bandwidth) 니어 메모리(Near-memory)*가 필요하다는 목소리가 시장에서 나오기 시작했다. SK하이닉스는 이러한 요구에 부응하기 위해 TSV와 WLP 기술을 접목한 새로운 제품 개발에 착수했고, 마침내 기존 최고속 그래픽 D램 제품인 GDDR5보다 4배 이상 빠르며, 전력 소모량은 40% 낮고, 칩 적층을 통해 제품 면적을 획기적으로 줄인 최초의 HBM을 탄생시키기에 이르렀다.

* 니어 메모리(Near-memory): 연산장치(프로세서)에 가깝게 밀착된 메모리로, 더 빠른 데이터 처리가 가능함

MR-MUF부터 어드밴스드 MR-MUF까지... HBM 성공을 견인하다

이처럼 SK하이닉스가 처음으로 HBM 시대를 열긴 했지만, 본격적으로 시장이 열리고 회사가 주도권을 잡게 된 시점은 3세대 제품인 HBM2E 개발에 성공한 2019년이 되어서였다. 이때를 기점으로 SK하이닉스는 확실한 업계 우위를 점했다는 평가를 받게 됐다. 그러나 이 부사장은 성과를 이루기까지의 과정이 결코 순탄치만은 않았다고 회상했다.

▲ SK하이닉스 PKG제품개발 담당 이규제 부사장

“HBM을 최초로 개발하는 데는 성공했지만, 이어서 시장과 고객이 만족할 만한 수준 이상으로 품질과 양산 역량을 끌어 올려야 했습니다. 이를 위해 소재 적용의 안정성, 기술 구현의 난이도 측면에서 기존 대비 더 우수할 것으로 예상되는 새로운 패키징 기술을 개발하게 되었죠. 그런데 예기치 않게 초기 단계에서부터 신뢰성 확보에 어려움을 겪게 되면서 새로운 돌파구를 찾아야 했습니다.

그때 마침 회사에서 기술 로드맵에 따라 함께 개발하고 있던 MR-MUF* 기술이 있었습니다. 신속한 고객 대응을 위해 유관 부서의 리더들이 빠르게 기술 관련 데이터와 시뮬레이션 결과를 분석, MR-MUF의 안정성을 검증해 냈고, 경영진과 고객을 설득해 적기에 이 기술을 3세대 HBM2E에 적용할 수 있게 된 거죠.”

* MR-MUF(Mass Reflow Molded Underfill): 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 공간 사이에 액체 형태의 보호재를 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적이라는 평가

▲ SK하이닉스 PKG제품개발 담당 이규제 부사장

이 부사장은 “개발진을 믿고 기다려준 경영진과 고객 덕분에 결국 당사 고유의 기술인 MR-MUF가 성공적으로 세상에 나올 수 있었다”며 “이를 통해 품질과 성능 측면에서 매우 안정적인 HBM2E의 양산과 공급이 가능해졌다”고 말했다.

MR-MUF가 적용된 HBM2E는 HBM 시장의 판을 바꾸기 시작했고, 결국 MR-MUF는 SK하이닉스의 ‘HBM 성공신화’를 가능하게 만든 주역이 되었다.

▲ MR-MUF 기술 로드맵을 설명하는 SK하이닉스 PKG제품개발 담당 이규제 부사장

회사는 지난해 4세대 12단 HBM3와 5세대 HBM3E 개발에 연이어 성공하며 독보적인 HBM 1등 리더십을 지켜오고 있다. 성공의 1등 공신은 MR-MUF 기술을 한 번 더 고도화한 ‘어드밴스드(Advanced) MR-MUF*’라고 이 부사장과 기술진은 첫손에 꼽는다.

* 어드밴스드(Advanced) MR-MUF: 기존 칩 두께 대비 40% 얇은 칩을 휘어짐 없이 적층할 수 있는 칩 제어 기술(Warpage Control)이 적용되었으며, 신규 보호재를 통해 방열 특성까지 향상된 차세대 MR-MUF 기술

“12단 HBM3부터는 기존보다 칩의 적층을 늘렸기 때문에, 방열 성능을 더욱 강화해야 했습니다. 특히, 기존 MR-MUF 방식으로는 12단 HBM3의 더 얇아진 칩들이 휘어지는 현상 등을 다루기 쉽지 않았습니다.

이러한 한계를 극복하기 위해 회사는 기존의 MR-MUF 기술을 개선한 어드밴스드 MR-MUF 기술을 개발했습니다. 이를 통해 지난해 세계 최초로 12단 HBM3 개발 및 양산에 성공했으며, 이어 올해 3월 세계 최고 성능의 HBM3E를 양산하게 되었습니다. 이 기술은 하반기부터 AI 빅테크 기업들에 공급될 12단 HBM3E에도 적용되고 있으며, 이후 활용 범위가 더 넓어지면서 SK하이닉스의 HBM 1등 기술력을 더 공고히 하는 데 힘이 되어줄 것입니다.

얼마 전 MR-MUF가 고단 적층은 구현하기 어렵다는 소문이 업계에 돌았던 적이 있습니다. 이 때문에 우리는 MR-MUF가 고단 적층에도 최적의 기술이라는 사실을 고객과 소통하는 데 힘을 쏟았고, 그 결과 이는 고객의 신뢰를 재확인하는 계기가 되기도 했습니다.”

미래 커스텀(Custom) 제품 개발을 위한 차세대 기술력과 고객 파트너십 강화

▲ SK하이닉스 PKG제품개발 담당 이규제 부사장이 수상한 SK그룹 ‘2024 SUPEX추구대상’

이렇게 오랜 기간에 걸쳐 이루어낸 HBM 개발 공적으로, 이 부사장은 지난 6월 회사의 HBM 핵심 기술진과 함께 SK그룹 최고 영예인 ‘2024 SUPEX추구대상’을 수상했다. 그는 “제품 성공을 위해 많은 구성원들이 원팀(One Team)이 되어 노력해 온 덕분”이라고 소감을 전했다.

이 부사장은 여기에 만족하거나 안주해서는 안 된다고 말한다. 앞으로도 SK하이닉스가 HBM 리더십을 지켜가려면 지속적으로 늘어나는 커스텀(Custom) 제품 요구에 적기 대응하기 위해 다양한 차세대 패키징 기술을 개발하는 것이 중요하다고 강조했다.

“표준 규격에 따라 제품 두께는 유지하면서도 성능과 용량을 높이기 위한 칩 고단 적층의 방편으로 최근 하이브리드 본딩* 등 차세대 패키징 기술이 주목받고 있습니다. 위 아래 칩간 간격은 좁아지지만, 칩간 접합면의 절연물질(Passivation)과 전도물질(Metal) 간의 비율에 따른 접합 신뢰성과 방열 특성 간의 반대급부(Trade-off) 문제는 여전히 해결해야 할 과제임에도,  점점 더 다양해지는 고객의 성능 요구를 충족시킬 솔루션으로 기대를 모으고 있습니다.

SK하이닉스도 방열 성능이 우수한 기존 어드밴스드 MR-MUF를 지속적으로 고도화하는 한편, 새로운 기술들을 확보해 나갈 계획입니다.”

* 하이브리드 본딩(Hybrid Bonding): 칩을 적층할 때, 칩과 칩 사이에 범프를 형성하지 않고 직접 접합시키는 기술. 이를 통해 칩 전체 두께가 얇아져 고단 적층이 가능해지며, 16단 이상의 HBM 제품에서 필요성이 검토되고 있음. SK하이닉스는 어드밴스드 MR-MUF와 하이브리드 본딩 방식을 모두 검토하고 있음.

▲ SK하이닉스 PKG제품개발 담당 이규제 부사장

끝으로, 이 부사장은 고객과의 긴밀한 소통과 협업이야말로 SK하이닉스의 저력이자 앞으로도 계속 강화해야 할 경쟁력이라고 강조했다.

“SK하이닉스가 HBM 시장을 선점할 수 있었던 가장 큰 원동력은 품질과 양산 경쟁력을 갖춘 제품을 고객이 원하는 시기에 제공했기 때문이라고 생각합니다. 기술력 확보는 물론 고객과의 지속적인 소통 덕분에 가능했던 것이죠.

패키징 개발 조직에서도 고객과 이해관계자의 니즈(Needs)를 빠르게 파악해 제품 특성에 반영하고 있습니다. 이러한 노력에 회사 고유의 협업 문화를 더한다면, 어떤 상황에서도 강력한 힘을 발휘할 수 있을 것이라고 봅니다. 저 역시 제 모토인  ‘Feel Together, Move Vigilantly(함께 느끼고, 기민하게 대응하자)’를 구성원들과 공유하며 SK하이닉스 패키징의 미래를 준비해 나가겠습니다.”