2013년 첫 등장해 프리미엄 메모리 시대를 연 HBM(High Bandwidth Memory)이 또 한 번 진화했다. SK하이닉스가 지난해 10월 업계 최초로 4세대 HBM 제품인 ‘HBM3’ 개발에 성공한 지 7개월 만에 고객 인증을 모두 마치고 양산에 돌입한 것. SK하이닉스는 이를 통해 이전 세대인 HBM2E부터 이어온 이 시장의 주도권을 계속 가져갈 수 있을 것으로 기대하고 있다.
뉴스룸은 HBM3 개발 및 양산을 이끈 김왕수 PL(IPM기획), 박명재 PL(HBM Design), 김귀욱 PL(Graphic&HBM개발PI), 박진우 PL(WLP PKG제품), 허진원 PL(HBM/Graphics Enablement)을 만나, 제품 개발 및 양산 과정과 비하인드 스토리를 들어봤다.
HBM(High Bandwidth Memory)은 기존 D램 제품 대비 더 많은 데이터 전송 통로(I/O)를 확보해, 고대역폭(High Bandwidth)을 구현한 프리미엄 메모리다. 한번에 많은 양의 데이터를 전송할 수 있어, 데이터 처리속도가 매우 빠르다는 장점이 있다.
HBM은 세대가 바뀔 때마다 처리 속도가 계속 빨라지고 있다. 1세대 HBM에서 1Gbps였던 핀(Pin)당 데이터 전송률은 4세대인 HBM3에서 6.4Gbps로 향상돼, 초당 819GB의 데이터 처리가 가능해졌다. 이는 FHD(Full-HD)급 영화(5GB) 163편 분량의 데이터를 1초 만에 처리하는 수준으로, 이전 세대인 HBM2E의 3.6Gbps와 비교해도 2배 가까이 빨라졌다.
용량 역시 계속 늘고 있다. HBM2E에서는 16GB가 최대 용량이었지만, HBM3에서는 16GB 제품과 함께 업계 최대인 24GB 용량의 제품이 함께 출시될 예정이다. D램 셀(Cell)에 전달된 데이터 오류를 스스로 보정할 수 있는 오류정정코드(On-Die ECC, Error Correction Code)가 내장돼 제품의 신뢰성도 향상됐다.
이처럼 고성능을 구현할 수 있었던 배경에는 ‘TSV(Through Silicon Via, 실리콘관통전극)’ 기술이 있다. TSV 기술은 D램 칩(Chip)에 수천 개의 미세한 구멍을 뚫고 이를 관통하는 전극으로 여러 개의 칩을 연결해 데이터를 전달한다. 여러 개의 칩을 외부 와이어로 연결해 데이터를 전달하는 기존 방식 대비 신호 전달 속도가 빠르고, 집적도(Density)를 확보하기도 훨씬 용이하다.
무엇보다 HBM3가 HBM2E와 가장 차별되는 지점은 제품의 스펙(SPEC, specification의 준말) 자체가 업그레이드됐다는 점이다. 기존 HBM2의 스펙으로는 더 이상 처리 속도나 용량 등 성능을 향상할 수 없는 한계에 도달해, 아예 새로운 스펙을 도출한 것.
▲IPM기획 김왕수 PL
HBM3 상품기획 업무를 담당한 김왕수 PL은 “HBM2 스펙에서 HBM2E보다 성능을 개선하려면 제품 크기가 더 커지거나 전력 소모가 늘어야 해, HBM3 개발 단계에서는 기존과 거의 동일한 환경에서 성능을 향상시킬 수 있는 새로운 스펙을 정하고 이를 구현했다”며 “이를 통해 HBM2에서 HBM2E가 파생된 것처럼 추후 동일 스펙 안에서 추가적으로 성능을 개선할 수 있는 가능성도 확보했다”고 설명했다.
SK하이닉스가 HBM 시장에서 오랜 기간 경쟁 우위를 유지할 수 있었던 비결은 무엇일까? HBM3 개발진 모두 ‘철저한 사전 준비’와 ‘협업 중심 개발 문화’를 그 비결로 꼽았다.
HBM3의 소자 개발을 담당한 김귀욱 PL은 “상품기획 단계부터 개발 부서가 모두 참여해 필요한 요소 기술을 미리 확보할 수 있었다”며 “개발 중 막히는 부분에 대해서도 파트와 상관없이 자신의 일처럼 서로 도왔기에 목표치를 최고 수준으로 끌어올릴 수 있었다”고 당시의 분위기를 전했다.
▲Graphic&HBM개발PI 김귀욱 PL
“몇 마이크로 단위의 셀간 간격을 결정하는 문제로 파트마다 의견이 갈려 합의점을 찾기까지 몇 달이 걸렸던 적도 있습니다. 회의 중 고성이 오갈 때도 많아 감정의 골이 깊어지지 않도록 술자리도 자주 가졌죠(웃음). 모두 각자의 영역에서 최선의 성과를 내기 위해 고민하는 부분이 있고, 또 그런 고민의 결과들을 합쳤을 때 최고의 효율이 나는지 살펴보는 과정이었습니다. 그런 시간들이 있었기에 지금의 HBM3가 탄생할 수 있었죠”
HBM3의 스펙을 결정하고 JEDEC(Joint Electron Device Engineering Council, 국제반도체표준협의기구)과 협의해 이를 국제 표준으로 등록하는 과정에서도 JEDEC 규격 협의를 담당한 상품기획 파트와 설계 파트 간의 ‘협업’이 빛을 발했다.
HBM3의 설계를 맡은 박명재 PL은 “HBM3의 경우 참고할 만한 선행 제품 없이 ‘First Mover’로서 기술 트렌드를 주도해야 하는 입장이어서, 설계 파트에서 자체적으로 스펙을 만들어가면서 동시에 그 스펙을 JEDEC 규격화하는 작업을 수행해야 했다”며 “상품기획 파트와 긴밀하게 소통했기에 합의점을 잘 찾아갈 수 있었던 것 같다”고 당시를 돌아봤다.
▲HBM Design 박명재 PL
“여러 가능성과 상황을 고려해 설계 범위를 넓혀 두고 스펙을 만들어가는 과정이 정말 힘들었어요. 한 번은 JEDEC과 협의를 모두 마친 스펙을 개발 과정에서 구현하지 못해 그 부분을 다시 설계하고 JEDEC이 받아들이도록 설득해야 했던 적도 있어요. 상품기획 파트와 마라톤 회의를 진행하며 JEDEC과 협의 과정에서 나올 수 있는 모든 경우의 수를 도출했고, 세부적인 협상 시나리오까지 만들었습니다. 최악의 경우에는 처음부터 다시 개발한다는 마음으로 각오도 다졌죠. 그런 노력 덕분에 다행히 JEDEC과 재협의를 잘 마칠 수 있었습니다”
설계에 따라 제품을 개발하는 과정도 순탄하지만은 않았다. 누구도 가보지 않은 길을 가장 먼저 걸어가고 있다 보니 그만큼 시행착오도 많았던 것. 특히 HBM3의 경우 SK하이닉스의 제품 중 피치(Pitch, 신호와 신호 사이의 간격)가 가장 좁은 제품이어서 기술적 난이도가 매우 높은 제품이었고, 이 때문에 패키지 파트에서 기존 Pitch에서는 한 번도 경험해보지 못한 불량이 발생해 해결에 어려움을 겪기도 했다.
HBM3의 패키지 개발을 담당한 박진우 PL은 “실험을 통해 아주 사소한 동작 메커니즘, 미세한 수치를 하나씩 바꿔가며 불량의 참 원인이 무엇인지 찾는 과정은 시간과 집중력을 정말 많이 소모해야 하는 일”이라며 “설계, 소자, 품질보증, GSM 등 각 파트에서 자기 일처럼 고민해주고 실험 과정에서도 참 많은 도움을 줘 큰 힘이 됐다”고 당시를 회상했다.
▲WLP PKG제품 박진우 PL
“정해진 개발 기한은 다가오고 실험 횟수가 수백 회가 넘어가는 데도 불량 원인이 도출되지 않아 스트레스를 많이 받을 때였어요. 막막할 때면 잠깐씩 바람을 쐬러 갔다 오곤 했는데, 그럴 때면 다른 개발 파트의 동료가 책상 위에 ‘힘내라’는 메모와 함께 커피 한 잔을 조용히 놓아두기도 했죠. 힘들고 포기하고 싶어질 때마다 동료들이 건네준 따뜻한 격려의 말들을 떠올리며 버틸 수 있었습니다. 실제로 어떻게든 도움이 되고 싶어 꼼꼼하게 정리해준 다른 개발 파트의 자료를 검토하다가 실험 아이디어를 떠올린 적도 많았습니다”
HBM은 고객사의 제품에 SiP(System in Package) 형태로 탑재되는 제품으로, 고객 인증 단계에서 동작이나 성능에 문제가 없는지 확인하는 데 오랜 시간이 소요된다. 이런 과정을 거쳐 먼저 규격화를 완료하면 초기 독점적인 지위를 확보할 수 있고, 이후 경쟁에서도 유리한 고지를 점할 수 있다. SK하이닉스의 HBM2E 제품이 시장 진입 초기 압도적인 시장점유율을 확보할 수 있었던 것도 이러한 시장의 특수성 덕분이었다.
김귀욱 PL은 “SK하이닉스는 HBM2E에 이어 HBM3에서도 가장 먼저 개발과 양산에 성공함으로써 다시 한번 경쟁 우위를 가져올 수 있게 됐다”며 “시장 상황에 따라 다르지만 이러한 선점 효과는 상당기간 이어질 수 있다”고 예측했다.
▲HBM/Graphics Enablement 허진원 PL
기대 이상의 성과에 잠시 안주할 수도 있는 상황이지만, HBM3 개발진들은 벌써부터 다음 스텝을 준비하고 있다.
HBM3의 고객 인증 업무를 맡은 허진원 PL은 “HBM 제품은 개발 완료 전부터 SoC(System on Chip) 업체를 비롯한 고객과의 밀접한 협업이 중요하고, 개발 조직은 물론 품질 조직과의 끊임없는 피드백을 통해 성능과 품질 완성도를 확보하는 것이 핵심”이라며 “HBM 시장에서 1등 경쟁력을 유지하기 위해 제품 인증 중에 발생하는 사항을 신속하게 해결하고, 나아가 HBM 제품의 시장 확대에도 기여할 수 있도록 더욱 힘쓰겠다”고 힘주어 말했다.
또한 명실상부한 HBM 시장의 ‘First Mover’로서 쌓은 성공 경험을 전사적으로 확산하는 데에도 더 많은 노력을 기울일 계획이다.
김왕수 PL은 “HBM3를 개발하면서 얻은 가장 중요한 자산은 ‘First Mover’로서 시장을 주도해 본 경험”이라며 “그 과정에서 잘 조성된 좋은 개발 문화가 전사적으로 퍼지고 뿌리내려 SK하이닉스의 발전의 자양분이 되길 바란다”고 말했다.
“AI 시대가 생각보다 훨씬 빠르게 다가오고 있습니다. 실시간 번역 서비스, 다양한 큐레이션 서비스 등 대중들이 체감할 수 있는 분야도 점점 늘어나고 있죠. 이러한 기술들을 현실에 구현하려면 엄청난 양의 데이터가 필요하고, AI 모델의 사이즈도 계속 더 커져야 합니다. 이에 따라 데이터를 효율적으로 저장하고 더 빠르게 처리하는 데 필요한 기반 기술에 대한 고객들의 요구사항도 지속적으로 커질 것으로 예상됩니다. 이러한 수요를 현존하는 최고의 기술 수준으로 지원할 수 있는 솔루션이 바로 HBM입니다.
HBM2E에서 HBM3로 전환되면서 늘어난 대역폭(Bandwidth)은 거의 2배에 달합니다. HBM3를 사용하는 시스템이 상용화되는 시점부터는 피부로 와 닿는 서비스들의 질이 지금보다 2배 이상 좋아질 것이라는 의미입니다. 그 시점의 SK하이닉스는 그보다 더 뛰어난 성능의 메모리 솔루션을 또 개발하고 있을 것입니다. 이처럼 계속 메모리 솔루션이 빠르게 개선될 수 있다는 믿음은 IT 기업들이 지금보다 더 많은 상상력을 펼칠 수 있는 토대가 될 것입니다. 그렇게 탄생할 새로운 서비스들은 우리의 일상을 지금보다 더 편리하게 만들어주겠죠. 앞으로도 더 노력해 기술로 세상을 바꾸는 데 이바지하고 싶습니다”