챗GPT를 비롯한 생성형 인공지능(Generative AI)*이 주목받으며, 글로벌 빅테크 기업의 AI 경쟁이 날로 거세지고 있다. 또, 이에 따라 AI 서버 운용에 필수적인 대규모 데이터 처리를 위한 초고성능 반도체 HBM(High Bandwidth Memory)*에 대한 수요 역시 급증하고 있다.
* 생성형 인공지능(Generative AI): 딥 러닝 모델을 사용하여 대량의 데이터를 학습, 이용자의 요구에 따라 능동적으로 결과를 생성하는 인공지능 기술
* HBM(High Bandwidth Memory): 여러 개의 D램 칩을 TSV(Through Silicon Via)로 수직 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)를 거쳐 현재 5세대(HBM3E)까지 개발됨. HBM3E는 HBM3의 확장(Extended) 버전
이 중심에는 세계 최초로 HBM을 시장에 선보인 뒤, 꾸준히 최초·최고의 기록을 경신하고 있는 SK하이닉스가 있다. 지난 8월 SK하이닉스는 HBM 5세대인 ‘HBM3E’ 개발에 성공, 고객사에 샘플을 공급하며[관련기사], 다시 한번 AI 메모리 반도체 최강자임을 증명했다. HBM3E는 HBM3의 확장형 모델로, 속도부터 발열제어, 고객 사용 편의성 등 모든 측면에서 현존 최고 수준이라는 평가를 받고 있다.
뉴스룸은 HBM3E 개발을 성공적으로 이끈 개발진 대표들(DRAM상품기획 황현 TL, HBM Design 이재승 TL, DRAM개발 박온전 TL, HBM PKG제품 하경무 TL, HBM PE 홍양숙 TL)을 만나 제품의 특장점과 차세대 HBM 개발 로드맵에 관해 이야기 나누었다.
전 세대 제품 대비 속도·용량·발열제어 측면 모두 개선, 제품 호환성까지 확보
HBM3E는 핀당 처리 속도 최고 9.2Gbps, 초당 최고 1.15TB(테라바이트)를 넘는 데이터 처리 속도를 기록하며 HBM 제품 최초로 TB의 벽을 넘어섰다. 이는 FHD(Full-HD)급 영화(5GB) 230편 이상 분량의 데이터를 1초 만에 처리하는 수준이다.
HBM3E는 HBM3 대비 용량도 개선되었다. 8단 적층으로 12단 적층 HBM3와 동일한 용량을 확보해, 향후 12단 적층 제품 개발 시 용량이 한층 더 커지게 된다.
또한, 방열 특성을 강화하는 패키지 기술인 스택(Stack) 공법과 방열 소재를 개선한 어드밴스드 MR-MUF[관련기사]* 등 최신 기술이 적용됐다. 이를 통해, HBM3E는 열 방출 성능이 이전 세대 대비 10% 향상됐다.
* MR-MUF(Mass Reflow-Molded Under Fill): 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적인 공정으로 평가받음
HBM3E는 국제반도체표준화기구(JEDEC) 규격 기준, HBM3와 패키지 외관과 구조가 동일하다. 따라서 별도의 구조 변화 없이, HBM3를 염두에 두고 구성한 시스템이나 설계에서 HBM3E를 그대로 적용할 수 있는 하위 호환성(Backward Compatibility)*을 갖췄다.
* 하위 호환성(Backward Compatibility): 과거 버전 제품과 호환되도록 구성된 IT/컴퓨팅 시스템 내에서 신제품이 별도로 수정이나 변경 없이 그대로 쓰일 수 있는 것을 뜻함. 가령, CPU나 GPU 업체 입장에서는 메모리반도체 신제품이 하위 호환성을 갖추고 있으면 신제품에 특화한 설계 변경 등을 진행하지 않고 기존의 CPU/GPU를 그대로 쓸 수 있는 장점이 있음
DRAM상품기획 황현 TL은 “고객의 니즈(Needs)에 따라 속도, 용량, 발열 제어 측면에서 개선된 신제품 개발에 착수, 세계 최고 성능의 HBM3E 개발에 성공했다”며 “이전 제품인 HBM3 대비 속도는 1.3배 빨라졌고, 용량은 1.4배 높아졌다. 동시에 동일한 속도에서 전력 특성을 10% 개선했으며, HBM3 JEDEC 규격을 기반으로 제품 호환성까지 확보했다”고 강조했다. 또 황 TL은 “고객사 피드백을 적극 반영한 덕에 시장 반응 역시 상당히 긍정적이라”고 말했다.
AI 솔루션 최적화, 세계 최고 사양 ‘HBM3E’ 개발 발자취
AI 솔루션은 대량의 데이터를 빠르게 연산하고 및 저장하는 기술이 핵심이다. 때문에 HBM은 고대역폭을 통한 빠른 속도와 TSV 기술 기반 적층으로 고용량을 구현한 고성능 제품으로 최적화되어 현재 AI용 메모리 시장에서 가장 주목받는 제품군이다. 시장 선점을 위한 개발진의 미션은 더 빠르고, 더 큰 용량의, 전력 문제까지 개선한 차세대 제품을 만드는 것이었다.
HBM Design 이재승 TL은 “HBM3E는 HBM3와 동일한 패키지 안에 용량은 1.5배 높이고, 코어 넷다이는 동일한 수준으로 확보하며 개선된 성능을 구현했다”며 “셀은 늘었지만 면적은 줄여야 하고, 회로는 그대로인데 속도는 높여야 하는 어려운 과제였다”고 HBM3E 설계의 어려움을 털어놓았다.
▲ HBM3E의 속도 및 전력 특성에 대해 설명하고 있는 HBM Design 이재승 TL
이 TL은 소자간 간격 감소에 따른 병목현상 및 속도·전원 특성을 개선할 수 있는 설계를 적용했다. 또, 적층된 D램 칩 간 왜곡(Skew) 발생으로 인한 속도 저하 등을 설계 단계에서 예측하고 개선했다. 그는 “HBM3E의 속도 및 전력 특성은 현재의 D램 공정 기술로 가능한 최고 수준”이라며 “초당 1.15TB라는 데이터 처리 속도가 증명하듯, HBM3E를 통해 SK하이닉스는 AI용 메모리 시장에서 독보적인 지위를 이어갈 것이라고 확신한다”고 자신감을 드러냈다.
HBM3E는 패키지 기술로 용량과 속도를 증대시킬 때 고질적으로 따라붙는 발열 문제도 잡았다. HBM PKG제품 하경무 TL은 “속도와 용량이 높아지면 발열 또한 상승한다”며 “MUF(Molded Under-Fill) 소재를 고방열 신소재로 적용하고, 갭 높이도 줄여 만족할 만한 방열 성능을 달성했다”고 설명했다.
▲ SK하이닉스의 MR-MUF 소재 우수성을 설명하고 있는 HBM PKG제품 하경무 TL
이어 하 TL은 “당사가 기술적 우위를 가지고 있는 MR(Mass Reflow) 공법과 MUF 소재를 지속해 개발하고 있다”고 강조했다. [관련기사]
HBM3E는 일찍부터 글로벌 고객사들의 이목을 집중시킨 제품이었다. 이에 부응하기 위해, 개발진은 공정 개선의 어려움에도 불구하고 개발 일정까지 당기는 강수를 뒀다. 특히, 고객사의 높은 관심으로 샘플 요청 수량도 늘어난 상황. 패키지에 들어가는 D램 스택(Stack) 자체가 높아졌기 때문에, 샘플로 제작해야 하는 D램 단품 물량 역시 곱절로 늘어났다. 공정 프로세스 개발을 담당한 DRAM개발 박온전 TL은 제조·공정·소자 실무자들과의 ‘소통과 유기적인 협업’을 문제 해결의 키(Key)로 꼽았다.
▲ 유관부서 실무자들과 함께 문제를 해결한 과정에 대해 설명하고 있는 DRAM개발 박온전 TL
박 TL은 “공정 난이도는 높아졌지만, 고객사의 적극적인 요청에 최대한 일정을 당겼다”며 “쉽지 않은 일이었지만, 이미 HBM2E와 HBM3 개발에 성공한 경험과 노하우를 바탕으로 유관부서 실무자들과 함께 하나하나 문제의 실마리를 풀어가다 보니 어느 순간 목표에 도달해 있었다”고 덧붙였다.
테스트 측면에서는 지속적인 속도 평가 및 피드백을 통해 제품의 완성도를 높였다. HBM PE 홍양숙 TL은 “HBM3E는 속도가 생명”이라며 “제품 테스트 단계에서 원하는 만큼의 성능이 발휘되는지 점검하는 과정을 수없이 거치는데, 특히 다양한 환경에 맞춘 속도 평가를 세심하게 진행했다”고 말했다.
▲ 테스트 과정에서 어려움을 극복하며 개발자들이 기술적 성장을 이룰 수 있었음을 이야기하고 있는 HBM PE 홍양숙 TL
테스트 단계에 돌입했던 지난 4월에는 속도 특성이 목표치에 도달하지 못하는 등 장애요인들이 있었지만, 유관부서와의 치열한 논의와 지속적인 피드백으로 어려움을 돌파했다. 홍 TL은 “첫 소재 평가를 진행했던 지난 4월부터 개발에 성공한 순간까지 문제의 원인 및 개선 방안을 찾는 분석 회의를 하루도 빠지지 않고 진행했다”며 “이를 통해 제품 성능을 극대화했으며, 나아가 개발자들의 기술적인 성장까지 함께 이루어 냈기 때문에 개인적으로 더욱 의미 있는 과정이었다”고 덧붙였다.
‘1등 DNA’로 AI용 메모리 시장 제패, “당연히 자신있어”
▲ SK하이닉스의 HBM이 AI 메모리 시장에서 1등 기술력을 입증했다고 말하고 있는 DRAM상품기획 황현 TL
무엇보다 HBM3E 개발은 12단 적층을 통한 고용량, 고성능 HBM3 24GB(기가바이트) 패키지 개발 성공을 알린 지 단 3개월 만에 달성한 성과라는 점에서 의미가 크다. SK하이닉스는 HBM 최초 개발부터 HBM3E까지, HBM 제품 시장에서 꾸준히 퍼스트 무버 역할을 하며 기술 리더십을 공고히 하고 있다. DRAM상품기획 황현 TL은 “단기간 내 기술 장벽을 뛰어넘는 일은 쉽지 않지만, 유관부서 모든 구성원이 한계를 극복하는 정신력을 발휘하며 노력했기에 가능한 일이었다고 생각한다”고 말했다.
제품 개발에 성공했지만, 여전히 갈 길은 멀다. 특히, AI 시장의 가파른 성장과 함께 HBM3E를 비롯한 생성형 AI용 고성능 메모리 수요는 더욱 늘어날 것으로 예측된다. 개발 성공만큼, HBM3E의 안정적인 양산 역시 중요한 상황. DRAM개발 박온전 TL은 “양산 환경에 최적화된 HBM3E 공정 구축을 통해 높은 수율과 공급 안정성 확보에 열정을 다하겠다”고 밝혔다.
개발진 모두는 시장 주도권을 지켜갈 수 있다는 자신감을 내비쳤다. HBM Design 이재승 TL은 “초당 TB라는 속도의 벽을 이제 막 넘어섰지만, 다음 단계는 지금까지 달성한 것 이상으로 훨씬 더 어려워질 것”이라며 “HBM은 당연히 SK하이닉스가 1등이라는 시각이 때로는 부담스러울 때도 있지만, 결국에 우리는 해낼 거라는 자신감이 앞선다”며 웃었다. HBM PE 홍양숙 TL은 “선행 제품 개발 업무는 난제가 많다 보니, 유관부서 구성원들끼리 끈끈해질 수밖에 없다”며 “함께 고민하고, 의견을 나누며 호흡을 맞추는 ‘원팀’ 문화가 회사의 HBM 기술 리더십을 굳건히 할 수 있는 저력” 이라고 말했다.
