GPT-3(Generative Pre-trained Transformer-3), Megatron-Turing NLG 530B 등 최고 수준의 인공지능(AI) 모델은 한때 ‘무어의 법칙(마이크로칩의 밀도가 24개월마다 2배로 늘어난다는 법칙)’이 통용되던 시대를 넘어 컴퓨팅 성능의 향상 속도를 가속하고 있다. 이런 경향성은 일반적으로 시스템 계층의 정점에 위치한 슈퍼컴퓨터나 데이터센터의 성능이 향상된 것에서도 확인할 수 있다. 나아가 이렇게 고도화된 시스템과 인공지능/머신러닝(Machine Learning) 사이의 경계도 점차 허물어지고 있다.
이에 따라 메모리 반도체 산업을 선도하고 있는 SK하이닉스는 꾸준한 DRAM 수요와 다양한 기능을 메모리에 집약하고자 하는 고객의 요구사항을 충족하기 위해, 막중한 책임감을 갖고 확장된 DRAM 표준을 제공하기 위해 노력하고 있다.
SK하이닉스는 지난 10월 세계 최초로 HBM3(High Bandwidth Memory 3)를 개발했다고 발표했다. HBM3는 1024개의 데이터 전송 통로(I/O)를 탑재하고 핀(Pin)당 6.4Gbps의 데이터 전송률을 확보해, 초당 최대 819 GB의 데이터 처리가 가능하다. 이전 세대인 HBM2E가 초당 460GB의 데이터를 처리할 수 있었던 것과 비교하면 처리 속도가 약 78% 향상된 셈이다.
또한 HBM3는 16Gb 코어 다이(Die) 밀도와 최첨단 TSV(Through Silicon Via) 기술의 조합으로 더 높은 집적도(Density)를 원하는 시스템 레벨의 요구 수준을 충족시켰다. TSV 기술로 12개의 다이를 수직 연결함으로써, 최대 24GB의 용량을 확보한 것. 이에 더해 D램 셀(Cell)에 전달된 데이터 오류를 스스로 보정할 수 있는 오류정정코드(On-Die ECC)가 내장돼, 제품의 신뢰성도 향상됐다.
HBM3는 환경 친화적인 제품으로 지속 가능한 메모리 생태계 유지에도 기여한다. 기존 GDDR 제품보다 에너지 효율이 높아 온실가스 배출 저감에 도움이 된다.
SK하이닉스는 2013년 세계 최초로 HBM을 개발한 이래 HBM 산업의 형성과 확장에 크게 기여했다. 또한 2019년에는 HBM2의 확장 버전인 HBM2E을, 2021년에는 HBM3를 잇따라 선보이며 고성능 메모리 솔루션 분야의 독보적인 리더임을 입증했고, 반도체 생태계의 주요 파트너들과 함께 미래 AI 환경을 혁신하는 데 더 중요한 역할을 할 수 있다는 가능성을 보여줬다.
HBM3를 세계 최초로 개발한 것은 분명 대단한 성과다. 하지만 주요 고객들과 적극적으로 협업하지 않으면 HBM3를 활용하는 시스템을 완성할 수 없다. 이에 SK하이닉스는 SoC(System-on-Chip), ASIC(Application-Specific Integrated Circuit), PHY(Physical Layer)/IP(Intellectual Property), OSAT(Outsourced Assembly and Test) 등 주요 고객들과의 관계 강화에 앞장서고 있다.
실제로 엔비디아(NVIDIA)는 지난 3월 GTC2022(GPU Technology Conference 2022) 기조연설에서 “H100 Hopper GPU 및 DGX H100 시스템에 HBM3를 채택한다”고 공식 발표했다. 이는 SK하이닉스가 주요 고객과 소통할 뿐만 아니라 ‘고객의 성공이 SK하이닉스의 성공’이라는 강한 신념을 바탕으로 문제 해결에 대한 책임감을 갖고 매진해왔음을 잘 보여주는 사례다.
이처럼 SK하이닉스가 DRAM 기술 트렌드를 이끌고 시장에서의 리더십을 유지하는 데 필요한 의사결정은 주로 DRAM상품기획 조직에서 시작된다. GSM(Global Sales & Marketing) 산하 DRAM상품기획은 모든 DRAM 제품과 솔루션 개발, 제조, 판매 계획을 수립하는 ‘컨트롤 타워’ 역할을 한다.
이때 모든 활동은 아래와 같은 DRAM상품기획의 ‘업무 강령’을 바탕으로 진행된다. 4개 중 가장 중요한 임무는 ‘메모리 반도체와 IT 기술 동향을 파악해 미래 변곡점을 예측하는 것’이다. 이 임무의 주요 목적은 DRAM을 사용하는 기기에 영향을 미치는 다양한 생태계의 변화와 그 원인을 파악하고, 기술 경쟁력을 강화하기 위한 차세대 제품 규격과 이를 개발하기 위한 로드맵을 제시하는 것이다.
HBM3의 성공적인 개발은 다방면에서 발생할 수 있는 문제를 파악하는 데서 시작됐다. 이후 시스템 수준의 추세와 요구사항을 파악하고, 기타 주요 요소를 예측하는 수많은 데이터를 검토했다. 또한 고객, 파트너 등 업계 이해관계자와 진행한 수많은 토론과 협업도 제품의 완성도를 높였다. 서로 개별적인 것처럼 보이지만 이런 활동들을 연결해 결론을 도출하는 과정을 통해 안정적으로 HBM3를 개발하고 샘플 로드맵을 구축할 수 있었고, 이는 앞으로 새로운 HBM 시대를 여는 나침반이 될 것으로 기대된다.
이와 함께 DRAM상품기획은 JEDEC(Joint Electron Device Engineering Council, 국제반도체표준협의기구) 및 다른 파트너들과 협의를 통해 SK하이닉스가 개발한 HBM3의 스펙(Spec. Specification의 준말)의 국제 규격화에도 기여했다. 또한 HBM3 개발 및 샘플 목표를 높게 설정하고, 사내 개발 조직과 고객이 쉽게 합의에 도달할 수 있도록 조율했다. DRAM상품기획이 주재하는 일간, 주간, 분기별 회의를 오픈 플랫폼(Open Platform)으로 활용해 각 이해관계자의 의견을 수렴한 결과, 시스템 레벨의 성능 향상과 발전에 기여할 수 있도록 세계 최초로 개발된 HBM3의 스펙을 업계와 공유해야 한다는 결론을 도출하기도 했다.
기존 HBM의 구조와 성능의 기술적 한계에 대해 논쟁은 여전히 지속되고 있다. 그럼에도 DRAM상품기획은 HBM 기술 한계를 극복할 차세대 HBM 제품과 솔루션을 개발해 HBM 시장에서의 리더십을 더욱 공고히 할 예정이다. 차세대 HBM 제품 역시 고객의 요구에 완벽하게 부합하는 완성도 높은 제품으로 개발될 수 있도록 사전 준비를 진행 중이며, 업계 내 주요 파트너와의 협업도 지속하고 있다.
차세대 HBM 개발 여정 역시 길고 흥미진진할 것이며 기억에 남을 것이다. SK하이닉스는 이 여정의 최전선에서 계속 노력할 것이다.
