[제3시선, 최고가 최고를 만나다 with 이한주 대표] 4차 산업혁명의 핵심 인프라, 데이터센터와 클라우드, 그리고 반도체 (4/5)

지난 3편에서 우리는 데이터센터를 구성하는 반도체, 그중에서도 DDR5와 MCR DIMM 등 D램에 관해 이야기를 나눴다. 하지만 D램의 영역은 생각보다 넓다. 데이터센터에 사용되는 D램은 이것이 전부가 아니다. 최근 챗GPT를 비롯해 인공지능에 대한 관심이 폭발적으로 늘어나자, 인공지능 구현에 최적화된 HBM(고대역폭메모리, High Bandwidth Memory)에 대한 관심도 덩달아 늘어났다. 실제로 HBM은 고성능 데이터센터를 구현하기 위한 GPU(Graphic Processing Unit)에 빠르게 적용되고 있다. 또한, 인공지능 등으로 인해 데이터 수요가 늘면서 많은 데이터를 저장하고 보관하는 스토리지(Storage)에 적용된 낸드플래시(NAND Flash) 역시 빼놓을 수 없다. 4차 산업혁명 시대에서 중요한 역할을 할 반도체로 기대되는 HBM과 낸드플래시에 대한 이야기, 지금부터 시작한다.

▲ SK하이닉스의 HBM이 적용된 GPU가 탑재된 SK텔레콤의 슈퍼컴퓨터 ‘타이탄(TITAN)’을 설명하고 있는 오수현 TL(가장 왼쪽)과 설명을 듣고 있는 정이현 TL, 이한주 대표, 이의상 TL, 이세라 TL(왼쪽부터)

인공지능의 방대한 데이터 처리엔 ‘HBM이 핵심’

이한주 대표 데이터센터를 구성하는 다양한 반도체에 대한 이야기를 나누고 있는데요[관련기사]. D램 분야에서는 확실히 SK하이닉스가 시장을 선도하고 있다는 것이 느껴지네요. 게다가 최근에는 챗GPT와 같은 인공지능의 등장으로 SK하이닉스의 반도체가 더욱 주목받고 있다고 들었습니다. 어떤 반도체인가요?

오수현 TL 네. 저희 SK하이닉스가 지난 2013년 최초로 개발에 성공한 HBM입니다. 고대역폭메모리 반도체인 HBM은 TSV* 기술을 적용해 여러 개의 D램을 수직으로 연결한 제품인데요. 수직으로 연결한 덕분에 HBM은 일반적인 D램에서 다소 어려웠던 데이터 병렬처리를 가능하게 해줍니다. HBM은 TSV 기술을 통해 상대적으로 패키징 사이즈가 작으며 매우 짧은 거리로 통신할 수 있어 더 빠르고 더 많은 데이터를 처리할 수 있습니다.

* TSV(Through Silicon Via, 실리콘 관통 전극) : D램 칩에 수천 개의 미세한 구멍을 뚫어 상층과 하층의 칩을 수직으로 관통해 상호 연결하는 첨단 패키지 방식 

이의상 TL 저희가 둘러보고 온 SK텔레콤의 슈퍼컴퓨터 ‘타이탄’에도 SK하이닉스의 HBM이 적용돼 있었는데요. 인공지능을 위한 데이터센터 등에 널리 사용되고 있는 NVIDA의 GPU에 저희가 개발하고 생산하는 HBM이 적용돼 있습니다.

이한주 대표 HBM에 관해 잘 설명해 주셨는데요. HBM이 데이터센터에 적용되면 무엇이, 얼마나 좋을지 더 자세히 설명해 주시겠어요?

▲ HBM이 데이터센터에서 어떤 역할을 한지 설명하고 있는 오수현 TL과 설명을 듣고 있는 이의상 TL, 이한주 대표 

오수현 TL 네. 데이터센터에서는 방대한 양의 데이터를 빠르게 처리해야 하는데요. 최근에는 챗GPT와 같은 인공지능이 큰 관심을 받으면서 더 많은 데이터를 더욱 빠르게 처리할 수 있는 메모리 수요가 늘어나고 있습니다. 이러한 수요를 충족할 수 있는 것이 바로 HBM인데요. HBM은 TSV 기술을 이용해 상대적으로 적은 면적에 더 많은 데이터 입출력 통로를 가지게 됩니다. HBM의 데이터 전송 통로(I/O)는 1,024개로 일반적인 D램의 데이터 전송 통로인 8개와 비교하면 매우 많다는 것을 알 수 있습니다.

이러한 구조적 차이가 데이터센터에 어떻게 적용되는지 이해하기 쉽도록 우리가 흔히 이용하는 도로에 빗대어 설명해 드리겠습니다. 똑같은 통행량이라고 가정했을 때 왕복 2차선 도로와 왕복 16차선 도로가 있다면 어느 쪽이 훨씬 원활할까요? 당연히 16차선 도로일 것입니다. 이러한 차이는 교통량이 많아질수록 더욱 커질 것입니다. HBM을 사용한다는 것은 더 많아지는 교통량을 위해 왕복 16차선 도로를 두는 것과 비슷합니다. 방대한 양의 데이터 전송이 필요한 데이터센터나 인공지능 학습을 위해 꼭 필요한 제품이죠.

이한주 대표 예를 들어 설명해 주시니 이해가 쉽네요. 전송해야 하는 데이터가 많을수록 HBM이 더욱 큰 역할을 할 수 있군요. 게다가 제가 알기로는 HBM은 더 적은 전력 소비에도 효과적이라고 들었는데요. 이에 대해서도 간단히 설명해 주시겠어요?

오수현 TL HBM의 경우, 곡선 형태로 연결된 선을 각각의 다이(Die)에 연결하는 기존 D램의 방식(Wire Bonding)이 아닌 다이(Die)를 수직으로 연결하는 TSV 기술이 적용했기 때문에 상대적으로 패키지의 크기가 매우 작으며, 통신 거리도 비교적 짧아집니다. 덕분에 데이터 전송에 필요한 소비 전력도 줄어드는 것이죠. 압도적으로 뛰어난 성능에 더해 저전력까지, HBM은 데이터센터에 반드시 필요한 반도체라고 생각합니다.

▲ TSV 기술을 도입해 획기적으로 면적을 줄일 수 있었던 HBM

이의상 TL 이처럼 높은 효율을 보이는 HBM에 대한 수요가 늘어나고 있는 만큼 저희 SK하이닉스 역시 HBM 개발을 꾸준히 이어왔는데요. 덕분에 저희는 지난 2021년 업계 최초로 HBM3 개발 성공을 이뤄냈습니다. HBM3는 초당 819GB(기가바이트)의 동작 속도를 자랑하는데요. 이는 FHD 영화 163편을 1초 만에 전송할 수 있는 엄청난 속도입니다. 

▲ SK하이닉스가 세계 최초로 개발에 성공한 12단 적층 HBM3

오수현 TL 저희가 개발한 HBM3의 경우 지난해 6월부터 본격적인 양산을 시작해 현재는 세계 최고 수준의 인공지능 전용 GPU인 NVDIA의 H100에 탑재되고 있는데요. H100은 인공지능 솔루션을 위한 다양한 데이터센터에서 사용되고 있습니다. 저희 SK하이닉스는 세계 최초로 HBM3를 개발한 데 이어, 최근에는 12단 HBM3의 개발[관련기사]에 성공하면서 HBM 기술 리더십을 굳건히 했습니다.

12단 HBM3의 경우, 기존 HBM3에서 D램을 8단을 수직으로 쌓은 것보다 더 많은 12단을 쌓은 제품입니다. 이를 통해 기존 16GB에서 24GB로 용량을 50% 늘릴 수 있었죠. 기존의 HBM3와 같은 두께를 유지하면서 용량(적층 수)을 높이기 위해 HBM에 들어가는 D램을 40% 얇게 만들어 쌓았는데요. D램을 얇게 만들면서 칩이 쉽게 휘어지는 등의 문제를 해결하기 위해 개선된 보호재(ECM*)와 새로운 적층 방식을 활용한 어드밴스드(Advanced) MR-MUF* 기술을 적용했습니다.

* 에폭시 보호재(EMC, Epoxy Molding Compound) : 열경화성 고분자의 일종인 에폭시 수지를 기반으로 만든 방열 소재로, 반도체 칩을 밀봉해 열이나 습기, 충격 등 외부 환경으로부터 보호한다.
* MR-MUF(Mass Reflow-Molded Under Fill) : 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고, 굳히는 공정. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고, 열 방출에도 효과적인 공정으로 평가받고 있다.  [관련기사]

이한주 대표 앞으로 더욱 늘어나게 될 클라우드와 데이터센터에서 SK하이닉스의 HBM들이 아주 큰 역할을 할 수 있을 것으로 기대가 되네요.

데이터센터의 또 다른 축, ‘스토리지’를 이루는 ‘낸드플래시’

이한주 대표 앞에서 얘기 나눴던 DDR5 MCR DIMM이나 HBM과 같은 반도체 제품들은 모두 데이터의 전송과 연산을 돕는 제품으로 알고 있는데요. 데이터센터에는 이외에도 핵심적인 역할을 하는 반도체가 있죠?

정이현 TL 네. 데이터를 저장하고 보관하는 스토리지를 구축하기 위한 낸드플래시가 있습니다. 지금까지 D램에 대한 이야기를 듣다 보니 ‘우리 SK하이닉스가 데이터센터, 그중에서도 D램 분야를 선도하고 있구나’라는 생각이 들었는데요. 낸드플래시 역시 데이터센터를 구축하는 한 축으로 매우 중요한 반도체이고 저희 SK하이닉스 역시 데이터센터를 위한 다양한 낸드플래시 제품을 개발 및 생산하고 있습니다.

▲ 데이터센터에 적용되는 낸드플래시의 다양한 제품들을 소개하고 있는 이의상 TL, 이한주 대표, 정이현 TL(왼쪽부터)

이한주 대표 낸드플래시는 우리가 흔히 사용하고 있는 SSD(Solid State Drive)를 구성하는 반도체인 것으로 알고 있는데요. SSD와 낸드플래시에 관해 설명해 주시겠어요?

정이현 TL 앞서 스토리지에 대해 살펴보면 좋을 것 같은데요. 과거 스토리지의 핵심이었던 자기를 이용한 HDD(Hard Disk Drive)에서 낸드플래시를 활용하는 SSD로 넘어오면서 우리는 많은 변화를 겪었습니다. 가장 먼저, 필요 전력이 감소했고, 데이터를 읽고 쓰는 속도가 비약적으로 상승했습니다. 게다가 자기 디스크를 사용해야 했던 HDD는 소형화에 물리적인 한계가 있었는데요. 그에 비해 낸드플래시를 활용했던 SSD는 소형화가 가능했습니다. 덕분에 지금 우리는 스마트폰을 비롯해 데이터센터 등에서도 공간을 절약하며 스토리지를 사용할 수 있죠.

특히, 저희 SK하이닉스는 지난해 8월 세계 최초로 238단 512Gb(기가비트) TLC(Triple Level Cell)* 4D 낸드플래시 개발에 성공하고 양산을 시작하기도 했습니다. 세계 최초로 238단 낸드플래시 개발에 성공했다는 것은 그만큼 저희 SK하이닉스가 낸드플래시 기술력에서 앞선다는 것을 의미하기도 합니다. 238단이라는 최고층에도 큰 의미가 있지만, CTP*와 PUC* 기술을 통해 구현한 4D 제품인 것도 큰 의미가 있습니다. 238단 4D 낸드플래시의 경우 이전 세대인 176단과 비교해 더 작은 크기로 생산이 가능해지면서 생산성이 높아졌고, 데이터 전송 속도는 2.4GB/s로 50% 빨라졌습니다. 게다가 소비 전력 역시 21% 줄었죠. 해당 제품이 지금 당장 서버용 SSD에 적용되는 것은 아니지만, 머지않아 서버에도 적용될 것으로 보이는데요. 이를 통해 데이터센터의 스토리지 성능과 전력 효율이 크게 향상할 수 있을 것입니다.

* 낸드플래시는 한 개의 셀(Cell)에 몇 개의 정보(비트 단위)를 저장하느냐에 따라 SLC(Single Level Cell, 1개)-MLC(Multi Level Cell, 2개)-TLC(Triple Level Cell, 3개)-QLC(Quadruple Level Cell, 4개)-PLC(Penta Level Cell, 5개) 등으로 규격을 구분. 정보 저장량이 늘어날수록 같은 면적에 더 많은 데이터를 저장할 수 있다.
* CTF (Charge Trap Flash) : 전하를 도체에 저장하는 플로팅 게이트(Floating Gate)와 달리 전하를 부도체에 저장해 셀 간 간섭 문제를 해결한 기술로, 플로팅게이트 기술보다 단위당 셀 면적을 줄이면서도 읽기, 쓰기 성능을 높일 수 있는 것이 특징이다.
* PUC (Peri. Under Cell) : 주변부(Peri.) 회로를 셀 회로 하단부에 배치해 생산효율을 극대화하는 기술

이한주 대표 낸드플래시 역시 D램과 같이 더 빨라진 속도와 작아진 크기, 저전력이 핵심이군요. 

▲ 세계 최고층으로 개발된 SK하이닉스의 238단 4D 낸드플래시

정이현 TL 네. 맞습니다. 데이터센터에서 낸드플래시의 역할은 PC에서의 역할과 크게 다르지않게 데이터를 저장하고 보관하는 것입니다. 앞서 설명해 주신 D램과 비교해 보자면 D램은 가까운 곳에 손이 닿는 책상 정도로 생각할 수 있을 것 같습니다. 책을 볼 때만 책상 위에 책을 두는 것이죠. 하지만 SSD의 경우 다양한 책을 오래 보관하는 도서관이라고 할 수 있을 것 같아요. 잠시 불러오고 휘발되는 메모리가 아닌 장기간 저장할 수 있는 비휘발성 메모리라고 생각하시면 됩니다. 다만 데이터센터에 적용되는 낸드플래시의 경우, 단순히 데이터를 얼마나 빠르고 많이 읽고 쓸 수 있느냐를 넘어서 더 많은 요소를 고민해야 합니다.

이한주 대표 더 많은 것을 고민해야 한다는 것은 어떤 고민을 말씀하시는 건가요? 

정이현 TL 앞서 D램 제품들의 특징을 말씀해 주신 것과 상당히 비슷한 점이 있는데요. 낸드플래시 역시 데이터 저장뿐 아니라 SoC(System on Chip) 등을 활용해 연산 장치를 보조하는 등의 역할이 요구되고 있는 상황입니다. 그리고 저전력 역시 중요한 이슈이죠. 특별히 D램과 다른 점이 있다면 낸드플래시의 경우 데이터를 저장하기 위한 제품이다 보니 보안과 관련해 더 철저한 검증이 필요합니다.

개인 정보와 같은 민감한 정보가 저장되는 데이터센터의 경우, 보안 강화가 핵심 이슈가 될 수 있으며, 플랫폼이나 서비스 제공을 위한 데이터센터에서는 시스템 오류 등의 문제로 인해 발생하는 데이터 손상을 예방하거나 바로 복구 가능한 제품을 선호하는 경향이 있습니다. 심지어 보안 문제와 관련해선 일정 수준에 도달하지 못하면 아예 납품하지 못하는 경우도 빈번하기 때문에 저희도 제품의 보안 강화를 위해 노력하고 있는 상황입니다.

이한주 대표 보안과 관련된 부분은 저도 참 공감하는 부분이 많은데요. 이야기를 들어보니 소프트웨어 기반의 클라우드와 하드웨어 기반의 낸드플래시가 추구하는 방향이 상당히 비슷하다는 것을 느꼈습니다. 데이터를 저장한다는 측면에서 최근 클라우드 업계에서도 보안은 매우 중요한 이슈거든요. 과거에는 애플리케이션 단계에 보안 이슈가 집중돼 있었지만, 이제는 하드웨어 베이스에서까지 해킹할 수 있는 시대이기 때문에 낸드플래시 제품에서 더욱 보안에 힘쓰는 이유를 알 것 같네요.

지금까지 데이터센터에 어떤 반도체들이 필요하고, 해당 반도체들이 어떤 역할들을 하고 있는지 들어봤는데요. 데이터센터의 하드웨어 부분까지는 저도 잘 몰랐던 내용들이라 들으면서도 새롭게 알게 된 부분도 있어서 아주 신기하고 재밌었습니다. 반도체의 발전으로 더욱 쾌적한 환경의 클라우드 서비스와 데이터센터 운영이 가능했다는 생각이 듭니다. 그럼, 끝으로 클라우드 서비스와 데이터센터의 전망에 대한 이야기를 나눠보도록 할까요?

지금까지 데이터센터를 구성하는 다양한 반도체들에 관한 이야기를 나눴다. 더 빠른 데이터 전송을 위한 DDR5 MCR DIMM[관련기사]과 인공지능을 위해 특화된 HBM, 그리고 데이터 저장을 위한 핵심 반도체인 낸드플래시까지 살펴봤다. 해당 시리즈의 마지막 콘텐츠가 될 다음 편에서는 함께 나눈 대담에 대한 소감과 미래 전망에 대해 살펴볼 예정이다. 이한주 대표와 SK하이닉스의 미래를 위한 데이터센터와 클라우드, 그리고 반도체에 대한 이야기는 계속된다.