SK하이닉스가 지난 17일부터 사흘간 미국 캘리포니아 산호세에서 열린 ‘OCP 글로벌 서밋 2023(OCP Global Summit 2023, 이하 OCP 서밋)’에 참가해 차세대 메모리 반도체 기술과 제품을 선보였다고 밝혔다.
OCP 서밋은 세계 최대 규모의 데이터센터 기술 커뮤니티인 OCP(Open Compute Project)가 주최하는 행사로 업계 전문가들이 모여 다양한 기술력과 비전을 공유하는 자리다. 올해 SK하이닉스는 자회사인 솔리다임(Solidigm)과 함께 ‘기술로 하나가 되다(United Through Technology)’라는 슬로건을 걸고, 인공지능(AI, Artificial Intelligence) 시대를 이끌어 갈 첨단 메모리 반도체 제품을 선보였다.
▲ ‘OCP 글로벌 서밋 2023’에 참가한 SK하이닉스의 전시 부스 모습
SK하이닉스는 생성형 AI 붐 속에서 선도적인 기술력으로 화제가 된 ▲HBM(HBM3/3E)* ▲CXL* ▲AiM* 등 첨단 메모리 솔루션을 선보였다. 또, 회사는 ▲DDR5 ▲MCR DIMM ▲LPDDR CAMM* ▲Enterprise SSD(이하, eSSD) 등 최신 제품 포트폴리오도 공개했다.
* HBM(High Bandwidth Memory): 여러 개의 D램 칩을 TSV(Through Silicon Via, 실리콘 관통 전극)로 수직 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품
* CXL(Compute Express Link): 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반 차세대 인터커넥트 프로토콜. 기존 D램 제품과 함께 서버 시스템의 메모리 대역폭을 늘려 성능을 향상하고, 쉽게 메모리 용량을 확대할 수 있는 차세대 메모리 솔루션
* AiM(Accelerator in Memory): SK하이닉스의 PIM(Process In Memory) 반도체 제품명, GDDR6-AiM이 이에 포함된다.
* LPDDR CAMM(Low-Power Double Data Rate Compression Attached Memory Module): 노트북/모바일의 차세대 메모리 규격(CAMM)에 맞춰 LPDDR 패키지를 기반으로 개발한 제품. 이는 기존 모듈(So-DIMM) 대비 단면 구성으로 두께가 반으로 줄고, 대용량 탑재와 전력 효율까지 개선됐다.
이 중 엔비디아의 인공지능용 고성능 그래픽처리장치(GPU)인 ‘H100’에 탑재된 SK하이닉스의 HBM3와 차세대 제품인 HBM3E[관련기사]가 많은 관람객의 이목을 집중시켰다. 초고성능·저전력 반도체인 HBM은 회사의 압도적인 기술력과 함께 전력 소모가 큰 인공지능용 서버에 최적화된 제품임을 인증하는 자리가 됐다.
▲ SK하이닉스가 ’OCP 글로벌 서밋 2023’에서 전시한 HBM3와 HBM3E와 MCR DIMM, DDR5 RDIMM, LPDDR CAMM의 모습
또, CXL 메모리에 연산 기능을 통합한 차세대 메모리 솔루션인 CMS(Computational Memory Solution)* 2.0 등 SK하이닉스의 CXL 핵심 솔루션 3종도 눈길을 끌었다. CXL은 NMP(Near Memory Processing)* 기술을 적용해 CPU와 메모리 사이의 불필요한 데이터 이동을 최소화한 기술이다. 회사는 CMS 2.0을 SK텔레콤의 실시간 유동인구 분석 솔루션(Lightning DB 기반 공간 데이터 분석 및 시각화 솔루션)에 접목해 서버 CPU와 동등한 데이터 처리 성능을 보여줬다. 이를 통해, CMS가 데이터 처리 성능과 에너지 효율 향상에 크게 기여한다는 것을 입증했다.
* CMS(Computational Memory Solution): 고용량 메모리를 확장할 수 있는 CXL의 장점에 빅데이터 분석 응용 프로그램이 자주 수행하는 머신러닝 및 데이터 필터링 연산 기능이 포함된 메모리 솔루션
* NMP(Near-Memory Processing): CPU-메모리 간 데이터 이동 시 발생하는 병목 현상을 해결하고, 처리 성능 향상을 위해 연산 기능을 메인 메모리 옆으로 이동하는 메모리 아키텍처
회사는 이와 함께 CXL 기반의 풀드 메모리(Pooled Memory) 솔루션을 시연하는 자리도 마련했다. 풀드 메모리 솔루션은 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들어 여러 호스트가 효과적으로 용량을 나누어 사용할 수 있도록 해 유휴 메모리가 없도록 사용량을 최적화하면서도 전력 소모를 줄여 비용 절감을 가능하게 하는 기술로 큰 관심을 받았다. 이 기술은 미국 소프트웨어 파트너사 멤버지(MemVerge)와의 협업을 통해 개발됐으며, 인공지능과 빅데이터 분산 처리 시스템에서 어떻게 메모리 성능을 높일 수 있는지 보여줬다.
CXL 메모리를 메타(Meta)에서 개발한 소프트웨어 엔진인 캐시립(CacheLib)에 적용한 메모리 확장기(Memory Expander)도 선보여졌다. 이는 CXL 기반의 메모리 솔루션이 성능 향상과 비용 절감을 위해 어떻게 소프트웨어를 최적화하는지 보여준 사례가 됐다.
▲ SK하이닉스가 ‘OCP 글로벌 서밋 2023’에서 시연한 CXL 기반 CMS, 풀드 메모리(Pooled Memory) 솔루션 그리고 메모리확장기(Memory Expander)
SK하이닉스는 PIM* 반도체 GDDR6-AiM[관련기사]과 이를 활용한 가속기 카드 AiMX*[관련기사] 시제품도 시연했다. GDDR6-AiM은 인공지능 모델의 추론 과정에서 메모리 자체에 연산 기능을 탑재한 반도체로 인공지능, 고성능 컴퓨팅, 빅데이터 분야에서 주목받는 차세대 기술 중 하나다. 회사는 GDDR6-AiM칩을 여러 개 탑재한 생성형 AI 가속기 카드 제품인 AiMX의 프로토타입을 함께 공개하며, 업계를 선도하는 기술력을 뽐냈다.
* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품
▲ SK하이닉스가 ‘OCP 글로벌 서밋 2023’에서 전시한 PIM과 AiMX
이번 행사에서는 PCle* 5세대 기반 eSSD인 PS1010 E3.S도 만나볼 수 있었다. 이는 데이터 사용이 많은 애플리케이션, 클라우드 컴퓨팅, 인공지능에 최적화된 제품이다. 이 제품은 이전 세대 대비 뛰어난 속도와 낮은 탄소 배출량으로 향상된 성능과 안정성을 제공할 것으로 기대된다.
* PCle(Peripheral Component Interconnect Express): 직렬 구조의 고속 입출력 인터페이스로 디지털 장치의 메인보드에서 사용된다.
SK하이닉스는 이번 서밋에서 대담과 세션 발표를 통해 차세대 메모리 기술의 발전 방향도 제시했다.
김호식 부사장(시스템아키텍처담당)은 ‘데이터 중심의 컴퓨팅, 현재와 미래(Data Centric Computing, Present and Future)’를 주제로 한 대담에 패널로 참석해 새로운 컴퓨팅 및 프로그래밍 모델에 대해 논의했다. 또 김 부사장은 ‘CXL: 메모리 중심 컴퓨팅의 서막(CXL: A Prelude to a Memory-centric Computing)’을 주제로 세션을 진행하며 SK하이닉스 CXL 기술 개발 현황과 메모리 중심 컴퓨팅에 대한 회사의 비전을 공유했다.
▲ ‘OCP 글로벌 서밋 2023’에서 회사의 CXL 기술 개발 현황과 메모리 중심 컴퓨팅에 대한 회사의 비전을 발표하고 새로운 컴퓨팅과 프로그래밍 모델에 대해 대담하고 있는 SK하이닉스 시스템아키텍처그룹 김호식 부사장
그리고 CXL의 잠재력을 알리기 위해 세 번의 세션 발표가 진행됐다. 먼저, 주영표 부사장(소프트웨어솔루션담당)은 CXL 기반 연산 메모리 솔루션 아키텍처의 유용성과 유연성을 높이는 방법에 대해 발표했다.
이어서 문동욱 TL(메모리시스템연구 소속)은 CXL 기술이 인공지능, 웹 서비스와 같은 기술에서 어떤 효과를 만드는지 언급했다. 특히 문 TL은 CXL이 캐싱(Caching) 계층에서 메모리 용량과 대역폭을 개선해 궁극적으로 성능 및 효율성을 높일 수 있다고 강조했다.
마지막으로 최정민 TL(메모리시스템연구 소속)은 CXL 기술을 활용해 분리된 메모리 자원을 여러 CPU가 효율적으로 공유할 수 있는 기술에 대해 발표했다. 그는 이 기술을 통해 현재 데이터센터가 직면한 유휴 메모리 문제를 해결함과 동시에 시스템의 성능까지 개선할 수 있다고 설명했다.
▲ ‘OCP 글로벌 서밋 2023’에서 회사의 CXL 최신 기술을 활용한 솔루션을 소개 중인 SK하이닉스 소프트웨어솔루션 주영표 부사장, 메모리시스템연구 문동욱 TL, 최정민 TL
한편, 임의철 부사장(메모리솔루션담당)은 세션 발표를 통해 인공지능을 위한 메모리와 컴퓨팅 수요에 대응하는 PIM 기술의 잠재력을 설명하며, SK하이닉스의 PIM 기반 AiM 가속기를 포함한 핵심 기술들을 소개했다.
▲ ‘OCP 글로벌 서밋 2023’에서 회사의 PIM 기반 AiM 기속기와 PIM 기술 기반의 핵심 기술을 주제로 발표 중인 SK하이닉스 메모리솔루션 임의철 부사장
SK하이닉스는 이번 행사를 통해 회사가 ‘글로벌 No.1 AI 메모리 솔루션 공급자’로서 인공지능 등 첨단기술을 구현하기 위한 획기적인 솔루션 개발에 대한 의지를 확고히 했다. 또, 앞으로도 AI 시대에 맞춰 혁신적인 기술 연구와 개발을 지속해 나갈 것이라고 밝혔다.