SK하이닉스는 지난 16~17일 서울 삼성동 코엑스에서 열린 ‘SK 테크 서밋 2023’에 참가해 인공지능(Artificial Intelligence, AI) 시대를 이끄는 첨단 메모리 제품과 기술을 선보였다.
올해로 8회를 맞은 SK 테크 서밋은 SK그룹의 기술 역량을 결집한 ICT 컨퍼런스 행사다. 올해는 ‘AI Everywhere for a better future’를 주제로 SK그룹 멤버사 17개사를 포함한 총 33개사가 115건의 발표와 103건의 전시를 선보이며 역대 최대 규모로 열렸다(이 중 SK그룹 발표 99건, 전시 93건). 특히, 이번 행사에는 아마존웹서비스(AWS), 구글(Google) 등 글로벌 빅테크 기업은 물론 SK텔레콤 주도로 운영되고 있는 AI 기술 협의체인 K-AI 얼라이언스(K-AI Alliance) 회원사 등도 파트너사 자격으로 참여했다.
▲ 곽노정 SK하이닉스 대표이사 사장이 ‘SK 테크 서밋 2023’ 행사장 내 SK하이닉스의 전시관을 참관하고 있다.
현장을 찾은 SK하이닉스 곽노정 대표이사 사장은 SK하이닉스의 HBM을 포함한 총 11개 전시 부스를 둘러보며 SK그룹이 AI를 통해 만들어가는 현재와 미래의 모습을 확인했다.
SK하이닉스, 글로벌 No.1 AI 메모리 기업의 기술 역량 선보여
SK 테크 서밋 2023의 전시 부스가 준비된 코엑스 1층 그랜드볼룸에는 SK그룹 멤버사 17개사를 포함한 총 33개사가 AI, AR/VR, 빅데이터, 블록체인, 클라우드, ICT 융합 등 6개 기술 영역에서 103건의 다양한 기술들을 선보였다.
SK하이닉스는 AI 구현의 핵심인 차세대 메모리 솔루션을 선보였다. 이 중 생성형 AI와 함께 가장 주목받고 있는 ▲고대역폭 메모리 HBM3* ▲지능형 메모리 AiM* ▲AI 가속 솔루션 시제품 AiMX* 전시에 많은 관객들이 몰리며, AI용 메모리에 대한 세간의 관심을 입증했다. 각 부스에서는 제품 전시와 성능 시연이 함께 진행됐다.
* HBM(High Bandwidth Memory): 여러 개의 D램 칩을 TSV(Through Silicon Via, 실리콘 관통 전극)로 수직 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품
* AiM(Accelerator in Memory): SK하이닉스의 PIM(Process In Memory)** 반도체 제품명, GDDR6-AiM이 이에 포함
** PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 개발한 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속 솔루션 시제품
특히, 엔비디아의 인공지능용 그래픽처리장치(GPU)인 ‘H100’에 탑재된 SK하이닉스의 HBM3는 회사의 기술력과 함께 인공지능용 서버에 최적화된 제품임을 보여주며 관람객의 시선을 끌었다.
또, 고성능 컴퓨팅(High-Performance Computing, HPC) 시장에서 각광받는 ▲메모리 대역폭을 늘려 효율적인 컴퓨팅을 가능하게 하는 CXL* 솔루션 ▲세계 최고속 서버용 D램인 DDR5 MRDIMM*도 관객들의 이목을 집중시켰다.
* CXL(Compute Express Link): 고성능 컴퓨팅 시스템을 효율적으로 구축하기 위한 PCIe 기반의 차세대 인터커넥트 프로토콜. 기존 D램 제품과 함께 서버 시스템의 메모리 대역폭을 늘려 성능을 높이고, 쉽게 메모리 용량을 확대할 수 있는 기능을 지원함
* MRDIMM(Multiplexer Combined Ranks Dual In-line Memory Module): 여러 개의 D램이 기판에 결합된 모듈 제품으로, 모듈의 기본 정보처리 동작 단위인 랭크(Rank)** 2개가 동시 작동되어 속도가 향상된 제품임
** 랭크(Rank): D램 모듈에서 CPU로 내보내는 기본 데이터 전송 단위의 묶음. 보통 64바이트(Byte)의 데이터가 한 묶음 단위가 돼 CPU에 전송됨
▲ SK하이닉스가 ‘SK 테크 서밋 2023’에서 전시한 고대역폭 메모리 HBM3가 탑재된 서버와 AI 가속 솔루션 신제품 AiMX의 모습
CXL 전시 부스에서 SK하이닉스는 ▲CXL 메모리에 연산 기능을 더한 CMS* ▲CXL 기반의 풀드 메모리(Pooled Memory) 솔루션*을 함께 소개했다. 특히, 제품 구동 시연과 함께 성능 및 에너지 효율 향상 사례를 공유하며 CXL 기반의 메모리 솔루션이 인공지능과 빅데이터 처리 분산 시스템에서 어떻게 메모리 성능을 높일 수 있는지 보여줬다.
이와 함께 전시된 세계 최고속 서버용 D램인 MRDIMM은 데이터를 버퍼에 모아 한꺼번에 전송하는 기능을 탑재해 속도를 높이는 방식을 적용, 기존 제품보다 약 55% 빠른 동작 속도를 선보이며 눈길을 끌었다.
* CMS(Computational Memory Solution): 고용량 메모리를 확장할 수 있는 CXL 메모리에 빅데이터 분석이나 AI와 같은 대용량 데이터가 필요한 응용 프로그램에서 주로 사용되는 연산 기능이 포함된 메모리 솔루션
* 풀드 메모리(Pooled Memory): 여러 호스트가 동시에 접속할 수 있는 대용량의 CXL 메모리를 묶어 풀(Pool)을 만들고 이를 각 호스트가 효과적으로 메모리 용량을 나누어 사용할 수 있도록 해 유휴 메모리가 없도록 사용량을 최적화하여 비용을 절감하고 공유 메모리 제공을 통해 시스템의 성능을 개선하는 기술
▲ SK하이닉스가 ‘SK 테크 서밋 2023’에서 전시한 CXL과 세계 최고속 서버용 D램인 DDR5 MRDIMM의 모습
차세대 메모리 모듈 LPCAMM2(Low Power Compression Attached Memory Module 2)도 전시됐다. LPCAMM2은 LPDDR5X 기반의 모듈 솔루션 제품으로 기존 DDR5 SODIMM* 2개를 LPCAMM2 1개로 대체하는 성능 효과를 가지면서 공간 절약뿐만 아니라 저전력과 고성능 특성을 구현한 것이 특징이다. 향후 LPCAMM2는 노트북 시장을 시작으로 저전력, 고성능 특성이 요구되는 서버, 데이터 센터, 엣지 컴퓨팅 등 적용 분야가 점차 확대될 것으로 보인다.
* SODIMM: 데스크탑 및 노트북 등 PC에서 사용되는 메모리 모듈을 통칭하는 개념. SODIMM(Small Outline DIMM)은 PC에서 사용되는 초소형 모듈로 전체 길이가 짧음
▲ SK하이닉스가 ‘SK 테크 서밋 2023’에서 전시한 차세대 메모리 모듈 LPCAMM의 모습
이 밖에도 SK하이닉스는 고성능 AI센서가 탑재된 보안 카메라, 반도체 센서를 적용한 바이오 제품 등 SK그룹 ICT위원회 산하에서 진행 중인 다양한 협업 성과도 공개했다. 한 예로 SK하이닉스의 CXL 기반 차세대 연산 메모리 솔루션인 CMS를 SK텔레콤의 데이터 분석 플랫폼인 라이트닝 DB(Lightning DB)*에 적용하여 지도상의 유동 인구 정보를 분석하는 과정이 소개됐다. 이는 세계 최초 NMP*를 적용한 CXL 메모리 솔루션으로 빅데이터 분석 분야에서 성능과 에너지 효율 개선이 가능함을 보여준 사례가 됐다.
* 라이트닝 DB(Lightning DB): SK텔레콤은 대용량의 데이터를 효율적으로 처리하기 위해 인-메모리 데이터 분석 플랫폼(In-Memory Data Analytics Platform) ‘라이트닝 DB’를 자체 개발, 다양한 상용 서비스에 적용해 왔다. 해당 플랫폼은 실시간 데이터 처리에 특화된 메모리 중심 설계로, 대용량 데이터를 작은 단위로 분할 저장 후, 최적화된 병렬 처리를 통해 높은 데이터 분석 성능을 자랑함
* NMP(Near-Memory Processing): CPU-메모리 간 데이터 이동 시 발생하는 병목 현상을 해결하고, 처리 성능 향상을 위해 메모리 주변에서 연산 기능을 수행하는 차세대 메모리 아키텍처
▲ SK하이닉스가 ‘SK 테크 서밋 2023’에서 시연한 CXL 기반 CMS
더 큰 시너지를 만드는 최첨단 기술 공유의 장
행사는 전시 외에도 강연과 발표·토의 세션, 체험 및 네트워킹 이벤트 등으로 다채롭게 꾸며졌다. SK그룹 관계사 구성원들이 연사로 참여해 반도체, 빅데이터, 클라우드 등 AI 관련 기술과 산업에 관한 주제로 총 115건의 다양한 세션이 펼쳐졌고, 관객들과 토론하며 기술 교류의 장을 완성했다. SK하이닉스 구성원들 역시 ‘AI: 반도체’ 트랙 등 다양한 세션에 참여했다.
▲ ‘SK 테크 서밋 2023’에서 PIM, 4D NAND, CXL 등 회사 AI 기술을 소개 중인 Solution개발 김일곤 TL, NAND개발 박강우TL, DT 조국일 TL 그리고 메모리시스템연구소 이경수 TL
Solution개발 김일곤 TL은 ‘AiM 기반 생성형 AI 모델 가속 솔루션, AiMX’를 주제로 발표했다. 김 TL은 AI 서비스의 응답 속도를 근본적으로 개선하고 전력 소모를 줄여서 운영 비용을 크게 줄이는 AiMX 솔루션의 특장점을 소개했다. 또, 앞으로도 고효율 저비용을 추구하는 생성형 AI 솔루션 공급을 목표로 다양한 글로벌 회사들과 협업을 통해 기술 연구와 개발을 지속해 나갈 것이라고 밝혔다.
이어서 NAND개발 박강우 TL은 ‘멀티모달(Multimodal) AI* 시대를 준비하는 4D NAND 설계 기술’을 주제로 세션을 진행했다. 박 TL은 AI 기술이 많은 데이터를 동시에 처리하는 멀티모달로 진화하며, 이로 인한 메모리의 수요는 폭발적으로 증가할 것이라 예측했다. 그리고 그는 구동회로(Peri)를 셀 하부에 넣어 전체 면적을 줄이고 적층 수를 늘린 PUC(Peri Under Cell), 셀을 3개 그룹으로 분류해 데이터를 저장하여 셀의 분포를 개선한 트리플 검증 방식(Triple Verify Program, TPGM) 등 SK하이닉스의 최신 4D 낸드 설계 기술을 소개하며 칩 사이즈는 줄이면서도 성능을 높이며 회사 제품의 가격 경쟁력을 높일 수 있게 됐다는 점을 강조했다.
* 멀티모달(Multimoda) AI: 기존에 텍스트 기반으로 사용자가 원하는 질문을 답변할 수 있는 거대 언어 모델 AI를 넘어 이미지, 동영상, 소리 등을 이해하고 이를 텍스트로 해석 하여 변환하거나 반대로 텍스트에서 이미지나 소리를 생성할 수 있는 AI 모델을 의미함
AI 메모리 반도체 기술뿐만 아니라 반도체 산업에서의 AI 기술 활용에 대한 흥미로운 발표도 이어졌다. DT 조국일 TL은 AI로 웨이퍼 불량을 학습하여 산업용 이상 탐지 시스템으로 활용할 수 있는 자체 개발 솔루션인 WINGS(Wafer Image Normality Grading System)를 소개했다. 조 TL은 이 솔루션을 통해 업무 효율 향상과 사고 예방 및 품질 개선에서 효과를 보고 있는 활용 사례를 통해 산업 전반에서 활용할 수 있는 가능성을 시사하며 회사의 AI 알고리즘 기술력도 소개했다.
이 밖에도 메모리시스템연구소 이경수 TL과 오세진 TL은 CXL 기반 플랫폼의 특장점과 메타(Meta)에서 개발한 소프트웨어 엔진인 캐시립(CacheLib), 데이터 처리 플랫폼 업체인 헤이즐캐스트(HazelCast)의 IMDG* 플랫폼에서의 적용 사례를 발표했다. 회사는 고객의 요구 사항에 맞춰 독자적으로 높은 대역폭과 용량을 확보할 수 있는 CXL 확장 솔루션을 개발하고, 이를 상용화된 기술에 적용한 사례를 시연하며 확장성과 효율성을 강조했다.
* IMDG(In-Memory Data Grid): 웹 애플리케이션 서버 상에서 동작하는 데이터를 웹 서버와 동일한 공간에 배치하여 서비스 응답 속도를 향상시키는 분산 소프트웨어 솔루션. 하나의 컴퓨터 서버에서 제공할 수 있는 메모리보다 많은 메모리를 필요로 하는 대규모 애플리케이션들을 지원하기 위해 사용됨
이번 행사를 통해 SK하이닉스는 SK그룹이 공표한 AI 중심 성장 전략과 발맞춰, ‘글로벌 No.1 AI 메모리 솔루션 공급자’로서 혁신적인 기술 연구와 개발을 지속해 나갈 것이라고 밝혔다.
