SK하이닉스가 지난 15일(현지 시간)부터 17일까지 3일간 미국 캘리포니아주 산타클라라(Santa Clara)에서 열린 ‘AI Infra Summit 2026’에 참가했다. 이번 행사는 ▲Data & Models ▲Compute ▲Data Movement ▲AI Data Center ▲Physical AI 등 5개 분야에서 최신 기술 트렌드를 살펴보고 미래 방향성을 논의하는 장으로 마련됐다. 글로벌 빅테크들이 앞다퉈 혁신 기술을 공유해, 전시 현장도 성황을 이뤘다.
서버, 데이터센터와 같은 인프라 분야에서 기술 혁신이 지속되지 않으면 AI 기술도 지금과 같은 고공 성장을 이어가긴 어렵다. 이 같은 AI 인프라의 중요성을 입증하듯, 이번 전시 기간 동안 지난해 대비
두 배 성장한 약 6,000명이 참가했다. SK하이닉스 역시 지난해 대비 부스 규모를 두 배 확장하고 차세대 메모리 포트폴리오를 대거 공유하며, AI 인프라 분야에서 한발 앞선 기술 경쟁력을 재확인했다.
차세대 메모리도 SK하이닉스가 앞서간다… AI 인프라의 ‘New Spectrum’ 제시
▲ SK하이닉스의 전시 부스
이번 SK하이닉스 전시 부스는 ‘뉴 스펙트럼(New Spectrum)’을 슬로건으로 SK하이닉스의 차세대
AI 메모리 설루션과 높아진 브랜드 위상을 알리는 데 집중했다. 먼저 부스 뒤편에는 SK하이닉스의
기술 비전을 그래픽으로 담아냈다. 그 왼편에는 별도의 전시 공간을 마련해 PIM, SALT-KV 등의 기술을 소개하고, 그 앞에는 HBF 구조 모형을 배치해 전시 부스에 들어서면 모든 세션을 한눈에 살펴볼 수 있도록 구성했다.
▲ HBF 구조 모형을 살펴보고 있는 관람객들
HBF 세션은 HBF 소개 영상과 HBF 구조 모형으로 구성됐다. AI의 패러다임이 학습에서 추론으로 변화하면서 높은 대역폭을 갖춘 HBM*과 대용량의 데이터를 저장할 수 있는 SSD 사이의 새로운 메모리 계층의 필요성이 제기되고 있다. HBF(High Bandwidth Flash)는 HBM처럼 TSV* 기술을 적용해 기존 스토리지의 대용량 특성에 더해 높은 고대역폭까지 동시에 구현한 차세대 낸드 설루션으로, 추론 중심의 에이전틱 AI 시대를 열어갈 핵심 AI 메모리 기술로 주목받고 있다. 이에 이번 전시에서도 HBF 세션에 관람객들의 관심이 가장 많이 집중됐다. 관람객들은 발걸음을 멈추고 소개 영상을 끝까지 시청하는가 하면, 모형 앞에서 HBF의 구조를 꼼꼼히 살펴보며 오랜 시간을 보냈다.
* TSV(Through Silicon Via): 실리콘 기판을 수직으로 관통하는 전극을 통해 칩을 수직으로 연결하는 기술
PIM 세션에서는 SK하이닉스의 AiM* 칩과 AiMX(AiM based Accelerator) 카드, AiMX 카드가 실장된 서버가 나란히 전시됐고, 이를 통해 개선된 LLM* 서비스를 직접 느껴볼 수 있는 체험 데모도 함께 운영됐다. PIM(Processing-In-Memory)은 메모리 내부에 연산 기능을 탑재해 프로세서와 메모리 사이의 데이터 이동을 줄이는 기술로, 데이터 전송 과정의 병목 현상(Memory Wall)을 완화하면서 연산 성능과 전력 효율도 높일 수 있는 차세대 설루션으로 꼽힌다. 관람객들은 데모를 통해 PIM 기술이 AI 서비스 효율을 얼마나 높일 수 있을지 관심을 가졌고, AiMX 카드가 실장이 된 서버를 보면서는 성큼 다가온 AI 기술의 다음 스텝에 기대감을 감추지 못했다.
* LLM(Large Language Model): 빅데이터를 학습해 인간처럼 자연스러운 문장을 생성하고 이해하는 인공지능 모델. 매개변수(Parameter)의 규모를 대폭 키워 복잡한 문맥 파악, 추론, 번역 등 고도의 언어 처리 능력을 갖춤
SALT-KV 세션에서는 SK하이닉스의 eSSD가 실장이 된 서버가 전시됐고, 그 옆에 비치된 모니터를 통해 SALT-KV 설루션의 작동 방식과 실제 AI 시스템에서의 데이터 저장 변화 양상을 데이터로 직접 확인할 수 있도록 했다. SALT-KV(Semantic-Aware Lifecycle Tiering for KV Cache)는 LLM의
KV 캐시*를 문맥 단위의 세그먼트로 나눠 재사용 가치와 저장 비용을 종합적으로 판단하고, 이에 따라 데이터를 HBM · D램 · SSD 중 가장 적합한 저장 계층에 배치해 한정된 메모리 자원 안에서 활용 효율을 높이는 기술이다. 특히 이번 전시에선 SALT-KV 설루션으로 LLM 모델을 활용해 게임을 생성하고 실행하는 데모도 함께 진행돼, 전시 기간 내내 설루션을 직접 체험해 보려는 관람객들의 발길이 끊이지 않았다.
“AI 기술 발전 속도에 맞춰 최적화된 설루션 제공할 것”… 세션 발표에서도 기술 비전 공유
▲ 세션 발표 중인 임의철 담당(Solution AT)
SK하이닉스는 전시뿐 아니라 세션 발표에서도 AI 기술의 발전 속도에 맞춰 다양해지는 고객의 요구에도 충분히 대응할 수 있다는 자신감을 내비쳤다. 16일 열린 Data Movement 트랙 세션에 참여한 임의철 담당(Solution AT)이 ‘AI 인프라의 새로운 스펙트럼 PIM, HBF & More(Beyond One-Size-Fits-All: PIM, HBF and More for the New Spectrum of AI Serving)’ 주제로 연단에 올라 현재 진행 중인 차세대 기술의 연구개발 성과를 공유했다.
임 담당은 “초저지연 에이전트 서비스부터 비용 효율성이 중요한 장문 콘텍스트 서비스까지 AI 워크로드가 다양해지면서, 기존의 GPU-HBM 구조만으로는 새로운 요구사항을 충족하기 어려워지고 있다”며 “SK하이닉스는 변화한 워크로드에 맞춰 하드웨어와 소프트웨어를 아우르는 새로운 설루션으로, PIM과 HBF, 그리고 SALT-KV를 준비하고 있다”고 소개했다.
그러면서 “고대역폭과 대용량을 동시에 갖춰 장문 콘텍스트 워크로드의 효율을 개선하는 HBF와 프리미엄 서비스의 빠른 디코딩 워크로드에서 성능과 효율을 개선하는 PIM 기술은 기존 한계를 뛰어넘을 수 있는 훌륭한 대안”이라며 “KV 캐시의 특성과 재활용 가능성을 고려해 처리 효율을 높여주는 SALT-KV 역시 AI 시스템의 진화를 이끌 충분한 가능성을 갖고 있다”고 힘주어 말했다.
SK하이닉스는 “이번 AI Infra Summit 2026 참가를 통해 PIM · HBF · SALT-KV 등 차세대 AI 메모리 설루션을 소개하고, AI 인프라 혁신을 이끌어갈 SK하이닉스의 비전을 공유했다”며 “앞으로도 AI 시대 다양한 요구에 한발 앞서 대응할 수 있도록 기술 경쟁력을 강화해 나가겠다”고 말했다.
