AI 경쟁의 초점이 확장되고 있다. 지금까지 시장의 관심이 더 큰 모델, 더 빠른 가속기, 더 빠른 연산 성능에 집중됐다면, 이제는 그 성능을 실제 서비스와 산업 현장에서 안정적으로 구현할 수 있는 인프라로도 옮겨가고 있다. AI가 검색, 기업 업무, 콘텐츠 생성, 제조, 데이터센터, 개인 디바이스로 확산되면서 인프라를 바라보는 기준도 달라지고 있다. 이제 AI 인프라 경쟁력은 연산 성능뿐 아니라 데이터를 어떻게 저장하고, 이동시키고, 다시 활용하는가에 의해 결정되고 있다.

이러한 흐름은 SK하이닉스의 최신 AI 메모리 포트폴리오에서도 확인된다. HBM*4, HBM4E, SOCAMM*2, LPDDR*,  eSSD 제품군 등을 함께 제시한 것은 AI 인프라 경쟁이 단일 제품의 성능을 넘어, 메모리 계층 전반의 설계로 확장되고 있음을 보여준다. 이제 중요한 질문은 “얼마나 빠르게 연산할 수 있는가”에 머물지 않는다. 데이터를 어디에 두고, 어떤 계층에서 처리하며, 필요한 순간에 얼마나 빠르게 불러올 수 있는지가 AI 인프라 경쟁력의 중요한 기준이 되고 있다.[관련기사]

이러한 변화는 메모리 수요가 어느 방향으로 확대되고 있는지를 통해서도 확인할 수 있다. 가트너*와 옴디아*의 시장 매출 전망을 종합하면, 2026년 AI 인프라 및 온디바이스 AI 확산에 따라 HBM, AI-DRAM, AI-NAND 관련 수요는 전년 대비 큰 폭의 성장이 예상된다. 가트너는 HBM과 Server DRAM 매출이 각각 92%, 60% 증가할 것으로 전망했으며, 옴디아는 eSSD 매출이 130% 증가할 것으로 내다봤다. 이는 AI 인프라가 특정 메모리 하나가 아니라 여러 계층의 메모리와 스토리지를 함께 활용되는 구조로 진화하고 있음을 보여준다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 용량을 높이고 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E)-6세대(HBM4) 순으로 개발됨
* SOCAMM(Small Outline Compression Attached Memory Module): 저전력 D램 기반의 AI 서버 특화 메모리 모듈
* LPDDR: 저전력 동작 특성을 지닌 최신 모바일 D램 제품. 명칭 앞에 LP(Low Power)가 붙으며, LPDDR1-2-3-4-4X-5-5X-6 순으로 개발됨
* 가트너 주식회사(Gartner, Inc.): 로벌 IT 시장조사 및 컨설팅 회사. IT 지출, AI, 클라우드, 반도체 시장 전망 등을 많이 인용함
* 옴디아(Omdia): Informa 계열의 시장조사 기관. 반도체, 디스플레이, 데이터센터, 서버, 스토리지 분야에서 업계가 자주 인용하는 리서치 기관

이 변화를 이해하려면 학습과 추론이 인프라에 요구하는 조건이 어떻게 다른지부터 볼 필요가 있다. 학습은 대규모 데이터셋을 기반으로 모델을 만드는 과정이다. 이 단계에서는 막대한 연산 성능과 높은 메모리 대역폭이 필요하다. 수많은 파라미터를 처리하고 데이터를 반복적으로 읽고 쓰기 때문에, 가속기 가까이에서 대량의 데이터를 빠르게 공급하는 메모리가 핵심적인 역할을 한다.

반면 추론은 학습을 마친 모델이 실제 사용자 요청에 응답하는 단계다. 검색 결과를 요약하고, 문서를 생성하고, 추천을 제공하고, AI가 사용자의 지시에 따라 작업을 수행하는 과정이 모두 추론에 해당한다. AI 서비스가 대중화될수록 추론은 더 자주, 더 다양한 환경에서, 더 큰 규모로 발생한다.

이 변화는 메모리 요구사항을 바꾼다. 학습에서는 대역폭과 용량이 우선순위라면, 추론에서는 빠른 응답성, 전력 효율, 데이터 접근성, 문맥 유지 능력이 함께 중요해진다. 특히 AI가 실시간 서비스와 기업 업무 환경으로 확산될수록, 단순히 모델을 실행하는 것만으로는 충분하지 않다. 필요한 데이터를 빠르게 찾아오고, 이전 맥락을 유지하며, 결과를 다시 다음 작업에 연결하는 능력이 인프라 성능을 좌우한다.

최근 AI 서비스의 진화는 문맥 데이터의 증가와 밀접하게 연결돼 있다. 사용자의 이전 대화, 문서, 검색 결과, 기업 내부 데이터, 애플리케이션 상태 정보 등 AI가 더 정확한 답변과 행동을 위해 참고해야 하는 데이터가 빠르게 늘고 있다. 긴 문맥을 처리하는 대형 언어 모델이나 여러 단계를 수행하는 AI 시스템은 단일 입력값만 처리하지 않는다. 과거 정보를 저장하고, 외부 데이터를 불러오고, 이를 다시 모델 처리 과정에 연결해야 한다.

여기서 검색 · 불러오기 역량이 중요해진다. AI 시스템은 필요한 정보를 메모리와 스토리지의 여러 계층에서 찾아오고, 이를 추론 과정에 다시 활용한다. 데이터가 어느 계층에 저장돼 있는지, 접근 속도는 어떤지, 메모리와 스토리지 사이의 이동이 얼마나 효율적인지가 전체 성능에 직접적인 영향을 준다.

에이전틱 AI*의 확산은 이러한 흐름을 더 복잡하게 만든다. 에이전틱 AI는 단일 질문에 답하는 데서 그치지 않고, 목표를 이해하고, 여러 단계를 계획하며, 필요한 도구와 데이터를 활용해 작업을 수행한다. 예를 들어 기업 업무 환경에서 AI 에이전트가 보고서를 작성하려면 내부 문서를 검색하고, 이전 대화 맥락을 반영하고, 데이터를 분석한 뒤, 결과를 다시 요약해야 한다. 이 과정에서는 데이터를 한 번 읽고 끝내는 것이 아니라 반복적으로 읽고, 쓰고, 검색하고, 갱신하는 흐름이 발생한다.

이 때문에 추론 인프라에서는 HBM의 역할에 더해 시스템 메모리와 스토리지 계층의 중요성도 함께 커지고 있다. 특히 대규모 문맥 데이터와 모델 관련 데이터를 안정적으로 저장하고 빠르게 불러오는 eSSD는 엔터프라이즈 AI*와 데이터센터 환경에서 중요해진다. SK하이닉스가 AI-NAND 전략에서 245TB QLC* eSSD와 차세대 고성능 스토리지 기술을 강조하는 것도 이 흐름과 맞닿아 있다.

* 에이전틱 AI(Agentic AI): 고도화된 Agent AI로, 인간 개입 없이 스스로 목표를 설정하고, 계획을 수립하며, 작업을 실행하는 AI 시스템
* QLC: 낸드플래시는 최소 단위 저장 공간인 한 개의 셀(Cell)에 몇 개의 정보(비트 단위)를 저장하느냐에 따라 SLC(Single Level Cell, 1개)-MLC(Multi Level Cell, 2개)-TLC(Triple Level Cell, 3개)-QLC(Quadruple Level Cell, 4개)-PLC(Penta Level Cell, 5개) 등으로 나뉨
* 엔터프라이즈 AI(Enterprise AI): 머신러닝, 자연어 처리(NLP), 컴퓨터 비전과 같은 AI 기술을 대규모 조직 전반에 확장 적용해 자동화, 예측 기반 인사이트, 데이터 기반 의사결정을 지원

AI 인프라가 메모리 계층 구조로 진화한다는 것은 모든 워크로드에 같은 설루션을 적용하기 어렵다는 뜻이기도 하다.

대규모 학습에는 높은 대역폭과 대용량 메모리가 필요하다. 고성능 추론에서는 빠른 응답성과 효율적인 데이터 처리가 중요하다. AI PC와 온디바이스 AI 환경에서는 전력 효율과 폼팩터가 핵심 조건이 된다. 엔터프라이즈 AI와 데이터센터에서는 대규모 데이터를 안정적으로 저장하고 필요한 순간에 빠르게 불러오는 능력이 중요해진다.

이 관점에서 HBM, AI-DRAM, AI-NAND의 3축은 워크로드별 메모리 계층을 이해하는 유용한 기준이 된다. HBM은 가속기 가까이에서 대역폭 병목을 줄이고, AI-DRAM은 서버와 시스템 메모리 영역의 성능과 효율을 뒷받침하며, AI-NAND는 추론과 데이터센터 환경에서 커지는 저장 · 검색 수요에 대응한다. 서로 다른 계층이 하나의 데이터 흐름 안에서 맞물릴 때 AI 인프라는 더 안정적으로 확장될 수 있다.

따라서 AI 인프라의 경쟁력은 특정 제품 하나의 성능만으로 결정되지 않는다. 워크로드의 특성을 이해하고, 이에 맞춰 메모리와 스토리지를 어떤 계층에 배치할 것인지가 중요하다. 연산 가까이에는 높은 대역폭이 필요하고, 시스템 전반에는 충분한 메모리 용량과 효율이 필요하며, 데이터 중심 워크로드에는 고성능 스토리지가 필요하다. AI 인프라는 이 모든 계층이 하나의 데이터 흐름으로 연결될 때 효율적으로 작동한다.

이처럼 AI 인프라가 메모리 계층 구조로 진화할수록 SK하이닉스의 가치는 개별 제품의 성능을 넘어선다. 서로 다른 워크로드에 맞춰 메모리와 스토리지 계층을 설계하고, 이를 하나의 데이터 흐름 안에서 최적화할 수 있는 역량이 중요해지고 있기 때문이다.

SK하이닉스가 AI 인프라 시대에 갖는 의미도 여기에 있다. 회사의 경쟁력은 HBM 리더십을 기반으로, 다양한 워크로드에 맞춰 메모리 계층 전반을 지원하는 포트폴리오와 고객 협력 역량으로 확장되고 있다. 이는 SK하이닉스가 AI 인프라 구현자이자 메모리 기술 리더, 글로벌 고객의 전략적 파트너로 자리매김하는 이유이기도 하다.

이러한 계층 설계 역량은 기술 포트폴리오만으로 완성되는 것이 아니다. SK하이닉스는 글로벌 AI 생태계와의 협력을 확대하며, AI 선도 업체 및 고객과의 전략적 파트너십을 통해 차세대 제품 개발과 고성능 메모리 공급 협력을 강화하고 있다. 또한 글로벌 리서치 역량을 바탕으로 컴퓨팅 시스템에 대한 이해와 Beyond HBM 제품 기술을 고도화하며, AI 인프라 변화에 보다 긴밀하게 대응하고 있다.

AI의 다음 단계는 더 큰 모델이나 더 빠른 가속기만으로 결정되지 않을 것이다. 데이터를 얼마나 효율적으로 이동시키고, 저장하고, 다시 활용할 수 있는지가 시스템 경쟁력을 좌우하게 될 것이다. AI 인프라가 고도화될수록 메모리는 시스템 아키텍처를 구성하는 중요한 계층으로 자리 잡을 것이다.

SK하이닉스의 풀 스택 AI 메모리 포트폴리오는 이러한 전환과 맞닿아 있다. AI 경쟁이 연산 중심에서 데이터 흐름과 메모리 계층 설계 중심으로 확장되는 지금, SK하이닉스는 풀스택 AI 메모리 역량을 바탕으로 AI 시스템이 실제 환경에서 더 효율적으로 구현되고 확장될 수 있도록 지속적으로 지원해 나갈 것이다.