AI 기술이 고도화될수록 메모리 반도체는 전체 시스템의 연산 효율과 성능을 좌우하는 핵심 인프라로 진화하고 있다. 이에 따라 기존의 저장과 읽기 · 쓰기 기능을 넘어서는 차세대 메모리 인프라를 설계하고, 최적의 소프트웨어 설루션을 구현하는 역할이 더욱 중요해지고 있다.
뉴스룸은 대학생 앰버서더 차승민, 신재원과 함께 SK하이닉스 강남은 TL(System Architecture, Advanced Memory Solution 팀), 곽형석 TL(Software solution, AI platform SW 팀)을 만나, AI 시대가 요구하는 새로운 메모리 시스템의 기준을 제시하고, 최적의 성능을 완성하는 System Architecture 직무와 Software Solution 직무의 역할과 시너지에 관해 이야기 나누었다.
AI 시대가 요구하는 새로운 메모리 시스템의 기준을 세우다, System Architecture & Software Solution
▲ 다양한 메모리 성능 검증을 위해 조성된 서버실을 둘러보는 대학생 앰버서더들과 곽형석 TL, 강남은 TL
메모리 반도체 기술이 새로운 패러다임을 맞으며 PIM*, CXL*, Custom HBM* 등 기존 메모리의 개념과 활용 방식을 뛰어넘는 차세대 기술의 중요성이 커지고 있다. 이러한 변화의 중심에 있는 직무가 바로 System Architecture와 Software Solution이다. 두 직무는 메모리 칩 자체를 설계하거나 제조하는 기존 직무와 달리, 제품이 실제 AI 서버와 데이터센터 환경에서 어떤 방식으로 활용될지를 고려해 시스템 전체의 구조를 설계하고, 하드웨어와 소프트웨어를 아우르는 최적의 활용 방안을 제시한다. 즉, 차세대 메모리 기술이 시스템에서 최대의 성능을 발휘할 수 있도록 전체 시스템의 청사진을 그리는 것이다.
* PIM(Processing-In-Memory): 메모리에 프로세서의 연산 기능을 더해, 기존 메모리와 프로세서 사이 데이터 병목현상을 해소하고 속도 성능을 획기적으로 높여주는 차세대 메모리
* CXL(Compute eXpress Link): 시스템상에 있는 메모리와 프로세서 등을 효율적으로 연결해, 대역폭과 용량의 한계를 확장해 주는 인터페이스 기술
* Custom HBM(Customized High Bandwidth Memory): 고객의 AI 시스템과 워크로드 특성에 맞춰 인터페이스와 기능 등을 최적화해, 성능과 전력 효율을 극대화하는 맞춤형 HBM 제품
System Architecture 직무는 고객과의 긴밀한 협업을 바탕으로 맞춤형 메모리 구조를 구체화하고, 시스템 성능을 극대화할 수 있는 아키텍처를 설계한다. 제품 개발 이전 단계부터 활용 환경과 고객의 요구사항을 분석해 AI 서버와 데이터센터에 최적화된 시스템 구조를 정의하고, 차세대 메모리 기술이 효과적으로 적용될 수 있는 방향을 제시하는 것이 핵심이다.
Software Solution 직무는 AI 모델이 새로운 메모리 환경에서 최상의 성능을 발휘할 수 있도록 소프트웨어 관점의 최적화 전략을 수립한다. AI 모델의 동작 패턴을 분석해 KV Cache의 저장 방식과 데이터 이동 경로 등을 설계하고, 새로운 메모리 기술이 AI 성능에 미치는 영향을 시뮬레이션한다. 또한 하드웨어 개발 단계에서도 소프트웨어 관점의 아이디어를 제안하며 시스템 전체의 성능 향상에 기여한다.
세부 직무는 각각 세 가지 파트로 구성된다. System Architecture 직무는 ▲클러스터 수준의 메모리 및 고성능 인터커넥트 구조를 최적화하는 ‘데이터센터 아키텍처’ ▲메모리 중심의 AI 반도체와 직접 연산 구조를 연구하는 ‘xPU/SoC 아키텍처’ ▲시스템 전반의 하드웨어와 소프트웨어를 수직 통합해 최적화하는 ‘메모리 서브 시스템 아키텍처’로 나뉜다.
Software Solution 직무는 ▲차세대 AI 메모리용 모델 아키텍처와 학습 · 추론 기법을 연구하는 ‘AI 모델 연구’ ▲실제 AI 워크로드 기반의 플랫폼 구축과 성능 평가를 담당하는 ‘플랫폼 소프트웨어 연구’ ▲이종 메모리 관리 기법과 연산 메모리용 컴파일러*를 설계 · 구현하는 ‘시스템 소프트웨어 연구’로 구성된다.
* 컴파일러(Compiler): 개발자가 작성한 프로그래밍 언어(소스 코드)를 컴퓨터나 반도체 칩이 직접 이해하고 실행할 수 있는 기계어로 번역해 주는 시스템 소프트웨어 기술
이처럼 System Architecture와 Software Solution은 메모리 기술 자체를 개발하는 데 그치지 않고, 하드웨어와 소프트웨어를 유기적으로 연결해 차세대 메모리 시스템을 설계하고 최적화하는 역할을 수행한다. 두 직무는 긴밀한 협업을 통해 고객 요구에 최적화된 시스템을 구현하고, AI 시대 새로운 메모리 시스템의 기준을 만들어가는 핵심 축으로 자리하고 있다.
System Architecture & Software Solution은 이런 인재를 찾는다
System Architecture 직무와 Software Solution 직무의 핵심 역량은 하드웨어와 소프트웨어를 하나의 시스템으로 이해하는 통합적인 시각이다. 시스템 엔지니어는 운영체제(OS), 컴파일러, AI 프레임워크 등 소프트웨어의 동작 원리를 이해해야 하며, 소프트웨어 엔지니어 역시 컴퓨터 구조와 메모리 계층 등 하드웨어에 대한 이해를 갖춰야 한다. 결국 각 분야의 경계를 넘어 하드웨어와 소프트웨어를 유기적으로 연결하는 융합적 사고가 무엇보다 중요하다.
최근에는 인터커넥트 기술과 이종(Heterogeneous) 컴퓨팅 환경에 대한 이해도 중요한 경쟁력으로 떠오르고 있다. AI 시스템에서는 단일 칩의 성능뿐 아니라 프로세서와 메모리를 얼마나 효율적으로 연결하고 활용하느냐가 전체 시스템의 성능을 좌우하기 때문이다.
SK하이닉스 송상목 TL(Talent Acquisition 팀)은 “고부가가치 메모리 시장이 지속 확대되면서 단순한 메모리 개발을 넘어 시스템 차원의 설계 및 개발 역량이 더욱 중요해지고 있다”며 “이 같은 시장 변화 속에서 반도체 회사의 경쟁력은 ‘누가 더 수율 좋은 칩을 만드느냐’를 넘어 ‘누가 더 압도적인 플랫폼과 생태계를 제공하느냐’로 이동하고 있다”고 설명했다.
이어, “System Architecture 직무와 Software Solution 직무는 메모리 전문 기업이 ‘AI 시스템 설루션 프로바이더’로 도약하는 데 핵심적인 역할을 수행할 것”이라며 “난도는 높지만, 차세대 반도체 시장을 이끌고 글로벌 테크니컬 리더로 성장할 수 있는 직무인 만큼 많은 관심을 부탁드린다”고 덧붙였다.
System Architecture & Software Solution 직무 현직자 인터뷰
▲ (왼쪽부터) System Architecture 직무와 Software Solution 직무의 역할과 비전에 관해 설명하는 강남은 TL, 곽형석 TL
Q. 간단한 자기소개 부탁드립니다.
강남은 TL: MSR(Memory Systems Research) 조직 System Architecture 산하 Advanced Memory Solution 팀에서 근무하고 있는 강남은입니다. 메모리가 단순한 단위 부품으로 동작하는 기존 방식을 넘어, 메모리 내부에서 직접 연산을 수행해 전체 시스템 성능을 향상시키는 방안을 연구하고 있습니다.
곽형석 TL: Software Solution 산하 AI Platform SW 팀의 곽형석입니다. AI 모델이 차세대 메모리 제품 위에서 최고 성능을 발휘할 수 있도록 소프트웨어 플랫폼 관점의 최적화 전략을 연구하고 있습니다. 주로 거대언어모델(LLM)이 메모리를 활용하는 방식을 분석하고, 성능 병목 현상을 해결할 소프트웨어적 방안을 찾아 시스템에 적용하는 업무를 수행합니다.
Q. 각 직무의 핵심 목표는 무엇인가요?
강남은 TL: System Architecture 직무의 궁극적인 목표는 메모리 본연의 기능을 넘어 연산 시스템 전반을 아우르는 영역까지 기술력을 확장하는 것입니다. 나아가 새로운 패러다임 변화 속에서 가장 앞선 기술을 확보해 글로벌 시장과 기술 트렌드를 선도하는 조직으로 자리매김하고자 합니다.
곽형석 TL: Software Solution 직무의 핵심 목표는 메모리의 잠재 성능을 최대한 끌어내면서도, 시스템 전체가 안정적으로 작동하는 환경을 구축하는 것입니다. 이를 위해, 새로운 기술 등장에도 유연하게 대응할 수 있는 확장성을 확보하고, 성능과 효율의 최적의 균형점을 찾는 연구를 이어가고 있습니다
Q. 현업에서 가장 많이 고민하는 문제는 무엇인가요?
강남은 TL: 최적의 시스템 구조를 설계하기 위해 다양한 기능들을 비교 · 분석하게 되는데, 이때 가장 객관적인 비교 기준을 빠르게 고안해 내는 것이 늘 고민입니다. 자칫 한 가지 문제에 필요 이상으로 매몰되는 것을 방지하기 위해 팀장님 및 동료들과 활발하게 소통하며, 충분한 근거가 확보되면 신속하게 판단을 내리도록 노력하고 있습니다.
곽형석 TL: 새롭게 제안한 설루션이 시스템 레벨의 복합적인 요인들로 인해 기대만큼의 성능 향상으로 이어지지 않을 때가 있습니다. 개별 연구에만 몰두하다 보면 전체 시스템을 바라보는 시야가 좁아질 수 있기 때문입니다. 이럴 때는 팀원들과 현재 진행 상황을 투명하게 공유하고 논의하며 원인을 다각도로 분석합니다. 이러한 과정을 통해 연구의 방향성이 적절한지 객관적으로 점검하고 있습니다.
Q. 각 직무에서 가장 중요하게 생각하는 역량이나 자질은 무엇인가요?
강남은 TL: 실무에 즉시 적용 가능한 전문성, 그리고 신속한 판단력과 원활한 소통 능력입니다. 특정 분야에서 깊이 있는 전문성을 갖추면, 이를 바탕으로 다른 기술 영역으로도 확장하기가 훨씬 수월해집니다. 또한, 직무 특성상 고객 및 타 부서, 팀원들과 끊임없이 기술적인 의견을 조율하며 연구를 진행해야 하므로, 자신이 이해한 기술을 명확하게 전달하고 협업하는 능력이 무엇보다 중요합니다.
곽형석 TL: AI와 메모리 아키텍처 양쪽 모두에 대한 이해를 바탕으로 한 융합적인 사고력은 필수입니다. 나아가, 우리가 개발한 새로운 기술의 가치를 논리적으로 설명하고 설득하는 커뮤니케이션 역량과 소통 능력도 매우 중요합니다.
Q. 해당 직무를 꿈꾸는 예비 지원자에게 조언을 해주신다면?
강남은 TL: System Architecture 직무는 빠르게 변화하는 최신 기술 동향을 끊임없이 파악하고 분석해야 하는 선행 연구 조직입니다. 따라서 수동적인 학습을 넘어, 반도체 및 IT 분야의 다양한 이슈를 접하고 스스로 트렌드를 짚어내는 주도적인 역량을 기르는 것을 추천합니다. 아울러, 다수의 글로벌 파트너사와 협업하는 경우가 많으므로 영어 소통 능력을 갖춘다면 큰 강점이 될 것입니다.
곽형석 TL: Software Solution 직무 역시 스스로 최신 기술의 흐름을 좇고 분석하는 주도성이 중요합니다. 이를 위해 오픈소스 프로젝트 참여나 AI 프레임워크 활용 경험을 통해 기술의 동작 원리를 직접 익혀보길 추천합니다. 또한 메모리와 GPU 아키텍처 등 하드웨어 기초 지식을 함께 갖추고, 최신 논문과 기술 자료를 꾸준히 살펴보는 습관도 큰 도움이 됩니다.
