메모리에 정보를 저장하고 필요할 때마다 프로세서(xPU)로 가져와 연산하는 방식은 컴퓨터 시스템의 기본적인 작동 원리였다. 하지만 AI 기술이 고도화되고 언어 모델이 거대해지면서, 이 작동 원리는 ‘병목’으로 지적되기 시작했다. 이 가운데 완전히 새로운 구조의 메모리, PIM이 떠오르게 된다.
‘PIM은 무엇이며, 이 메모리는 왜 차세대 AI 메모리로 주목받는가?’
SK하이닉스 대학생 앰버서더(이하 앰버서더)가 KAIST 뇌인지과학과 백세범 교수를 만나 PIM의 개념과 미래 가능성을 짚어봤다.
메모리 월을 극복하기 위한 새로운 접근, PIM
“우리 뇌신경망 시스템을 보며 ‘저 시스템은 왜 에너지 효율성이 높지?’라는 생각을 하게 됐고, ‘이걸 따라 해 현대 컴퓨터 시스템의 문제를 해결해 볼까?’라는 시도들이 있었어요. 이 흐름 속에서 뉴로모픽 개념이 등장했죠. PIM은 뉴로모픽으로 가는 여러 단계 중 하나이고요.”
뇌의 작동 원리를 연구하는 백세범 교수는 “PIM 또한 뇌를 닮은 메모리이고, PIM이 어떻게 뉴로모픽(Neuromorphic)으로 이어지는지 설명하기 위해 이 자리에 함께했다”고 밝히며 본격적인 강의를 시작했다.
PIM(Processing In Memory)은 이름에서 알 수 있듯 연산하는 메모리를 말한다. 지금까지의 컴퓨터 시스템은 ‘연산’과 ‘저장’이 분리된 폰 노이만(Von Neumann) 구조를 따랐다. 메모리에 저장된 정보를 CPU(또는 GPU)로 옮겨 연산한 뒤 다시 메모리로 내보내는 방식이었다. PIM과 같은 새로운 구조가 떠오른 이유는 기존 폰 노이만 구조의 한계 때문이다.
“CPU는 지난 30년 동안 1,000배 이상 빨라졌지만, 메모리는 속도 면에서 크게 향상되지 못했죠. 그러다 보니 데이터 처리는 빠른 반면, 불러오고 내보내는 데 오래 걸리는 ‘운송’ 문제가 발생한 거예요. 이른바 ‘메모리 월*’ 문제가 등장한 겁니다.”
▲ 메모리 내부에서 직접 연산하는 PIM
이어 백 교수는 “HBM*은 대역폭을 넓혀 더 많은 데이터를 빠르게 옮기는 방식으로 이 문제에 접근했고, PIM은 프로세서와 메모리 사이에서 데이터가 왔다갔다 하는 ‘운송’ 자체를 없애자는 아이디어”라고 덧붙였다. 복잡한 연산이 필요 없는 간단한 작업이라면 메모리 안에서 바로 해결하는 것이 PIM의 핵심이라는 설명이다.
* HBM: HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 용량을 높이고 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E)-6세대(HBM4)-7세대(HBM4E) 순으로 개발됨
처리 속도는 x10, 효율은 1/5, ‘PIM’이 보여준 가능성
PIM은 미래가 아닌 현재의 기술이다. 이미 상용화 단계를 밟고 있으며, 다양한 제품이 개발되고 있다. “어떤 제품이 출시돼 있느냐”는 차승민 앰버서더 질문에 백 교수는 GDDR6-AiM을 꼽았다. SK하이닉스는 GDDR6에 가속기(Accelerator)를 결합한 GDDR6-AiM을 개발하고[관련기사], 이 제품 여러 개를 묶은 가속기 카드, AiMX를 선보인 바 있다[관련기사].
“지난 2022년 SK하이닉스가 GDDR6 메모리를 기반으로 세계 최초 개발한 AiM 제품이 PIM의 대표적인 사례죠. 학계에서도 메모리 문제를 해결할 기술로 주목하고 있는 제품이에요.”
PIM의 발전 방향을 묻는 한시연 앰버서더의 질문에는 “셀 개별 연산”이라고 답했다.
▲ 메모리 셀 하나하나에 연산기를 삽입하는 미래의 PIM
“메모리는 셀을 모아서 메모리 뱅크*를 만들고, 뱅크를 모아 패키징한 구조입니다. 현재는 연산기가 뱅크 단위로 들어가는데요. 미래에는 메모리 셀 하나하나에 집어넣는 모습도 생각하고 있어요”
또한, 백 교수는 ‘데이터 처리 속도 10배 향상, 전력 소모 80% 감소’를 이뤄낸 SK하이닉스 AiMX를 예로 들며, 셀 개별 연산이 가능하면, AI 메모리의 새로운 장이 펼쳐질 것이라고 내다봤다.
“사람의 뇌는 20와트(W) 정도의 에너지를 씁니다. 전구 하나 정도이죠. 반면 상용 AI 모델은 수십 메가와트(MW)까지 전기를 잡아먹어요. 이 격차를 줄일 수 있다면, 거대한 AI가 한정된 서버를 벗어나 작은 휴대기기 안에서도 쾌적하게 작동하는 길이 열리는 것이죠.”
PIM 그리고 뉴로모픽이 나아갈 방향성
백 교수는 “PIM은 결국 뉴로모픽(Neuromorphic) 반도체와 맞닿아 있다”며 PIM이 나아갈 방향성을 강조하기도 했다.
▲ KAIST 뇌인지과학과 백세범 교수
“뇌는 우리 몸 곳곳에 존재하는 뉴런*을 바탕으로 기억을 저장하고 인출합니다. 뉴런은 ‘연산만’ 하거나 ‘저장만’ 하지 않아요. 연산과 저장을 동시에 하는 유닛이거든요. 뉴로모픽은 뇌처럼 동작하는 반도체를 말하는데, PIM이 그 방향으로 가고 있으니, 자연스럽게 뉴로모픽 이야기로 이어질 수밖에 없죠.”
한편, ‘PIM 기술의 현 수준’을 묻는 한시연 앰버서더의 물음에는 ‘뉴로모픽으로 가는 초입’이라고 진단했다. 지금은 메모리에 연산 기능을 더해 보고, 어떤 기능이 가능한지 시도해 보는 단계이며, 앞으로 PIM을 기반으로 한 다양한 메모리가 등장할 것이라고 백 교수는 설명했다.
물론 뉴로모픽이 궁극의 형태는 아니다. 백 교수 또한 “뇌와 완벽히 같아질 필요는 없다”고 강조했다.
“완벽하게 뇌를 모사한 시스템이 필요하다고는 생각지 않아요. 실리콘 칩(Silicon Chip) 기반 반도체가 연산 속도는 훨씬 빠르니까요. 두 시스템을 융합해서 장점만 가져온다면 무엇이 될지, 그것을 생각해 보면 좋겠어요.”
PIM과 뉴로모픽은 시스템과 메모리, 뇌인지과학 등 여러 전공이 융합된 분야다. 그만큼 다방면으로 두루두루 파고드는 역량이 요구된다. 백 교수는 이 분야를 꿈꾸는 학생들에게 조언을 건네며 강의를 마쳤다.
“다양한 그림을 보세요. 저도 비휘발성 메모리를 공부한 경험이 없었다면 오늘 같은 이야기를 깊이 있게 하지 못했을 겁니다. T자형 인재라는 말처럼 본인 전공을 깊게 이해하면서 다른 분야도 놓치지 않는 인재가 되길 바랍니다.”
