반도체의 경쟁력은 사람에서 나온다. 뉴스룸은 인공지능(AI) 및 반도체 산업을 이끌 미래인재를 양성하는 데 힘을 더하기 위해 [미래인재 CLASS]를 기획하고, 반도체 산업을 둘러싼 다양한 주제를 짚어나가고 있다. 특히 이 시리즈에서는 SK하이닉스 대학생 앰버서더와 반도체 기술의 정점에 있는 석학이 만나 AI와 반도체의 본질을 깊이 있게 탐구하는 시간을 갖는다.
AI 반도체의 마스터 클래스, 네 번째 특강에서는 AI 시대의 ‘전력 효율’을 조명한다.
“2040년, 인류가 만든 모든 전력이 AI에 사용될 거라는 예측이 있습니다.”
서울대학교 이철호 교수(전기 · 정보공학부)가 전하는 미래 전망이다. AI가 일상에 깊이 들어올 때, 전력은 기술의 발목을 잡는 현실적인 문제가 될 것이라고 이 교수는 지적한다.
AI 기술 발전에 있어 ‘전력 효율’이 무엇보다 중요해진 이 시점, SK하이닉스 대학생 앰버서더(이하 앰버서더)가 이철호 교수를 만나 AI 시대의 전력 문제와 메모리 전력 효율에 관해 이야기 나눴다.
AI 학습 · 추론에 대규모 전력 사용, 온디바이스 AI도 전력난(難)
이철호 교수에 따르면, 초거대 AI 모델 1개를 학습하는 데 약 50GWh(기가와트시)의 에너지가 필요하다. 샌프란시스코 같은 메가시티(Mega City)가 3일 동안 쓰는 전력량에 맞먹는다.
생성형 AI에 질문을 던지고 답을 얻는 ‘추론 과정’에서도 많은 전력이 쓰인다. 추론 작업은 보통 데이터센터(Data Center) 내에서 이뤄지는데, 데이터센터 전력 소비량은 2030년 기준 945TWh(테라와트시)에 도달한다는 전망*이다. 이 교수는 지금 방식의 컴퓨팅(Computing)을 이어가면 “2040년에는 인류가 생산하는 모든 에너지를 컴퓨팅(연산)과 데이터 이동에 사용하게 된다**”는 예측도 전했다.
“다양한 전망이 있는데, 중론은 ‘AI 전력 소모량이 감당하기 어려울 만큼 증가한다’는 거예요. 그만큼 ‘메모리의 전력 효율을 얼마나 높이느냐’가 중요해지는 거죠.”
** SRC, Decadal Plan for Semiconductors, 2021
전력 문제는 데이터센터 외에도 여러 산업에서 주목하고 있는 사안이다. 그중 온디바이스 AI에 대한 임나현 앰버서더의 질문에 이 교수는 “구동계와 AI가 배터리 전력을 나누어 써야 하는 온디바이스 AI, 특히 휴머노이드 산업에서는 전력 효율이 상대적으로 중요하다”며 “이를 해결하기 위해 저전력 D램(Low Power DDR, LPDDR)을 모듈화*하는 등의 노력이 이어지고 있다”고 설명했다.
“저전력이 곧 성능 저하를 의미하느냐”는 신재원 앰버서더의 질문에는 아니라고 선을 그었다.
“저전력이란 동일한 퍼포먼스를 더 적은 전력으로 구현하는 걸 의미해요. 스마트폰을 예로 들면, 인터넷에 접속하고 영상을 보고, 생성형 AI를 사용하는 등 동일한 작업을 한다고 했을 때, 더 적은 전력으로 오래 쓸 수 있게 되는 거죠.”
데이터 읽기 · 쓰기 · 저장 · 이동에 모두 전력 소모… 해법은?
이번 강의에서 이 교수는 “AI 칩을 운영하는 데는 많은 에너지가 쓰이고, 이때 메모리가 효율적으로 동작하도록 개발하는 것이 중요하다”며 “메모리가 전체 시스템의 효율을 높이는 중요한 키워드가 될 것”이라고 강조했다. 메모리 내에서 전력이 어떻게 사용되는지를 묻는 박인욱 앰버서더의 질문에는 두 가지를 짚었다.
![[미래인재 CLASS 제4강] AI 시대의 전력난(難), 해법은 메모리로부터 06 기타 인포그래픽](https://skhynix-prd-data.s3.ap-northeast-2.amazonaws.com/wp-content/uploads/2026/09/%EB%AF%B8%EB%9E%98%EC%9D%B8%EC%9E%AC-CLASS-%EC%A0%9C4%EA%B0%95-AI-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A0%84%EB%A0%A5%EB%82%9C%E9%9B%A3-%ED%95%B4%EB%B2%95%EC%9D%80-%EB%A9%94%EB%AA%A8%EB%A6%AC%EB%A1%9C%EB%B6%80%ED%84%B0_06_%EA%B8%B0%ED%83%80_%EC%9D%B8%ED%8F%AC%EA%B7%B8%EB%9E%98%ED%94%BD_2026.jpg)
“첫째는 메모리가 스스로 동작할 때예요. D램은 작은 커패시터*에 전하를 채워 정보를 저장하는 구조인데요. 정보를 읽으면 전하가 지워지기 때문에 다시 채워줘야 하죠. 읽고 쓰지 않을 때도 전하가 조금씩 누설되기에 주기적으로 보충하는 리프레시*도 반복해야 합니다.”
* 리프레시(Refresh): 전하 누설로 손실된 정보를 주기적으로 재충전하는 동작으로, 이 과정에서 전력이 소모됨
![[미래인재 CLASS 제4강] AI 시대의 전력난(難), 해법은 메모리로부터 07 기타 인포그래픽](https://skhynix-prd-data.s3.ap-northeast-2.amazonaws.com/wp-content/uploads/2026/09/%EB%AF%B8%EB%9E%98%EC%9D%B8%EC%9E%AC-CLASS-%EC%A0%9C4%EA%B0%95-AI-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A0%84%EB%A0%A5%EB%82%9C%E9%9B%A3-%ED%95%B4%EB%B2%95%EC%9D%80-%EB%A9%94%EB%AA%A8%EB%A6%AC%EB%A1%9C%EB%B6%80%ED%84%B0_07_%EA%B8%B0%ED%83%80_%EC%9D%B8%ED%8F%AC%EA%B7%B8%EB%9E%98%ED%94%BD_2026.jpg)
다음으로 이 교수는 “더 심각한 문제는 여기서 발생한다”며 ‘데이터 이동’을 언급했다. 이어 폰 노이만* 구조에서는 연산할 때마다 메모리-프로세서 간 데이터 이동을 반복하는데, 최근 데이터 처리량이 폭발적으로 늘어나면서 이 구간의 정체가 전체 전력 효율을 결정짓는 병목*이 되었다고 설명했다.
* 병목(Bottleneck): 시스템 전체 성능을 제한하는 지점. AI 시스템에서는 연산 장치가 아니라 데이터 공급, 메모리, 스토리지, 네트워크 등에서 병목이 발생할 수 있다.
아울러 그는 병목을 해결하기 위한 방법으로 ‘메모리 자체 전력을 줄이는 방향’과 ‘데이터 이동 자체를 없애는 방향’이 있다고 밝혔다.
“메모리 자체 전력을 줄이기 위해 리프레시 과정을 없앤 비휘발성 메모리를 개발하고 있고요. HBM처럼 대역폭, 그러니까 데이터 이동 통로를 넓힌 제품을 개발하고 있기도 해요. LPDDR의 성능을 높이려는 다양한 시도도 있죠. PIM*과 CIM*처럼 연산과 저장을 같은 곳에서 처리해 데이터 이동 과정을 단축하려는 접근도 있습니다.”
* CIM(Compute-in-Memory): 메모리 셀에 연산 기능을 더해 저장과 연산을 동일 소자에서 수행하는 차세대 메모리
SK하이닉스, 데이터센터 · 온디바이스 AI 등 계층별 메모리 효율화 전략으로 대응
SK하이닉스 또한 메모리 전력 효율을 높이고자 많은 노력을 기울이고 있다. 관련해 양우석 앰버서더는 “AI 메모리 산업을 리드하고 있는 SK하이닉스에서는 어떤 해법을 내놓고 있느냐”는 질문을 던졌다.
![[미래인재 CLASS 제4강] AI 시대의 전력난(難), 해법은 메모리로부터 05 인물 사진](https://skhynix-prd-data.s3.ap-northeast-2.amazonaws.com/wp-content/uploads/2026/09/%EB%AF%B8%EB%9E%98%EC%9D%B8%EC%9E%AC-CLASS-%EC%A0%9C4%EA%B0%95-AI-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A0%84%EB%A0%A5%EB%82%9C%E9%9B%A3-%ED%95%B4%EB%B2%95%EC%9D%80-%EB%A9%94%EB%AA%A8%EB%A6%AC%EB%A1%9C%EB%B6%80%ED%84%B0_05_%EC%9D%B8%EB%AC%BC_%EC%82%AC%EC%A7%84_2026.jpg)
▲ 서울대학교 이철호 교수(전기 · 정보공학부)
이 교수는 “HBM4의 경우 I/O(데이터 이동 통로) 밀도를 높이고 로직 베이스 다이*에 첨단 공정을 도입해 이전 세대 대비 전력 효율을 40% 개선했다”고 답했다. 또, “10나노미터급 6세대(1c)* 기반 LPDDR6를 개발해 온디바이스 AI에 대응하고, LPDDR5X를 모듈화해 AI 서버에서도 활용 가능한 SOCAMM2를 내놨다”고 덧붙였다.
* 10나노미터(nm)급 미세공정 기술로, 세대순으로 1x-1y-1z-1a-1b-1c(6세대)로 진화함
저전력 메모리의 발전 방향에 대해서는 ‘전력과 성능’을 모두 언급했다.
“고성능 · 저전력이라는 말 자체가 효율이 높다는 이야기인데요. 그러니 전력 효율을 높이려면 성능이 뛰어나면서 전력 소모가 적은 소자, 메모리를 개발해야 하죠. 데이터센터, 온디바이스 AI 등 쓰이는 목적은 다르지만, 고성능 · 저전력이라는 발전 방향은 모두 같아야 해요.”
끝으로 이 교수는 미래인재를 향한 조언도 아끼지 않았다. 그는 “전력 효율은 하나의 요소로 결정되지 않고 시스템을 구성하는 요소들이 복합적으로 영향을 준다”며 “하나보단 전체를 조망하며 기술을 개발할 수 있는 역량이 필요하다”고 언급했다. 또, “기획력을 갖추어 AI도 대체할 수 없는 미래인재로 성장하라”고 당부하며 강의를 마쳤다.
![[미래인재 CLASS 제4강] AI 시대의 전력난(難), 해법은 메모리로부터 01 인물 사진](https://skhynix-prd-data.s3.ap-northeast-2.amazonaws.com/wp-content/uploads/2026/09/%EB%AF%B8%EB%9E%98%EC%9D%B8%EC%9E%AC-CLASS-%EC%A0%9C4%EA%B0%95-AI-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A0%84%EB%A0%A5%EB%82%9C%E9%9B%A3-%ED%95%B4%EB%B2%95%EC%9D%80-%EB%A9%94%EB%AA%A8%EB%A6%AC%EB%A1%9C%EB%B6%80%ED%84%B0_01_%EC%9D%B8%EB%AC%BC_%EC%82%AC%EC%A7%84_2026.jpg)
![[미래인재 CLASS 제4강] AI 시대의 전력난(難), 해법은 메모리로부터 02 인물 사진](https://skhynix-prd-data.s3.ap-northeast-2.amazonaws.com/wp-content/uploads/2026/09/%EB%AF%B8%EB%9E%98%EC%9D%B8%EC%9E%AC-CLASS-%EC%A0%9C4%EA%B0%95-AI-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A0%84%EB%A0%A5%EB%82%9C%E9%9B%A3-%ED%95%B4%EB%B2%95%EC%9D%80-%EB%A9%94%EB%AA%A8%EB%A6%AC%EB%A1%9C%EB%B6%80%ED%84%B0_02_%EC%9D%B8%EB%AC%BC_%EC%82%AC%EC%A7%84_2026.jpg)
![[미래인재 CLASS 제4강] AI 시대의 전력난(難), 해법은 메모리로부터 03 인물 사진](https://skhynix-prd-data.s3.ap-northeast-2.amazonaws.com/wp-content/uploads/2026/09/%EB%AF%B8%EB%9E%98%EC%9D%B8%EC%9E%AC-CLASS-%EC%A0%9C4%EA%B0%95-AI-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A0%84%EB%A0%A5%EB%82%9C%E9%9B%A3-%ED%95%B4%EB%B2%95%EC%9D%80-%EB%A9%94%EB%AA%A8%EB%A6%AC%EB%A1%9C%EB%B6%80%ED%84%B0_03_%EC%9D%B8%EB%AC%BC_%EC%82%AC%EC%A7%84_2026.jpg)
![[미래인재 CLASS 제4강] AI 시대의 전력난(難), 해법은 메모리로부터 04 인물 사진](https://skhynix-prd-data.s3.ap-northeast-2.amazonaws.com/wp-content/uploads/2026/09/%EB%AF%B8%EB%9E%98%EC%9D%B8%EC%9E%AC-CLASS-%EC%A0%9C4%EA%B0%95-AI-%EC%8B%9C%EB%8C%80%EC%9D%98-%EC%A0%84%EB%A0%A5%EB%82%9C%E9%9B%A3-%ED%95%B4%EB%B2%95%EC%9D%80-%EB%A9%94%EB%AA%A8%EB%A6%AC%EB%A1%9C%EB%B6%80%ED%84%B0_04_%EC%9D%B8%EB%AC%BC_%EC%82%AC%EC%A7%84_2026.jpg)