안현 SK하이닉스 개발총괄 사장이 14일 서울 삼성동 코엑스에서 열린 ‘반도체대전(SEDEX) 2026’에서 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 기조연설을 하고 있다./사진=SK하이닉스


안현 SK하이닉스 개발총괄 사장(CDO)이 AI 추론 시장이 빠르게 성장하면서 새로운 메모리 병목이 발생하고 있다고 진단했다. 이를 해결하기 위한 차세대 메모리 기술 로드맵과 전체 메모리 계층 최적화 전략을 마련해야 한다고도 강조했다.

안 사장은 14일 한국반도체산업협회 주최로 서울 강남구 코엑스에서 열린 제28회 반도체대전(SEDEX 2026)에서 'AI 시대, 메모리 기술의 진화 방향'을 주제로 기조연설을 했다.



안 사장은 AI 추론 시장은 '작업 복잡도' '컨텍스트 길이' '추론 요청량'이라는 세 가지 방향에서 성장하고 있다고 진단했다. AI 인프라 성능 규모가 2030년에는 2026년 대비 약 20배까지 커질 것으로 전망했다.

이러한 성장에 따라 모델 가중치와 중간 데이터 저장·이동 수요도 함께 증가하고 있다. 특히 AI가 이전에 처리한 토큰 정보를 저장하고 재활용하는 KV 캐시는 컨텍스트 길이가 늘어날수록 더 많은 메모리 용량이 필요하다. HBM부터 D램, SSD까지 여러 메모리 계층에 데이터를 분산해 저장해야 하는 이유다. 이 과정에서 계층 간 데이터 이동이 늘면서 새로운 성능 및 전력 소모의 병목이 발생한다.

안 사장은 과거 메모리 장벽이 주로 연산기와 메모리 사이에서 발생했다면 AI 시대에는 서로 다른 메모리 계층 간 성능 격차와 데이터 이동 자체가 새로운 병목으로 부상하고 있다고 분석했다. 이에 AI 인프라의 지속적인 성장을 위해서는 개별 메모리 성능 향상을 넘어 전체 메모리 계층을 최적화하는 접근이 필요하다는 설명이다.



안 사장은 AI 시대 메모리 구조가 더 세분화되고 다변화될 것으로 내다봤다. 기존 메모리 계층은 S램, D램, SSD, 네트워크 스토리지 등을 중심으로 구성됐지만 AI 시대에는 HBM이 핵심 계층으로 자리 잡는다는 것이다. 앞으로는 S램과 HBM, HBM과 D램, D램과 SSD, SSD와 네트워크 스토리지 사이에 새로운 메모리 계층이 추가되는 구조로 발전할 전망이다.

SK하이닉스는 이 같은 변화에 대응해 기존 HBM 경쟁력을 강화하는 한편 새로운 메모리 계층을 구현하기 위해 차세대 기술도 개발하고 있다. 먼저 AI 메모리 핵심인 HBM 기술을 지속해서 고도화하고 있다. HBM1부터 HBM4E에 이르기까지 용량과 대역폭·에너지 효율을 높이는 한편 고객별 AI 시스템에 최적화된 커스텀 HBM으로 기술 발전 방향을 확대하는 중이다. 베이스 다이에 메모리 컨트롤러와 고객 맞춤형 로직을 직접 탑재하는 방식으로 고객의 AI 아키텍처에 맞춰 기능과 성능을 최적화하는 게 특징이다.

S램과 HBM 사이의 성능 병목을 해결할 차세대 기술로 3D 적층 D램도 소개했다. 3D 적층 D램은 GPU·NPU 등 로직 반도체 위에 D램을 적층해 연산기와 데이터 간 물리적 거리를 줄이는 구조다.

메모리 용량 수요에 대응하기 위한 새로운 계층으로는 HBF를 제시했다. SK하이닉스가 HBM을 통해 확보한 TSV(실리콘관통전극) 적층 및 고속 입출력(I/O) 기술을 낸드플래시에 적용한 차세대 메모리다. HBF는 동세대 HBM 대비 절반 수준의 대역폭과 약 10배의 용량을 제공하는 것을 개발 목표로 한다.

SK하이닉스는 이 밖에도 CXL과 스토리지 넥스트 등 차세대 메모리·스토리지 기술을 통해 메모리 계층을 다변화하고 AI 워크로드에 최적화된 메모리 구조를 구현해 나간다는 구상이다.

SK하이닉스는 차세대 메모리 기술 개발과 함께 새로운 메모리 생태계 구축에도 적극 나설 계획이다. 안 사장은 "HBF의 선제적인 표준화를 추진하고 글로벌 파트너들과 협력을 강화해 차세대 메모리 기술의 발전 기반을 마련할 방침"이라고 했다.

한편 SK하이닉스는 이번 전시에서 AI 인프라부터 고객 디바이스까지 폭넓은 영역을 아우르는 맞춤형 AI 메모리 설루션을 선보였다. 올해 전시장 내 최대 규모로 마련한 부스에서 '멈추지 않고 나아가는 AI 여정'을 주제로 전시 공간 전체를 하나의 육상 트랙 형태로 구성했다. 주요 전시 제품으로는 차세대 HBM4E와 HBF를 비롯해 AI 서버 환경에 최적화된 고성능 D램과 기업용 SSD(eSSD), PC·모바일용 메모리 및 스토리지 설루션 등을 소개했다.