'삼전닉스'도 엔비디아 손잡고 반도체 시뮬레이션 가속

삼성전자와 SK하이닉스가 엔비디아의 GPU(그래픽처리장치) 가속 기술과 AI(인공지능) 프레임워크를 활용해 반도체 시뮬레이션 속도를 끌어올린 협업 성과를 공개했다.

엔비디아는 9일 서울 강남구 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 반도체 시뮬레이션 세션을 열고 두 회사의 사례를 소개했다. 삼성전자는 CPU 멀티코어에서 약 하루 걸리던 3차원 대규모 시뮬레이션을 GPU 환경에서 1분 이내로 줄였다고 밝혔다. SK하이닉스는 엔비디아와 개발한 대면적 열·기계 해석 AI 모델이 CPU 대비 30배 이상 빠르다고 설명했다.

김정한 SK하이닉스 TCAD 인텔리전스 팀장은 반도체 연구개발 시뮬레이션이 어려운 이유로 짧은 제품 개발 주기와 신소재·신장비 도입, 제한된 실험 데이터를 꼽았다. 이를 AI로 풀기 위한 체계가 'TCAD 3.0'이다. TCAD는 반도체 소자·공정 설계를 컴퓨터로 모사하는 기술이다. 2D 메모리 중심의 1.0, 3D 구조와 메카닉스·공정으로 범위를 넓힌 2.0에 이어 HBM(고대역폭메모리) 등 커스텀 메모리 시대에 맞춰 AI를 결합했다.

협업 사례는 두 가지다. 식각(Etch) 공정에서는 시간에 따라 달라지는 형상 경계를 예측하기 위해 엔비디아의 '피직스네모'(PhysicsNeMo)로 그래프 네트워크 기반 시뮬레이터(GNS) 모델을 개발했다. 이 모델은 시간 경과에 따라 식각을 계산하는 기존 시뮬레이션과 같은 결과를 내면서 속도는 수십 배 빠르다.

두 번째는 칩 전체 규모의 대면적 열·기계 해석이다. 세부 구조를 유지하면 연산량과 메모리 부담이 커지는 문제를 풀기 위해 로컬 영역 정보를 재사용하고 시스템을 여러 GPU로 나눠 계산하는 AI 모델을 구현했다. GPU 최적화에는 엔비디아의 '쿠파이'(CuPy) 등이 쓰였다.

김 팀장은 그동안 보조 지원 조직에 가까웠던 시뮬레이션이 AI와 만나 전환점에 서 있다고 평가했다. 그는 "향후 엔비디아의 AI 에이전트 구축 기술과 연계해 피지컬 AI 솔루션 개발 속도를 더욱 가속화할 것"이라고 말했다.

삼성전자 반도체 부문 CS(Computational Science)팀은 반도체 물리 방정식에 AI 학습을 접목한 '사이언티픽 머신러닝'으로 시뮬레이션을 고속화한 사례를 소개했다.

이성엽 삼성전자 엔지니어는 CPU 멀티코어 환경에서 대략 하루가 걸리던 3차원 대규모 미세 메시(Fine Mesh) 시뮬레이션을 자체 개발한 방법으로 싱글 또는 멀티 GPU에서 구현한 결과 수십 초에서 약 1분 안에 연산이 끝났다고 밝혔다. 진행 시간은 작게는 1000배, 많게는 4000배 가까이 단축했다.

이 엔지니어는 "엔비디아의 에이전트 기술을 적극적으로 활용할 계획"이라고 밝혔다. 이번 협업으로 대면적 시뮬레이션이 가능한 수준을 넘어 한 단계 더 나아갔다는 설명이다. 그는 복잡한 정밀한 시뮬레이션이 필요한 실제 응용 사례에서는 연산 시간 단축 효과가 더 커질 것으로 기대한다고 말했다.