엔비디아, 서울서 '에이전틱 AI 스택' 청사진 제시

AI가 질문에 답하는 단계를 넘어 실제 업무를 처리하는 '에이전트' 단계로 넘어가면서 이를 떠받칠 기술 기반 확보 경쟁도 치열해지고 있다. 엔비디아가 9일 서울 강남구 코엑스에서 열린 '엔비디아 AI 데이 서울 2026'에서 차세대 인공지능(AI) 산업의 핵심 프레임워크로 '에이전틱 AI 스택'을 제시하고 국내 주요 IT 기업들과의 기술 협력 현황을 공개했다.

기조연설에 나선 조나단 코헨 엔비디아 응용연구 부문 부사장은 "어떤 지표로 측정하든 언어 AI 모델이 생성하는 토큰 사용량은 폭발적으로 증가하고 있으며 '독점 모델'과 학습된 가중치를 공개하는 '오픈 웨이트 모델' 모두 매달 사용량이 두 배씩 늘어나는 추세"라고 말했다.

이어 "소프트웨어 작성, 질문 답변, 여행 계획 수립, 디지털 트윈 설계 보조 등 어떤 작업을 요청하든 AI가 제공하는 경제적 가치는 엄청나다"고 밝혔다.

코헨 부사장은 실제 업무를 수행하는 '에이전틱 AI 스택'의 중요성을 강조했다. 그는 "현대적 AI 시스템에서 사용자의 프롬프트는 '에이전트 하네스'라는 소프트웨어로 전달되며 적절한 AI 모델로 배치되고 정형·비정형 데이터베이스와 연동된다"며 "잘 설계된 에이전트는 LLM(대규모언어모델)의 지능과 컴퓨터 과학의 효율성을 하나로 결합해 AI를 내재화한 최신 형태"라고 설명했다.

엔비디아는 이 같은 워크플로를 지원하는 고효율 멀티모달 개방형 AI 모델 제품군 '네모트론'과 관련 기술을 소개했다. 최신 비전-언어 모델인 '네모트론 3.5 슈퍼 VL'은 지난달 공개된 모델로, 엔비디아는 동급 오픈 모델보다 처리량이 최대 5배 높다고 설명했다.

코헨 부사장은 "주어진 시간 예산 내 최선의 답을 내놓아야 하므로 '속도와 효율성'이 곧 지능으로 직결된다"며 "향후 네모트론 4를 비롯해 AI 생태계의 기반이 될 오픈 웨이트 모델에 지속 투자할 것"이라고 말했다.

이어 기업 내부 데이터를 에이전트에 연결하는 '엔비디아 에이전트 지식 기반' 툴킷과 에이전틱 AI의 보안 사고를 방지하는 샌드박스 기반 보안 기술 '오픈셸'(OpenShell)을 함께 소개했다.

특히 엔비디아는 한국 AI 생태계와의 밀접한 파트너십을 강조했다. 글로벌 협력체인 '네모트론 연합'에 지난 6월 합류한 네이버클라우드는 엔비디아의 네모트론 기술과 훈련 소프트웨어를 기반으로 한국 특화 데이터셋을 결합해 '하이퍼클로바X' 모델들을 개발하고 있다. 양사는 모델 최적화 및 배포 기술에 대한 공동 연구개발(R&D)을 진행 중이다.

아울러 SK텔레콤·솔트룩스·NC AI·업스테이지 등 국내 주요 기업들도 네모트론 기술과 데이터를 활용해 한국 시장 특화 독자 AI 모델을 개발하고 다이나모(Dynamo·AI 추론 소프트웨어)를 통해 효율적으로 배포하고 있다.

코헨 부사장은 "한국의 AI 생태계는 이 플랫폼을 기반으로 글로벌 시장의 비즈니스 수요를 해결할 다양한 혁신 애플리케이션을 구축하고 있다. 한국 AI 생태계와 파트너십을 맺고 기술을 제공해 AI 미래를 함께 만들어 나가게 된 것을 기쁘게 생각한다"고 덧붙였다.