신성규 리벨리온 최고재무책임자(CFO)가 지난 15일 서울 종로구 동행미디어 시대에서 열린 시대포럼 'AI 대전환의 시대, AI 풀스택 대한민국의 비상' 사전숙의토론에서 발언을 하고 있다. /사진=조현호 기자


정부가 인공지능(AI) 3강으로 도약하기 위해 힘을 모으고 있는데 미국과 중국의 틈바구니 속에서 한국만의 청사진을 그려야 한다는 목소리가 높다. 전문가들은 특화된 AI 모델을 통해 차별화를 시도하고 AI 서비스가 제대로 활용될 수 있는 산업 생태계를 하루빨리 구축해야 한다고 입을 모은다.

한국은 AI 풀스택이 가능한 몇 안 되는 국가로 평가받는다. 메모리 반도체를 생산할 수 있고 AI 인프라에 필요한 클라우드와 AIDC 기술 역시 선도적인 위치에 있다는 평가다. AI 파운데이션 모델과 서비스 역시 점차 성과를 내고 있다는 분석이다.



그럼에도 세계 3대 AI 강국으로 거듭나려면 갈 길이 멀다는 시각이 많다. 인프라는 아직 풀지 못한 숙제다. 신성규 리벨리온 최고재무책임자(CFO)는 "AI데이터센터까지 빨리 시공한다고 해도 전력 인프라가 받쳐주지 않으면 그건 빈 공간을 만드는 것"이라고 말했다. 현재 국내에서 운영되는 데이터센터는 161곳으로 계약전력은 2669메가와트(MW)다. 한국전력에 접수된 전기사용 신청은 178건·1만68MW로 운영 중인 물량의 약 4배에 달하는 수요가 쌓여 있다.

정부는 2035년까지 18.4GW 규모의 AI 데이터센터를 짓겠다는 목표를 세우고 1000조원 이상의 대규모 투자를 추진하고 있다. 지난 5월 국회를 통과한 AI 데이터센터 특별법도 2027년 2월 시행을 앞두고 있지만 시행령 등 하위 법령은 아직 마련되지 않았다. 전문가들은 하위 법령을 서둘러 마련하고 비수도권에 전력·용수 인프라를 조기에 확충하는 데 성패가 달려 있다고 본다.

조영임 가천대 교수는 "AI의 추론을 지속해서 지원하는 곳이 승자"라며 "AIDC(AI데이터센터) 역량이 그만큼 중요하다"고 말했다. 조 교수는 규제 혁신이 시급하다고 했다. 그는 "AIDC는 일반 데이터센터가 아님을 증명하는 게 어려워 혜택을 못 받고 있다"며 "AIDC가 분명하게 세제 지원을 받을 수 있도록 규제를 개선해 기업들에게 도움이 되도록 해야 한다"고 강조했다.



AI 가속기 분야에서 엔비디아 의존도가 높은 것도 극복해야 할 부분으로 꼽힌다. 전 세계 AI 산업이 엔비디아 영향권 아래 있는 상황에서 국산 NPU(신경망처리장치) 생태계를 육성해야 한다는 말이 나온다.

엔비디아 GPU(그래픽처리장치)는 AI 연산에서 핵심인데 정부는 지난해 엔비디아와 협력해 공공·민간을 합쳐 국내에 GPU 26만장 이상을 공급받기로 했다. GPU를 선제적으로 확보한 것은 다행이지만 AI 산업 자생력을 위해 NPU 생태계를 강화하는 데도 신경 써야 한다는 것이다.

신성규 리벨리온 부사장은 "AI 가속기 분야에서 별도의 생태계를 가진 국가가 별로 없다"며 "리벨리온, 퓨리오사AI 등 한국이 이 정도 NPU 기반을 갖춘 것은 고무적인 부분"이라고 했다. 이어 "한국이 AI 경쟁력을 갖추는 데 있어서 NPU 생태계를 생각해야 한다"고 부연했다.
AI 데이터와 모델 수준은 미국·중국과 비교하면 격차가 크게 벌어지고 있다.
최수환 리얼월드 전무가 지난 15일 서울 종로구 동행미디어 시대에서 열린 시대포럼 'AI 대전환의 시대, AI 풀스택 대한민국의 비상' 사전숙의토론에서 발언을 하고 있다. /사진=조현호 기자


최수환 리얼월드 전무는 "미국은 막대한 자금을 투입해 데이터를 무한정 끌어모으고 있고 중국은 국가의 통제 아래 엄청난 인구에서 창출되는 데이터를 수집하고 있다"고 말했다.

사람도 새고 있다. 포스코경영연구원 등에 따르면 2025년 기준 한국 AI 인재 순유입 지표는 링크드인 회원 1만명당 -0.35명으로 경제협력개발기구(OECD) 36개국(일본·콜롬비아 집계 제외) 중 31위였다. 한국조세재정연구원의 스위스 국제경영개발원(IMD) 해외 고급인재 유치 매력도 지수 분석 결과를 보면 한국은 2020년 4.70점으로 43위에 그쳤고 작년(3.69점)에는 61위를 기록했다. 최수환 전무는 "AI 쪽은 미국에 가면 한국 대비 10배를 받을 수 있다"며 "정부가 애쓰고 있지만 현실적인 격차는 존재한다"고 말했다.

최병호 고려대 AI연구소 교수는 공공·보안 등 특수 목적 영역에 쓰일 수준의 소버린 AI 확보를 보완책으로 제시했다. 그는 "초거대 모델로 승부할 게 아니라 조선·방산 등 제조업과 모바일·가전에 쓰이는 경량화된 특화 AI 모델로 경쟁해야 승산이 있다"고 말했다.

최수환 전무 역시 AI 모델 경쟁에서 한국의 제조업 강점을 살리는 방향으로 가야 한다고 말했다. 조영임 교수는 이를 위해 제조업 간 데이터 표준화가 필요하다고 말했다. 그는 "제조산업 내 같은 회사에서도 데이터 표준화가 안 돼 있다"며 "데이터 상호호환성이 없는 게 가장 문제"라고 지적했다.

전문가들은 AI 생태계가 활성화돼야 풀스택이 제대로 구현될 수 있다고 한목소리로 말했다. 이재성 중앙대학교 AI학과 교수는 "AI 시장 자체를 활성화해야 한다"며 "인프라 역시 산업 생태계가 커져야 작동할 수 있고 인재 역시 시장이 탄탄해야 남는다"고 말했다. 그는 "AI 모델과 서비스, NPU까지 시장에서 활용된 사례가 많아야 가능한 일"이라며 "이를 위해 정부가 마중물 역할을 해줘야 한다"고 역설했다.