독자 인공지능(AI) 파운데이션 모델(독파모) 프로젝트 2차 평가를 앞둔 SK텔레콤(SKT)이 자사 파운데이션 모델 'A.X K2'의 경쟁력을 심도 있게 소개했다.
김태윤 SKT 파운데이션모델 담당은 4일 자사 뉴스룸를 통해 A.X K2의 특징과 향후 고도화 방향을 설명했다. 김 담당은 A.X K2가 총 6880억개 매개변수 규모의 초거대 언어모델로 이전 모델인 A.X K1보다 성능과 추론 효율을 함께 강화했다고 했다. 국내외 14개 벤치마크 평균 성능은 A.X K1보다 32.2%포인트 향상됐으며 장문 이해와 에이전트 관련 평가에서는 약 83.9%포인트 개선 폭을 기록했다고 밝혔다.
A.X K2가 긴 문맥에서도 더 빠르고 안정적으로 작동할 수 있도록 독자 구조인 SGA(Sparse Gated Attention)를 개발·적용했다는 설명이다. SGA는 긴 대화, 다단계 도구 호출, 대규모 문서 참조가 반복되는 AI 에이전트 환경을 겨냥한 기술이다.
이러한 노력은 AI 에이전트 서비스의 응답 속도와 서빙 비용, 안정성에 직결되는 기술 경쟁력을 확보하기 위한 것이라고 설명했다.
김 담당은 고성능 추론은 대형 모델이 담당하고 현장 접점과 확산은 경량 전문 모델이 맡는 방식으로 산업 현장의 도입 가능성을 높이는 전략도 언급했다. 이를 위해 텍스트 모델인 A.X K2와 함께 이미지와 텍스트를 이해하는 비전 언어 모델 'A.X K2 VL Light-Preview', 상담·회의 등 음성을 인식·분석하는 음성 언어 모델 'A.X K2 ALM', 'A.X K2 Raon-Speech'도 함께 선보였다고 밝혔다.
그는 A.X K2를 활용하는 기업이 숙련공이 보유한 암묵지와 곳곳에 흩어진 현장 문서를 디지털 자산으로 정리하고 품질 판정과 생산 효율을 높일 수 있다고 설명했다. SKT 정예팀은 내부적으로 반도체·자동차·화학 분야의 한국어 제조 AI 벤치마크를 자체 개발하고 데이터 확보부터 학습·평가까지 연결하는 체계를 구축했다고 밝혔다.
보안 측면에서는 온프레미스 구축 이력을 바탕으로 공공·산업 영역으로 확산할 역량을 갖췄다고 강조했다. 외부 피싱 탐지 봇, 오디오 언어모델 기반 보이스피싱 실시간 탐지 등 국민 안전과 연계된 활용 사례도 확대하고 있다는 것이다.
김 담당은 국방 등 보안이 중요한 분야에는 모델을 양자화해 메모리와 처리 부담을 줄이고 제한된 자원 환경에서도 안정적으로 구동할 수 있도록 지원하고 있다고 밝혔다. 이를 통해 하반기 중 A.X K2를 양자화해 국방부에 공급할 계획도 공개했다. A.X K2 후속 모델을 조 단위 매개변수 규모로 확장하는 방안을 준비하고 있다고도 했다.
독파모 2차에 진출한 LG AI연구원·업스테이지·SK텔레콤·모티프테크놀로지스 등 4개 정예팀은 독자 AI 모델 2강 자리를 놓고 경쟁 중이다. 과학기술정보통신부와 정보통신산업진흥원(NIPA)은 지난 7월28일부터 독파모 프로젝트 국민 평가단 200명을 모집하기 시작했다.
SKT는 지난 7월29일 오픈소스 커뮤니티 허깅페이스에 매개변수 6880억개(688B) 규모의 A.X K2를 공개했다. 직전 모델인 519B 규모의 A.X K1보다 모델 규모를 키워 수학·과학 추론과 한국 지식, 장문 추론 능력을 강화했다.
평가단은 독자 AI 모델을 직접 사용해보고 절대평가 방식으로 평가하고 결과는 2차 단계평가에 반영될 예정인데 이르면 오는 12일 윤곽이 드러날 전망이다.