KT의 이음 인사이드. 사진=KT


KT가 '모두의 AI' 앱 기능을 참여사 서비스에 직접 이식하는 '이음 인사이드' 전략을 공개하는 설명회를 지난 11일 열었다. KT가 밝힌 컨소시엄 참여사의 서비스 접점은 합산 6000만 이상이다.

KT컨소시엄은 이용자의 질문과 목적을 이해하는 범용 AI 에이전트를 중심으로 공공 AI 에이전트와 교육·금융·쇼핑·주거 등 분야별 전문 AI 서비스를 하나로 연결한다. '모두의 AI' 범용 서비스는 앱과 웹으로 나오며 컨소시엄에는 KT와 업스테이지, 솔트룩스, 다음, 무신사, 직방, EBS, 매스프레소, BC카드 등 16개 기업이 참여한다.



모두의 AI는 과학기술정보통신부가 추진하는 전 국민 AI 확산 사업으로 과기정통부는 지난달 28일 SK텔레콤과 KT, 카카오 3사 컨소시엄을 사업자로 선정했다. KT컨소시엄은 연말까지 월간활성이용자(MAU) 500만명, 내년 2000만명을 목표로 잡았다. 정부는 올해 엔비디아 B200 GPU를 최대 512장 지원하고 2027년부터 운영비도 예산으로 대기로 했다.

이진형 KT AX사업본부장 상무는 이날 "AI가 아직 어려운 분들을 세상에 연결하는 프로젝트가 '이음 에이전트'이며 핵심 전략은 '이음 인사이드'"라고 설명했다.

이 상무는 KT컨소시엄의 특징으로 ▲하루 100만건씩 쌓이는 기사와 정보를 결합한 생활밀착형 에이전트 ▲국산 AI 모델과 국산 반도체를 섞어 서비스하는 토큰팩토리 ▲온·오프라인 마케팅과 사각지대 해소 활동을 통한 생태계 활성화 등 3가지를 뽑았다.



이 상무는 이음 인사이드가 양방향으로 작동하는 점을 강점으로 내세웠다. 그는 "챗GPT 등 AI 에이전트는 모든 서비스를 단방향으로 연결해 생태계 내 서비스 진입이 어렵다"며 "생태계 내 서비스들을 모두 플러그인으로 탑재해 양방향으로 이용할 수 있게 하는 것이 이음 인사이드"라고 말했다.

대표 사례는 컨소시엄 참여사인 다음 포털의 AI 모드다. 이용자는 다음에서 AI 검색을 쓰면서 금융과 메일, 카페 등 관련 서비스도 맥락에 맞춰 AI로 전환할 수 있다. 개인 창작 서비스도 내놓는다. 이 상무는 "AI 사용자 가운데 개인 창작 활동을 진행하는 분들은 대부분 중국과 미국의 유료 서비스를 쓰고 있다"며 "KT컨소시엄은 NC AI와 함께 3D 모델을 쉽게 생성해 소셜미디어에 배포할 수 있는 서비스를 준비했다"고 말했다.

공공 에이전트는 메모리 기반 서비스의 핵심으로 꼽았다. 이용자 정보를 바탕으로 맞춤 공공 혜택을 보여주고 대화만으로 신청 절차를 밟을 수 있게 한다. 정부가 여는 연동 범위에 맞춰 발급 신청까지 지원한다. 모두의 AI 앱에는 공공 에이전트 별도 탭이 들어갈 예정이다.

이를 뒷받침하는 기반은 AI 운영 플랫폼 '토큰팩토리'다. 솔라(업스테이지)와 모티프(모티프테크놀로지스), 루시아(솔트룩스), 바르코(NC AI), 믿음(KT) 등 국산 AI 모델 5종을 토큰팩토리에서 통합 운영해 서비스 특성에 맞는 모델을 자동으로 연결한다. KT는 이들 모델에 강화학습과 미세조정, 경량화를 추가로 적용할 계획이다.

토큰팩토리는 프롬프트 처리와 응답 생성을 분리해 단계별로 자원을 배분하는 방식으로 분당 토큰 처리량(TPM)을 약 31% 높였다. 프롬프트 압축 기술로 입력 토큰은 최대 80% 줄여 GPU 활용도를 끌어올렸다. 국산 반도체는 리벨리온의 NPU를 쓰고 래블업과 베슬AI의 인프라 운영 최적화 기술도 함께 들어간다.

이 상무는 "이음인사이드를 통한 개방형 AI 생태계 조성으로 국민의 일상을 함께하고 다양한 서비스 접점을 통해 디지털 소외계층까지 포용하는 대국민 AI 서비스를 선보일 것"이라며 "토큰팩토리를 바탕으로 빠르고 정확하며 안정적인 최적의 AI 서비스를 제공하겠다"고 밝혔다.