KT가 고객사와 함께 인공지능(AI) 엔지니어링을 직접 구현하고 AX(인공지능 전환)의 검토부터 실행까지 전 과정을 단기간에 체험할 수 있는 'KT 이노베이션 허브'를 본격 가동하며 B2B(기업 간 거래) AI 시장 선점에 속도를 낸다.
전승록 KT AX전략본부 부장은 지난 23일 이노베이션 허브를 두고 "AX의 시작이자 베이스캠프"라며 "AI를 어디서부터 시작해야 할지 등 기업의 AI 난제를 정의하는 '컨설팅'이 이곳의 출발점"이라고 강조했다.
KT가 내세운 컨설팅 콘셉트는 특공대 형태의 AX Squad(스쿼드)다. FDE(전방 배치 엔지니어) 기반의 사업개발·컨설팅·개발 인력이 원팀으로 움직이는 AX 스쿼드는 6주 검증 프레임워크를 통해 고객 현장에서 AI 에이전트를 개발하고 현업 피드백을 반영해 효과를 검증한다.
단순 기술 시연에 그치지 않고 실제 업무 환경에서의 ROI(투자 대비 성과)와 AX 본사업의 효과성을 초기에 확증하는 데 집중해 고객의 비용 부담을 최소화한다는 전략이다.
김창수 AX엔지니어링부문 1팀장은 "프로젝트 후반부에 발생하기 쉬운 품질 운영의 일관성 문제를 초기에 잡는 것이 차별점"이라며 "최근 화두인 부서별 AI 사용량 모니터링이나 관측성 비교 등의 제어 툴이 초반부터 잡혀 있어 높은 품질을 제공할 수 있다"고 설명했다.
기존 도구들은 대규모 병렬 실행 시 비용이 기하급수적으로 폭등하거나 장시간 구동 시 문맥을 잃고 답변의 일관성이 무너지는 한계가 있었다. 기업 내부 핵심 시스템과의 연동성 부족도 고질적인 문제로 지적됐다.
이에 KT는 에이전트, 도구, 프롬프트의 설계 구성을 내재화한 'AX 하네스'로 이를 돌파했다. 오픈소스 프레임워크를 기반으로 해 특정 AI 모델에 종속되지 않고 비즈니스 상황에 맞춰 필요한 AI 모델을 자유롭게 선택할 수 있다.
전 부장은 "최신 모델이 나와도 내부 소스나 API 연동 동작을 정확히 알 수 없는 한계가 있었다"며 "하네스는 우리가 모든 내부 솔루션을 직접 제어할 수 있어 유연성이 극대화된다"고 설명했다.
특히 AI의 업무 수행 단계를 세분화한 '파이프라인'을 구축해 정밀도를 높였다. 사용자의 요청을 분석하는 플래너(Planner), 데이터와 도구를 할당·실행하는 디스패치(Dispatch), 결과물이 기업 기준에 부합하는지 검증하는 품질 보증(QA) 단계를 유기적인 사슬 구조로 연결했다. 이를 통해 AI의 무분별한 환각이나 답변 오류를 원천 차단하고 명확한 결과만을 도출하도록 한다.
전 부장은 "수익화는 이미 시작됐다"며 "지난해 AI 트랜스포메이션을 선언하며 B2B AX 비즈니스를 시작했으며 올해 AX 부문을 신설해 엔드투엔드(End-to-End)로 사업 구조를 바꿨다"고 설명했다. 이어 "AIDC(AI 데이터센터)가 실제로 구축되는 향후 3년간 자체 AI 플랫폼이 융합되면서 더 빠른 수익화가 이뤄질 것"이라고 내다봤다.
글로벌 동맹 전선도 넓어진다. 지난해 10월 개소 당시 마이크로소프트(MS)와의 파트너십으로 출발한 이노베이션 허브는 인근 MS 사무실과의 지리적 이점을 살려 유기적 협업을 이어가고 있다. KT는 이에 머무르지 않고 전략을 한 단계 고도화할 계획이다. 전 부장은 "시작은 MS와 함께했지만 향후에는 글로벌 빅테크 기업들과의 협업을 이곳에서 더욱 확대할 수 있도록 준비 중"이라고 밝혔다.