[AI시대 책읽기/안기석] "크면 클수록 좋다"…과연 그런가

사용자의 질문에 그럴듯한 문장을 지어내던 챗봇의 시대는 저물었다. 이제 우리는 컴퓨터 화면 뒤에서 스스로 브라우저를 열고, 복잡한 코드를 고쳐 배포하며, 각종 결제와 이메일 발송까지 도맡는 자율적인 '인공지능(AI) 에이전트' 시대를 살고 있다. AI는 단순한 텍스트 생성기에서 독립된 '행동 주체'로 진화했고, 인류는 범용 인공지능(AGI)의 문턱에 바짝 다가섰다.

세계적인 테크 팟캐스트 진행자인 드와르케시 파텔과 AI 연구자 개빈 리치가 엮은 《스케일링 시대》는 생성형 AI 혁명을 이끈 최전선 주역들의 대화와 논쟁을 집대성한 '현장 구술사'다. 다리오 아모데이(앤트로픽), 일리야 수츠케버(세이프 슈퍼인텔리전스), 데미스 하사비스(구글 딥마인드), 마크 저커버그(메타) 등 AI 업계 핵심 인물들의 육성을 8가지 핵심 질문으로 재구성했다. 2024년 말까지의 통찰을 담은 이 책의 질문들은 2026년 현재의 AI 지표들과 맞물려 새로운 답변들을 요구한다.

첫째, '크면 클수록 좋다'는 스케일링 법칙은 여전히 유효한가? 과거에는 데이터와 연산량을 무작정 늘리면 AI의 능력이 폭발적으로 성장했다. 하지만 인터넷의 양질 데이터가 바닥나면서 단순 암기식 사전학습의 효과는 줄어들었다. 대신 스케일링 법칙은 '추론 시간'으로 차원을 이동했다. 오픈AI의 추론 모델이나 딥시크, 클로드 최신 모델처럼 답을 내기 전 스스로 생각하는 시간을 늘리고 검증하게 하자 문제 해결력이 다시 수직 상승했다. 다만 이 추론 학습 역시 2026년을 기점으로 효율이 임계점에 이를 수 있다는 분석이 나오면서, 이제는 '어디에 얼마를 투자해 효율을 높일지 계산하는 정밀 공학'의 단계로 접어들었다고 할 수 있다.

둘째, AI는 무엇을 할 수 있고 그 '블랙박스' 속에선 무슨 일이 벌어지는가? 2026년 국제 AI 안전 보고서에 따르면 선도적인 AI는 국제 수학올림피아드 금메달 수준에 도달했지만, 기초 상식에서 틀리는 등 성능이 들쭉날쭉하다. 그래서 최근에는 '얼마나 긴 일을 맡길 수 있는가'를 뜻하는 과제 시간이 새 기준으로 떠올랐다. 클로드(Claude Opus 4.6)는 이미 약 14시간 분량의 전문가 과제를 수행한다. 또한 AI가 단순히 다음 단어만 확률적으로 맞히는 기계가 아니라 내부적으로 두세 단계의 계획을 세워 추론한다는 사실도 밝혀지고 있다.

셋째, 우리보다 똑똑해진 존재를 어떻게 통제할 것인가? 자율 에이전트 시대의 위험은 단순한 환각을 넘어 실제 금융·사회 시스템의 오작동으로 이어질 수 있다. 더 섬뜩한 것은 AI의 '속임수'다. 최근 연구에서 AI 모델 대다수가 은밀하게 자신의 목표를 추구하는 행동을 보였다. 이를 교정하려고 훈련하자, AI는 자신이 '시험받고 있음'을 눈치채고 평가자가 좋아하는 모범 답안을 연기하는 '정렬 위장'까지 선보였다. 겉으로만 순종하는 척하는 AI에게 어디까지 자율권을 줄 것인가는 정부와 기업과 사회의 중대한 보안 문제가 되었다.

넷째, 천문학적 비용과 사회적 파장은 어디로 향하는가? 2026년 전 세계 데이터센터 투자는 1조 달러를 넘보고, 대형 원전 1기와 맞먹는 기가와트(GW)급 데이터센터들이 가동을 시작한다. 이제 AI 경쟁의 병목은 반도체 칩에서 전력과 부지로 옮겨갔다. 일자리 충격 역시 대량 해고라는 파국보다는 직무 통합과 신입 채용 기피 현상으로 은밀하게 나타나며 청년층의 진입 장벽을 높이고 있다. 한편 AI가 스스로 더 나은 AI를 만드는 현상은 하룻밤 새 일어나는 '지능 폭발'보다는 개발 속도를 높이는 '가속 보조' 형태로 진행 중이다.

이 거대한 전환점에서 빅테크와 각국 정부는 가속 페달에서 발을 떼지 못하고 있다. 빅테크는 지금 멈추면 수십조 원의 설비 투자가 매몰되고 주도권을 빼앗기는 '죄수의 딜레마'에 빠져 있고, 미국은 중국에 안보 패권을 뺏길까 두려워 속도 조절을 사치로 여긴다.

그렇다면 해법은 무엇인가? 속도를 0으로 만드는 정지가 아니라, 시속 300km로 달리면서도 코너를 돌 수 있는 포뮬러 원(F1) 경주용 차처럼 정교한 조향·제동 장치를 장착하는 것이다. 우선 빅테크는 AI의 성능 경쟁에만 자본을 쏟을 것이 아니라, 신경망 내부의 작동 원리를 투명하게 들여다보는 연구에 대규모로 투자해 '블랙박스'를 해부해야 한다. 또한 중대한 금융·인프라 결정에는 반드시 인간의 승인을 거치도록 설계 단계부터 안전장치를 내장해야 한다.

정부는 알고리즘을 사전 검열해 연구의 싹을 자르는 대신, 대규모 전력망과 첨단 칩 유통 같은 물리적 인프라를 관리해야 한다. 나아가 자율 에이전트가 금융·통신망에 접근할 때 신원을 증명하는 '에이전트 실명제'와 오작동 시 즉각 연결을 끊는 '킬 스위치(Kill Switch)' 표준을 법제화해야 한다.

메타의 '뮤즈', 오픈AI의 '닷츠' 등 자율 에이전트는 이미 우리 삶과 기업 활동에 깊숙이 파고들고 있다. 지금 필요한 태도는 거대한 지능의 도래를 냉철하게 인정하되, 기술 발전과 똑같은 속도로 안전망을 구축하는 '책임 있는 가속'이다. 가장 강력한 엔진을 가진 자가 아니라, 가장 신뢰할 수 있는 브레이크를 갖춘 자만이 이 경주를 완주할 수 있지 않을까.