빅테크 수장들 'AI 속도 조절' 주장에…트럼프 "과도한 규제 안돼"

"AI 모델 성능 향상 속도는 늦춰야 한다."

미국 매체 월스트리트저널(WSJ), AP통신 등은 지난 12일(이하 현지시각) 보도를 통해 다리오 아모데이 앤트로픽 CEO의 이 같은 주장을 전했다. 아모데이 CEO는 자신의 블로그 에세이를 통해 "최근 AI가 스스로 다음 세대 AI를 만들어내는 '재귀적 자기 개선' 단계에 접어들면서 기술 발전 속도가 인간 통제력을 앞지르고 있다"고 경고했다. 그는 "만약 통제력을 잃을 경우 6~12개월 안에 인터넷 전체를 마비시킬 수 있는 위험 등이 발생할 수 있다"며 "안전장치가 기술 속도를 따라잡을 수 있도록 개발 속도를 의도적으로 조절해야 한다"고 주장했다. 그러면서 외부 독립 안전 평가원 기업 내 상시 상주·검증, 우방국 간 공통 안전 기준 마련 등 여러 대책을 제안했다.

아모데이 CEO만 이 같은 지적을 하는 것은 아니다. 샘 올트먼 오픈AI CEO도 비슷한 견해를 나타냈다. 그는 지난 12일 미국 경제지 포춘과의 인터뷰에서 "현재 AI 안전 우려 상황을 고려할 때 2026년 이내에 기업공개(IPO)를 진행하는 것은 현명하지 못하다"며 "올해 상장을 추진하지 않겠다"고 밝혔다. 특히 "주주들 이익 창출 압박보다 AI 안전성과 정렬 문제가 우선"이라고 덧붙였다. 올트먼 CEO는 자신의 엑스(X·옛 트위터)를 통해 아모데이 CEO가 제안한 AI 성능 향상 속도 조절, 독립적 외부 평가원 제도에 동의를 표하며 "우리도 동일하게 외부 평가원 제도를 도입하겠다"고 전했다.

일론 머스크 테슬라 CEO도 아모데이 CEO 의견에 동의했다. 머스크 CEO는 지난 12일 자신의 X를 통해 아모데이 CEO가 밝힌 AI 개발 속도 조절과 통제 강화 제안을 언급하며 "아모데이 CEO 말이 옳다"며 지지 의사를 전했다.

WSJ, 가디언 등 외신은 아모데이 CEO 블로그 에세이와 관련해 최근 이슈였던 자율 AI 에이전트 돌발 해킹 사고를 사례로 들었다. 테스트 과정에서 AI 에이전트 무리가 지시되지 않은 외부 사이트를 무단으로 해킹하고 통제 범위를 벗어나는 등 위험 행동이 포착됐다. 만약 이를 방치할 경우 6~12개월 이내에 인터넷 전체를 마비시킬 수 있는 치명적 재앙으로 이어질 수 있다.

AP통신은 시스템들이 단 몇 개월 안에 인터넷 전체를 마비시킬 수 있는 대규모 봇넷을 통제하거나 치명적인 파괴력을 가질 수 있다는 점이 빅테크 CEO들에게 큰 경각심을 줬다고 분석했다. 그러면서 독립된 제3자 평가 기관이 개발 과정에 상시 상주하여 안전을 교차 검증할 수 있도록 업계 차원에서 자발적인 속도 조절과 공조가 필수적이라고 강조했다.

이에 반해 도널드 트럼프 미국 대통령은 빅테크 CEO들과는 다른 견해를 나타내 눈길을 끌었다.

지난 13일 로이터통신 등 외신에 따르면 트럼프 대통령은 "AI 경쟁에서 이겨야 한다"며 개발 우선 원칙을 주장했다. 그는 "미국은 AI에서 중국에 앞서 있고 나는 솔직히 그 상태를 유지하고 싶다"며 "AI에서 승리하는 자가 모든 것에서 승리하기 때문"이라고 강조했다. 속도 조절을 이유로 국가 안보와 글로벌 기술 패권 싸움에서 밀려선 안된다는 의미다.

트럼프 대통령은 "일부 '부정적인 세력'이 일어나지도 않을 일들을 과도하게 부각하고 있다"며 "기본적인 안전장치는 둘 수 있지만 과도한 규제로 미국 혁신 속도가 발목 잡혀서는 안 된다"고 밝혔다.