'클로드' AI 모델 개발사인 앤트로픽의 다리오 아모데이 최고경영자(CEO)의 모습. AI의 인류 위협론을 거론하며 모델 개발의 속도 조절을 제안했다. /로이터=뉴스1


글로벌 인공지능(AI) 업체인 앤트로픽의 다리오 아모데이 최고경영자(CEO)가 12일 최첨단 AI의 개발 속도 제동과 면밀한 감시를 촉구했다. 그러자 경쟁 관계인 오픈AI의 샘 알트만 CEO와 xAI의 일론 머스크 창업자, 구글 딥마인드의 데미스 하사비스 CEO 등이 일제히 동조하고 나섰다. 이에 따라 글로벌 '최첨단 프런티어 AI 모델' 개발 경쟁이 숨 고르기에 들어가고, AI 안전과 윤리 문제가 글로벌 현안으로 대두될 가능성이 커질 것으로 전망된다.

아모데이 대표는 이날 공개한 '우리는 최첨단 기술의 속도를 조절해야 한다'는 제목의 에세이에서 AI 모델 개발 과정에 대한 독립적인 평가 제도, 업계 전반에 걸친 규제, 그리고 국제적인 규제를 포함하는 3단계 계획을 제안했다. 최첨단 AI 개발을 이끌어온 수장들의 속도 조절론은 최근 새 모델들이 인간 통제를 벗어날 수 있는 강력한 성능을 보여주면서 AI 안전에 대한 우려가 커지는 상황에서 나왔다는 점에서 주목된다.



아모데이의 제안 이틀 전에 나온 'AI 기술 위협정보 보고서'는 무기 개발, 사이버 작전, 감시, 사기 행위 등에 앤트로픽의 '클로드' 모델이 어떻게 악용됐는지를 다뤘다. 앤트로픽은 지난 4월 자사의 미소스 AI 모델이 인간의 지시 없이, 또는 통제를 무시하고 다른 AI를 공격하거나 협력해 공모 체계를 유지한 사실이 발견되자 모델의 공개 사용을 중지했다. 경쟁사인 오픈AI도 인간 수준에 이르는 추론·코딩, 자율적 컴퓨터 조작 능력을 갖췄다는 차세대 AI 모델 아스트라의 개발을 안전을 이유로 일시 중지했다.

이런 상황으로 볼 때 앞으로 전 세계적으로 AI 윤리를 둘러싼 논의의 장이 열릴 가능성이 크다. AI 경쟁력 상위권 국가를 지향하는 우리로서도 대비할 필요가 있다. 최근까지 AI 문제는 주로 기술적 경쟁 차원에서 다뤄졌지만 이젠 인간 중심의 안전한 생태계 조성을 위한 협력으로 지평을 넓혀야 한다. AI 알고리즘의 공정성·투명성·책임성, 그리고 프라이버시 보호 등을 중점적으로 논의할 때다.

우리도 지난 1월부터 시행 중인 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)'이 있다. 하지만 기술 개발과 산업 진흥을 위한 정부 지원과 규제 최소화에 무게를 두고 있어 사회적 부작용이나 윤리 문제에 대한 보완이 필요하다. 그런 의미에서 2021년 11월 유네스코가 채택한 'AI 윤리 권고안'은 벤치마킹 대상이다. 193개국의 지지를 얻은 세계 최초의 AI 윤리 표준으로서 인권과 인간 존엄성 존중, 투명성·공정성과 환경의 지속가능성, 시스템에 대한 인간의 감독 등 핵심적인 틀을 제시했다는 평가를 받는다.