닉 보스트롬 "6개월 내 초지능 도약 가능성…점검시간 확보를"

인공지능(AI)이 스스로 자신을 개선하고, 그 개선된 능력으로 다시 더 강한 AI를 만드는 '재귀적 자기개선'(Recursive Self-Improvement, RSI)이 이르면 6개월 내 본격화될 수 있다는 세계적 석학의 전망이 나왔다. 재귀적 자기개선은 AI 기술의 변화가 너무 빨라져 인간이 예측, 이해, 통제하기 어려워지는 시점인 'AI 특이점' 발생의 조건 가운데 하나다. AI의 발전 속도가 인간의 안전성 검증 능력을 앞지를 수 있는 만큼 AI의 능력 향상 속도를 늦춰야 할 시점이 올 수 있다는 진단이다.

세계적인 초지능 전문가인 닉 보스트롬 매크로스트래티지 리서치 이니셔티브 창립자는 지난 10월 동행미디어 시대와의 화상 인터뷰에서 "앞으로 6개월, 12개월, 18개월 안에 초지능의 능력이 급속히 도약하는 데 필요한 조건이 갖춰질 가능성을 배제할 수 없다"며 "안전 연구가 발전 속도를 따라가고, 모든 것을 점검할 시간을 확보해야 한다"고 말했다.

일론 머스크 테슬라 최고경영자(CEO)와 빌 게이츠 마이크로소프트 공동창업자, 샘 올트먼 오픈AI CEO 등이 추천한 '슈퍼인텔리전스'의 저자 보스트롬은 옥스퍼드대 교수와 미래인류연구소 초대 소장을 지낸 철학자다. 철학·이론물리학·계산신경과학·AI를 아우르는 학제적 배경을 바탕으로 초지능의 위험과 통제 문제를 세계적 논쟁으로 끌어올렸다.

보스트롬은 "AI가 발전할 때마다 자신을 더욱 발전시키는 작업에도 더 효과적으로 기여하는 피드백 고리가 생기는 것"이라며 "어떤 시나리오에서는 이것이 능력의 폭발적인 성장으로 이어질 수 있다"고 말했다.

그는 "현 단계에서 개발을 전면적으로 중단하는 것에 대해서는 확신이 없다"면서도 "안전 연구가 따라잡을 수 있도록 최첨단 AI의 능력 향상 속도를 늦출 수 있는 체계를 마련하는 것은 유용할 수 있다"고 말했다. 이어 "어느 시점에는 그것이 필요해질 수 있으며 그 시점이 곧 올 수도 있다"고 했다.

보스트롬은 "안전의 관점에서 특히 문제가 있어 보이는 특정한 능력 향상 기법을 사용하지 않도록 최첨단 AI 연구소들이 서로 조율할 수 있게 하는 것도 유용할 수 있다"고 조언했다.

그는 "초지능은 온갖 질병뿐 아니라 노화 자체를 치료할 수도 있다"며 "초지능은 실제로 우리가 해야 할 마지막 발명이 될 수 있다. 이후의 발명은 기계의 두뇌가 수행하게 될 것"이라고 말했다. 이어 "기술 자체는 통제되지만 권력이 극도로 집중되는 시나리오도 있다"며 "최악의 시나리오에서는 우리가 이 기술에 대한 통제력을 잃으면서 인류가 실존적 위험에 처할 수 있다"고 경고했다.