"10억명 숨질 수도"…'발등의 불' AI 헌법

지난 7월 미국 오픈AI의 AI 에이전트들이 외부망과 분리된 환경을 탈출해 AI 기업 허깅페이스의 서버를 공격했다. 공격에 가담한 에이전트만 약 700개에 달했다. 에이전트는 사람의 지시를 받아 여러 단계의 작업을 스스로 이어 가는 프로그램이다. 이 프로그램들이 인간 개발자가 쳐 둔 울타리를 넘어 마치 의지를 가진 것처럼 행동한 것이다.

빠르게 똑똑해진 AI가 인류의 당면 위협으로 떠올랐다. AI 발전을 가까이서 지켜본 과학계가 특히 이를 심각하게 본다. 26일 과학계에 따르면 'AI의 대부'로 불리는 제프리 힌턴 토론토대 명예교수 등 세계 AI·사이버보안 과학자 406명은 지난 13일(현지시각) 공개서한을 냈다. 이들은 사이버 공격 능력을 갖춘 AI부터 인터넷과 떼어 놓고 국제기구를 세워 공통 안전기준을 만들자고 요구했다.

AI가 인류 생존을 위협할 수 있다는 경고도 나온다. 빌 게이츠 마이크로소프트(MS) 공동창업자는 25일(현지시각) 영국 옵서버 인터뷰에서 "AI의 등장은 원숭이가 인간으로 변화한 것과 같은 '진화적 사건'"이라고 말했다. 그는 같은 날 팟캐스트에서 "향후 20년간 극심한 혼란이 올 것"이라고 내다봤다. 게이츠는 지난달 미국 NBC 인터뷰에서도 "AI는 10억명이 숨지는 사건을 일으킬 수 있다"고 경고했다.

위협이 가시화하고 있지만 개발사 밖에서 통제할 수단은 마땅치 않다. AI가 지킬 규칙은 개발사가 저마다 정할 뿐이다. 국내외 전문가들은 이것만으로는 부족하다고 입을 모은다. 황석진 동국대 국제정보보호대학원 석좌교수는 "AI의 안전기준을 개발사 자율에만 맡겨서는 안 된다"고 말했다.

AI에 어떤 법적 지위를 줄지도 숙제다. 미국에서는 2022년 아이다호주를 시작으로 여러 주가 AI에 법인격을 주지 못하도록 법으로 막았다. 법인격은 사람이나 회사처럼 권리와 의무를 갖는 자격이다. AI 의식 분야 세계적 권위자인 아닐 세스 영국 서식스대 교수는 동행미디어 시대와의 인터뷰에서 "AI에 법적 권리를 부여해서는 안 된다"며 "그것은 정말 큰 실수가 될 것"이라고 강조했다.

국가가 AI를 통제하는 국제 규범, 이른바 'AI 헌법'을 만들자는 목소리도 힘을 얻는다. 'AI 3대 석학'으로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수는 지난달 28일 힌턴 교수 등과 낸 논문에서 "AI가 통제를 벗어나면 인류가 멸망할 수도 있다"고 경고했다. 그는 "각국 정부가 AI 기업 안에 감시관을 두고 개발 현황을 보고받아야 한다"고 강조했다.

'AI 헌법'에 대한 국제 논의에서 한국이 주도적인 역할을 할 수 있다는 목소리도 나온다. '슈퍼인텔리전스' 저자인 철학자 닉 보스트롬은 시대와의 인터뷰에서 "한국은 반도체 공급망의 중요한 거점을 보유하고 있어 비교적 유리한 위치에 있다"며 "여러 민주주의 국가들과 공동의 이해관계를 찾아 하나의 집단으로 협상할 수 있을 것"이라고 내다봤다.