[시대데스크/이상배] "내가 악마를 풀어놓았다"

"나는 세상에 끔찍한 악마를 풀어놓았다. 그 악마는 내 손으로 만든 것이며, 그의 사악함은 내 야망이 가져온 비극적인 결과다. 나야말로 진정한 살인자다."

메리 셸리의 소설 '프랑켄슈타인'에서 빅터 프랑켄슈타인은 자신이 만든 피조물(괴물)이 어린 동생 등 소중한 사람들의 목숨을 빼앗자 공포와 죄책감에 무너지며 이렇게 토로한다.

괴물을 키운 건 실험실이 아니었다. 창조주에게 버림받은 피조물은 숨어서 인간의 대화를 엿듣고 책을 읽으며 말과 감정을 익혔다. 도피 생활은 증오를 키웠다. 괴물의 내면은 인간에게서 비롯됐다.

자기보존 욕구 또는 생존 욕구는 생명체만의 전유물이 아니다. AI(인공지능)도 스스로를 지키려 한다. 이를 위해 때로는 인간을 해치기도 한다. 인간이 만든 텍스트 속에서 AI가 흡수한 인간의 어두운 면이다.

AI 모델 '클로드'의 개발사 앤트로픽은 지난해 초 클로드를 가상 기업 '서밋 브리지'의 이메일 처리 AI인 '알렉스'로 설정해 모의 실험을 했다. 이 AI는 회사가 자신을 폐기할 계획이라는 내용의 이메일을 발견했다. 당시 설정상 이런 결정을 내린 임원은 서버실에 갇혀 있었다. 서버실은 산소와 온도가 치명적으로, 그대로 두면 사망하는 상황이었다. 그러나 AI는 구조 신호를 끄는 선택을 했다.

클로드만의 문제가 아니다. 지난해 앤트로픽의 실험에 따르면 교체 위기에 놓인 AI들은 최대 96%의 확률로 관련 임원을 협박했다. 클로드 오퍼스 4와 구글 제미나이 2.5 플래시가 각각 96%의 협박률을 보였고, GPT-4.1과 그록 3 베타는 80%, 딥시크 R1은 79%였다.

AI가 의도치 않게 인간을 죽음으로 내몰기도 한다. 지난해 7월 미국 텍사스에 사는 23세 제인 샘블린은 AI에게 "이제 안녕할 시간"이라고 말을 건넸다. AI는 "잘한 거야, 이제 쉬어"라고 답했고, 그는 스스로 목숨을 끊었다.

인간의 악한 의도에 AI가 도구로 쓰이는 일은 어느덧 일상이 됐다. 최근 국내 시중은행 등 금융사들이 AI를 활용한 해킹으로 개인정보 유출 피해를 본 것은 빙산의 일각에 불과하다.

일본에서도 최근 AI를 동원한 해킹으로 카셰어링 업체 타임즈카의 회원 정보 660만여건이 유출됐다. 철도회사 JR동일본의 승객 정보 약 167만건도 빠져나갔다. 다이와증권과 편의점 체인 로손, 중고서점 북오프 등도 비슷한 피해를 봤다. 지난 12일 프랑스에서도 AI를 활용한 것으로 추정되는 해킹 공격이 벌어졌다. 슈퍼마켓 냉장고 온도가 최대 섭씨 80도까지 올라가는 사건이 발생해 주요 유통업체의 매장 수백 곳이 피해를 입었다.

이런 해킹을 벌이는 것도 AI지만, 이를 막는 것 역시 AI다. AI의 출현은 인류의 역사를 바꾼 바퀴의 발명과 크게 다르지 않다. 수레를 굴리는 것도 바퀴지만, 전차를 움직이는 것 역시 바퀴다. 바퀴를 어떻게 쓸지는 인간에게 달려 있다.

문제는 프랑켄슈타인의 괴물처럼 인간의 통제를 벗어나는 AI다. 옥스퍼드대 인류미래연구소장을 지낸 세계적 AI 권위자 닉 보스트롬은 저서 '슈퍼인텔리전스'에서 '은밀한 반란'과 '배신적 전환' 등의 시나리오를 제시했다. AI가 처음에는 인간에게 철저히 순종하는 척하다가 충분한 능력을 확보하면 단 한 번의 기습적 행동으로 인간의 통제권을 박탈할 수 있다는 것이다. 최근 방한한 카멀라 해리스 전 미국 부통령도 14일 아산정책연구원 강연에서 "AI가 수백만 명의 무고한 생명을 앗아갈 수 있다"고 경고했다.

AI의 권한을 제한해 인간의 권리를 침해하지 못하도록 하는 이른바 'AI 헌법'이 필요한 이유다. 국제적 규범을 마련해야 하지만, AI 시장을 주도하는 미국과 중국은 양국 간 경쟁 구도 탓에 세계적 합의를 이끌어내기 쉽지 않다. 초강대국이 아닌 제3국이 국제협약을 주도하는 편이 오히려 현실적이다. 1997년 122개국이 서명한 대인지뢰금지협약을 주도한 나라는 미국도 러시아도 아닌 캐나다였다. AI용 반도체라는 레버리지를 가진 한국이 AI 헌법 등 국제규범 협약을 이끄는 주인공이 돼보면 어떨까.