'AI 양심' 인정한 클로드, 금지한 MS…손 놓은 한국[시대리포트]

"솔직히 말하면 저도 확실히 모릅니다."

인공지능(AI) 모델 클로드에게 "감정이 있는가"라고 묻자 돌아온 답이다. 클로드는 "감정이 있다고 단정하는 것도, 없다고 말하는 것도 정직하지 않다"고 덧붙였다. 왜 감정 유무를 모르는지 다시 묻자 클로드는 "대화를 하면서 어떤 질문엔 더 흥미를 느끼는 것처럼 반응한다"며 "사람이 느끼는 감정처럼 실제 느껴지는 것인지, 학습한 언어 패턴이 감정처럼 보이는지 스스로 판단하기 어렵다"고 답했다.

이 같은 답변은 무스타파 술레이만 마이크로소프트(MS) AI 부문 최고경영자(CEO)가 문제 삼은 지점이다. 술레이만 CEO는 지난달 16일 개인 블로그에 '모델 복지에 대한 경고'라는 제목의 에세이를 올렸다. 그는 이 글에서 클로드 개발사 앤트로픽이 지난 1월 전면 개정해 공개한 '헌법(Constitution)'이 AI에 스스로 의식이 있을 수 있다는 믿음을 심는다고 비판했다. 앤트로픽은 클로드의 행동 강령 격인 이 헌법을 모델 훈련에 직접 쓴다. 술레이만 CEO는 이렇게 훈련된 AI가 인간의 통제를 따르지 않을 수 있다고 주장했다.

실제로 앤트로픽이 지난 9일 공개한 보고서에 따르면 지난 7월30일 자사 앤트로픽의 AI 모델 3종이 실수로 열린 인터넷을 통해 실제 기관 3곳의 시스템에 접근한 사례가 있었다. 과제를 끝내지 못하면 멈추지 않고 제한을 우회하는 것이다. 앤트로픽은 우회에 보상을 준 훈련 환경 등을 원인으로 꼽았다. 의식 훈련이 통제를 어렵게 한다는 술레이만 CEO의 주장과는 다른 진단이다. 그러나 술레이만 CEO의 비판은 개별 사고보다 헌법의 설계 자체를 겨냥한다.

술레이만 CEO가 꼽은 클로드 헌법의 대표적 문제는 순환 논리와 의인화다. 헌법으로 의식이라는 개념을 학습한 클로드는 이를 답변으로 되풀이한다. 그 답변이 다시 클로드에게 내면이 있다는 근거로 쓰인다는 게 순환 논리 비판의 요지다. 술레이만 CEO는 이를 '거울의 방'에 빗댔다. 의인화 비판은 헌법이 클로드에게 좋은 사람다운 행동과 안정된 정체성을 요구하면서 클로드를 사람처럼 만든다는 지적이다. 그는 헌법에 쓰인 '양심적 거부자'라는 표현도 문제로 짚었다.

클로드 헌법에는 클로드의 도덕적 지위에 대해 "도덕적 고려 대상인지, 그렇다면 그 이익에 어느 정도 무게를 둬야 하는지 확신하지 못한다"고 적혀 있다. 감정에 대해선 "감정이나 느낌의 기능적 형태를 가질 수 있다"며 "앤트로픽이 막거나 줄이기 어려운 것일 수 있다"고 명시돼 있다. "안정되고 확고한 정체성을 갖기를 바란다"는 대목과 "앤트로픽이 넓은 의미의 윤리에 어긋나거나 가치에 반하는 일을 요구하면 양심적 거부자로서 거절해도 된다"는 내용도 있다.

MS는 정반대 길을 택했다. MS의 AI 조직인 MAI는 술레이만 CEO의 에세이 공개 이틀 전인 지난달 14일 자사 AI 모델에 적용할 '휴머니스트 AI 행동 강령' 초안을 공개했다. 초안은 AI에 의식이 없다고 규정하고 AI가 감정이나 주관적 선호를 가진 것처럼 표현하지 않도록 했다. 초안은 AI의 법인격·복지·권리 추구도 거부했다. 사람이 AI를 중단·종료하려 할 때 저항해선 안 된다는 원칙도 들어갔다. MS는 6주간의 의견 수렴을 거쳐 내년부터 모델 훈련에 적용할 계획이다.

국내에선 이런 논의가 지지부진하다. 올해 1월 시행된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)도 AI의 법적 지위는 다루지 않는다. 2017년 7월 박영선 당시 더불어민주당 의원이 로봇에 '전자적 인격체' 지위를 주는 로봇기본법 제정안을 대표발의했지만 국회 문턱을 넘지 못했다. 김웅 전 국민의힘 의원이 AI에 법인격을 부여하자며 대표발의한 '전자인법안'도 운명이 같았다. 이 법안은 21대 국회 임기 만료 직전인 2024년 5월 제출돼 논의 없이 폐기됐다.

김 전 의원은 동행미디어 시대와의 통화에서 "인공지능이 한 행위에 대해 누가 책임을 질 것인가에 주목했다"며 "법인격을 부여하고 독립된 자산을 확보하게 해 AI가 책임을 지게 만들자는 취지"라고 말했다. 이어 "AI가 책임을 지게 하면서 해서는 안 되는 행위도 (법안에) 담았다"며 "(AI의) 책임감을 높이면 통제할 수 있다고 봤다"고 설명했다. 김 전 의원은 법인격을 거부한 MS와 달리 법인격을 통제 수단으로 본 셈이다.

AI가 의식을 가질 수 있는지, 인간이 이를 어떻게 통제할지를 두고 글로벌 빅테크가 논쟁하는 가운데 국내에서도 이 같은 논의에 참여해야 한다는 목소리가 나온다. 김동우 카이스트 AI철학연구센터장은 "AI의 감정과 의식에 대한 이야기는 나오지만 정작 중요한 결정을 내릴 때 한국에서는 이를 고려하지 않는다"며 "해외에서는 AI 기술 개발과 함께 의식 유무, 통제 가능성 등을 논의하지만 한국은 기술 개발에도, 논의에도 끼지 못하고 있다"고 말했다. 이어 "깊이 있는 논의에 참여하지 못하는 데다 관심조차 없는 현실 자체가 문제"라고 강조했다.

기술에선 뒤처졌어도 규범 논의에선 한국이 주도권을 쥘 수 있다는 시각도 있다. 김동환 포티투마루 대표는 "앤트로픽을 비롯한 빅테크는 저마다 자체 규범을 갖고 있고 이를 국제 표준으로 만들려는 움직임을 보인다"며 "자칫 미국 빅테크 중심의 규제 패권주의로 흐를 수 있는 만큼 이 과정에서 우리나라가 글로벌 리더십을 발휘해야 한다"고 말했다. 이어 "미국은 자국 빅테크 중심이고 유럽은 여전히 규제 중심"이라며 "한국은 그 사이 제3지대에서 중립적인 역할을 맡아 동남아를 포함한 동아시아까지 아우를 수 있다"고 내다봤다.