"국제 안전기준 통과한 AI만 출시 허용하자"[시대리포트]

AI의 안전성과 신뢰성을 확보하기 위한 국제 논의와 관련, 한국이 AI 메모리 반도체 경쟁력을 바탕으로 적극 참여 또는 주도해야 한다는 목소리가 나온다. 국제기준을 통과한 AI 모델만 출시를 허용하는 방안 등이 제시됐다.

11일 대통령 직속 국가인공지능전략위원회에 따르면 정부는 지난 2월 '대한민국 인공지능행동계획(2026~2028)'을 확정하고 외교부 주도로 글로벌 AI 안전 거버넌스를 구축하기로 했다. 한국이 국제 논의의 단순 참여자를 넘어 규범을 주도해야 한다는 내용이다.

그러나 행동계획 99개 실행과제에는 '인격' '법인격' '자의식'이라는 단어가 한 번도 나오지 않는다. 지난 1월 시행된 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI기본법)도 사업자 의무가 중심이어서 AI가 감정을 가진 것처럼 행동하도록 설계하는 문제나 훈련 지침 검증 방식은 직접 다루지 않는다. 과학기술정보통신부는 지난달부터 '국가 AI 안전 생태계 조성 마스터플랜' 민·관 실무협의체를 운영해 연말까지 계획을 확정한다. AI가 통제를 벗어나는 위험에 대한 대안이 담길지가 관건이다.

유럽평의회가 2024년 9월 서명을 받기 시작한 '인공지능과 인권·민주주의·법치에 관한 기본협약'은 법적 구속력을 가진 첫 AI 조약이지만 비준한 곳은 지난 5월 유럽연합(EU) 한 곳뿐이다. 발효하려면 유럽평의회 회원국 3곳을 포함해 5곳이 비준해야 한다. 지난 7월 제네바에서 열린 첫 'UN AI 거버넌스 글로벌 대화'에도 163개국 대표단이 참여했지만 구속력 있는 합의 없이 공동의장 요약문을 내는 데 그쳤다.

소병천 대한국제법학회장은 동행미디어 시대와의 통화에서 "국제사회에는 산업 진흥을 우선하는 미국과 규제를 강조하는 EU라는 두 흐름이 있다"며 "산업계와 협력해 기업이 스스로 지킬 수 있는 표준을 기준으로 발전시켜 나가는 방식에 대부분의 국제법 전문가들이 동의한다"고 말했다. 그는 "인간의 안전과 존엄, 인권을 보장하자는 의제에는 어떤 국가도 반대하지 않을 것"이라며 "AI를 전쟁의 도구나 인류에 해가 되는 방향으로 사용해서는 안 된다는 원칙을 제안해볼 수 있다"고 분석했다.

한국은 2024년 5월 영국과 'AI 서울 정상회의'를 공동 개최했고 이 자리에서 오픈AI·구글·삼성전자·네이버 등 16개 기업이 '프런티어 AI 안전 서약'에 참여했다. 군사 분야에서는 네덜란드와 함께 '군사 영역의 책임 있는 AI 이용'(REAIM) 고위급회의를 출범시켰다.

다음 논의 기회는 내년 6월 스위스에서 열리는 '제네바 AI 정상회의'다. 최재식 KAIST AI대학원 교수는 "한국은 HBM(고대역폭 메모리) 같은 AI 메모리 반도체를 과점 공급하는 국가인 만큼 빅테크도 한국을 필요로 한다"며 "국제 규범 논의에서 발언권을 확보할 수 있다"고 했다. 그는 "한국이 글로벌 AI 서비스를 주도하는 상황은 아닌 만큼 안전성을 중시하는 국제 연대 안에서 인간 중심 원칙을 제시하는 방식이 현실적"이라고 제언했다.

제네바 회의에서는 △AI가 감정을 가진 것처럼 행동하도록 만드는 설계의 제한 △AI 법인격 배제와 개발사 책임 원칙 △AI 훈련 지침의 공개와 국제 검증 등이 의제로 거론된다.

최경진 한국인공지능법학회장은 시대에 "핵무기, 원자력 등 분야마다 위험성이 다른 만큼 어느 단계에서 인간의 개입을 허용할지 기준이 필요하다"며 "위험이 발생했을 때 즉각 복구할 수 있는 체계도 시스템에 갖춰야 한다"고 지적했다. 그러면서 "안전성과 신뢰성을 평가하는 국제 기준을 만들고 이를 통과한 AI만 시장에 출시하도록 하는 것도 하나의 방법"이라며 "객관적인 제3자 평가와 기록 관리를 통해 개발사가 공개한 훈련 지침이 실제로 지켜졌는지 검증할 수 있을 것"이라고 했다.

소 회장도 "핵심은 인간 중심성과 인간의 최종 통제"라며 "AI가 스스로 책임지는 것이 아니라 개발·배포·사용·감독 단계별로 인간과 법인의 책임을 명확히 할 방안을 국제 논의로 만들어가야 한다"고 강조했다.

AI 법인격을 미리 배제하는 데는 이견이 있다. 최 회장은 "AI의 법인격이 오히려 사람을 보호하는 수단이 될 수 있다"며 "피해자 구제를 위해 특정 AI에 자산을 기금처럼 모아 운용하려면 제한적 법인격이 필요할 수도 있다"고 했다. 설계 제한 의제에도 신중론이 제기된다. 최 교수는 "AI가 의식을 가진 것처럼 말하지 못하도록 하는 규칙은 기술적으로 쉽지 않다"며 "의식이 있는 것처럼 보이는 현상이 실제로 사용자에게 부정적인 영향을 주는지도 따져봐야 한다"고 설명했다.

강대국의 참여도 변수다. 지난 2월 스페인 라코루냐에서 열린 REAIM 회의에서는 참석 85개국 중 35개국만 공동선언에 서명했고, 미국과 중국은 빠졌다. 최 교수는 영업 기밀 문제 등을 고려하면 기업의 훈련 문서 공개에도 현실적인 한계가 있다고 봤다.

최 회장은 "미·중이 빠진 국제 논의는 실효성이 약할 수 있다"면서도 "유럽과 한국, 일본 등이 평가에서 안전성 기준을 함께 세우면 미국도 수요자의 요구를 무시할 수 없다"고 말했다. 이어 "한국이 반도체 경쟁력을 지렛대 삼아 적어도 규범 논의를 주도하는 그룹에는 들어가야 한다"고 강조했다.

소 회장도 "중국 등 강대국이 참여하지 않을 때 한국이 목소리를 높이는 것도 외교적 전략이 될 수 있다"며 "AI를 안전하게 설계하고 운영하는 국가라는 국제적 이미지를 구축하는 것 역시 소프트파워를 키우는 일"이라고 덧붙였다.