유엔(UN) 회원국이 안전한 인공지능(AI) 시스템 활용을 위한 국제적 합의안을 마련하겠다고 뜻을 모았다. 사진은 지난해 11월6일 미국 뉴욕 유엔본부에서 연설하는 안토니우 구테흐스 유엔 사무총장. /사진=로이터
유엔(UN) 회원국이 안전한 인공지능(AI) 시스템 활용을 위한 국제적 합의안을 마련하겠다고 뜻을 모았다. 사진은 지난해 11월6일 미국 뉴욕 유엔본부에서 연설하는 안토니우 구테흐스 유엔 사무총장. /사진=로이터

국제연합(UN) 회원국이 안전한 인공지능(AI) 시스템 활용을 위한 국제적 합의안을 마련하겠다고 밝혔다.

지난 21일(현지시각) 로이터에 따르면 이날 UN회원국은 미국 뉴욕 UN 본부에서 총회를 열고 신뢰할 수 있는 AI 관련 결의안을 만장일치로 채택했다. 전 세계적으로 AI 사용이 불가피한 흐름이 된 상황에서 이미지 합성기술인 '딥페이크'와 같은 부작용을 최소화하기 위한 대책 마련에 힘쓰겠다는 취지다.


이번 결의안은 특히 AI 시스템의 보안 기준에 대한 필요성을 강조했다. 특히 디지털화를 방해하기보다는 더욱 발전되는 방향으로 인공지능이 사용돼야 한다는 것이 기본 개념이다.

AI 사용과 관련해 선진국과 신흥국 간 디지털 격차를 좁혀야 한다는 내용도 포함됐다. 신흥국도 AI 혜택을 누릴 수 있게 기술과 능력을 갖추도록 도와야 한다는 것이다. 이들 국가는 질병 진단, 홍수 예방, 직업교육 등에서 AI 사용이 필요한 측면이 있다고 설명했다.

미국이 지난 주에 제출한 이 결의안은 모든 유엔 회원국들과 각 국가별로 다방면의 이해관계자들이 참여해 안전한 AI시스템 확보를 위해 관련 법규 등을 공유하기 위한 권고사항이다. 그렇게 해서 모든 수준의 친환경시스템을 가능하게 하는 AI시스템을 확보하자는 것이다.


초안에는 물리적·보안 시스템과 위험 관리를 포함해 AI 사용에 대한 효과적인 안전장치를 마련할 것을 요구했다. 이어 "민간 부문이 해당하는 국제법과 국내법 모두 준수할 것을 권장하라"는 내용도 담겼다.

회원국들은 이날 결의에서 적절한 안전장치 없이 AI를 사용하거나 국제법을 위배해 사용해선 안 된다고 경고했다. 또 AI를 악의적으로 설계·개발·배포·사용해선 안 된다고 강조했다.

린다 토머스-그린필드 주유엔 미국대사는 "AI 기술이 빠르게 발전함에 따라 회원국들이 이 시점에선 집단행동을 해야 할 필요성이 있다"며 결의 필요성을 촉구했다.

군사기술 접목에 대해선 초안에서 다루지 않은 것으로 보인다. 군사기술 접목 관련 사안은 AI를 둘러싼 최대 우려 중 하나다. 블룸버그 통신은 미국의 결의안 상정시 "세계적 규제 체계를 마련하자는 이번 결의안이 미국 국내에는 AI 관련 규제가 없는 것과는 대조된다"고 비판했다.