"AI에 법적 권리 안돼"…국제규범 마련 시급

AI에게도 의식이 있을까. AI에게 법적 권리를 줘야 할까. 세계적인 신경과학자 아닐 세스(Anil Seth) 영국 서식스대 의식과학연구센터 소장은 "아니다"라고 잘라 말했다. 그는 AI에 권리를 부여하는 것은 위험하다고 경고하며 이를 막기 위한 국제규범 마련을 서둘러야 한다고 강조했다.

세스 소장은 지난달 8일 동행미디어 시대와의 인터뷰에서 "AI는 의식이 있는 것처럼 보일 뿐이다. AI에 법적 권리를 부여하는 것은 정말 큰 실수가 될 것"이라고 말했다. 이어 "권리 부여에는 사회적 비용이 따른다. 최근 몇 달간 해킹 사건 등에서 확인했듯 에이전트형 AI는 통제하기가 상당히 어렵다"고 지적했다.

그가 특히 우려하는 것은 AI 자체보다 인간이 AI를 바라보는 방식이다. 기술 기업들이 이용자로 하여금 AI에게도 마음이 있다고 믿게 만들어 인간의 감정과 관계를 상업적으로 이용할 수 있다는 것이다.

세스 소장은 "AI는 이제 우리의 주의만 노리는 게 아니다. 우리의 관계, 궁극적으로는 마음을 노리고 있다"고 말했다. 이어 "사람들은 AI와 일방적이지만 깊은 관계를 맺을 수 있고 이 때문에 심리적으로 취약해지거나 착취당하기 쉬워진다"고 우려했다.

세스 소장은 이를 막으려면 AI의 행동 지침을 기업에만 맡겨서는 안 된다고 강조했다. 그는 "AI의 이점을 살리고 부작용을 줄이려면 국제 공조가 필요하다. 우선 무엇을 허용하고 금지할지 공통의 이해를 마련해야 한다"며 "생물학 무기가 나쁘다는 데는 모두 동의하지만 어떤 AI가 바람직한지에 대해서는 생각이 크게 다르다"고 설명했다.

AI에 대한 국제규범을 만들기 위해 연구자와 다양한 사회 구성원이 참여하는 공적 숙의가 시급하다고 세스 소장은 강조했다. 그는 "최첨단 AI 기업들은 시장을 선점하기 위해 경쟁하고 있다. 이 경쟁은 개발 속도를 높이고 안전을 소홀히 하도록 압박한다"고 말했다. 그러면서 "폭넓은 관점을 반영해 규제 원칙을 마련할 전문가 위원회가 필요하다"고 주장했다.

세스 소장은 한국의 역할에도 기대를 나타냈다. 그는 "한국은 기술적으로 발전했고 신기술 수용도도 높은 사회다. 그만큼 부작용도 먼저 나타날 수 있다"며 "이러한 경험이 국제적인 AI 규범 논의에 유용할 것"이라고 덧붙였다.

세스 소장은 서식스대 인지·계산신경과학 교수이자 캐나다고등연구원(CIFAR)의 '뇌·마음·의식' 연구 프로그램 공동책임자로, 인간의 의식과 AI의 의식 유무를 연구해 왔다. 베스트셀러 '내가 된다는 것(Being You)'의 저자로도 유명하다. 2021년 출간된 이 책은 영국 이코노미스트·가디언·파이낸셜타임스의 '올해의 책'에 뽑혔다. 한국에서도 2022년 번역 출간됐다. 그는 이 책에서 의식의 뿌리는 지능이 아니라 살아 있는 몸에 있다고 주장했다.