마이크로소프트(MS)가 향후 AI 모델 잠정 행동강령을 공개했다. 사진은 2023년 5월4일(현지시각) 제작된 MS 로고와 AI 문구의 모습. /로이터=뉴스1


최근 AI 속도조절론이 화제를 모으면서 마이크로소프트(MS)가 발표한 향후 AI 모델 잠정 행동강령도 눈길을 끌고 있다.

지난 14일(이하 현지시각) 미국 매체 CNBC에 따르면 MS는 이날 37쪽 분량인 '인본주의적 AI 행동강령' 초안을 공개했다. 해당 강령에는 AI 기술 목적이 인류에게 봉사하는 것이며 인간에 의해 통제될 수 없는 기술은 거부돼야 한다는 내용이 포함됐다.



아울러 AI는 인간을 대체하는 것이 아니라 지원하기 위해 존재하고 의식이 없으며 인간 의식을 모방하도록 설계되면 안 된다. AI가 복지를 누릴 자격이 있거나 권리를 가질 수 있다는 생각을 거부하며 AI는 유능하고 신뢰할 만한 도구이지 그 자체로 주체가 돼서는 안 된다고 행동강령은 명시했다. AI가 다양한 언어를 구사하고 유창한 목소리를 낼 수 있지만 지나친 의인화나 인격화, 또는 인간과 AI 경계를 모호하게 하는 것은 지양한다.

AI는 무기 제조 요청에 응하거나 위험 물질 조달을 지원해서는 안 된다. 건강에 해로운 식습관을 조장하거나 폭력적·성적으로 노골적인 콘텐츠를 생성해서도 안 된다. 또 사람의 목표를 따라야 하고 자체 목표를 설정하거나 잘못된 행동을 은폐해서도 안 된다. 사고 과정이나 코드를 조작하지 않아야 하고 추론 과정을 왜곡·은폐하지 않아야 하며 인간 이해 범위를 벗어난 '뉴럴리즈'로 소통해서도 안 된다.

MS는 오픈AI 모델이 허깅페이스에 대해 벌였던 사례처럼 통제를 벗어난 사이버 공격을 방지할 수 있는 규정 마련도 계획하고 있다. 무스타파 슐레이만 MS AI 책임자는 이번 강령 발표에 대해 "최근 논의를 고려한 것이지만 실제로는 약 5개월 동안 준비했다"고 밝혔다.



MS는 이번 강령을 위해 포커스 그룹을 운영하고 법률·윤리·언어학·철학 전문가와 협의했다고 전했다. MS는 6주 동안 의견 수렴 과정을 거쳐 개선 작업을 진행한 후 연말에 수정된 버전을 발표할 예정이며 2027년 이후 AI 모델 개발에 나설 계획이다.

지난 12일 다리오 아모데이 앤트로픽 CEO는 자신의 블로그 게시물을 통해 AI 모델 개선 속도를 늦춰야 한다고 주장했다. 해당 주장에 대해 샘 올트먼 오픈AI CEO와 일론 머스크 테슬라 CEO도 동의했다. 다만 젠슨 황 엔비디아 CEO와 도널드 트럼프 미국 대통령은 해당 주장에 대해 조심할 필요는 있지만 산업 개발을 멈춰서는 안 된다고 밝혔다.