올트먼 "AI 기술 발전보다 안전이 앞서야…개발 속도 조절 필요"

샘 올트먼 오픈AI CEO가 AI 안전에 대해 강조했다.

지난 15일(이하 현지시각) 미국 매체 테크크런치, 반티지포인트 등 외신에 따르면 올트먼 CEO는 이날 미국 샌프란시스코 예르바부에나예술센터 블루실드오브캘리포니아 극장에서 열린 마크 베니오프 세일즈포스 CEO와의 대담 참석했다.

올트먼 CEO는 이날 대담을 통해 AI 기술보다 안전 관련 역량 발전이 앞서야 한다고 말했다. 그는 지난 7월 오픈AI 모델이 격리 환경을 이탈한 후 허깅페이스를 해킹한 사건을 언급하며 "모델들 역량이 얼마나 강력해졌는지를 보여주며 경종을 울린 사건"이라며 "우리 회사뿐만 아니라 AI 업계 전체를 재설정했다"고 밝혔다. 이어 "우리는 정렬과 감시, 보안을 어느 때보다 엄격히 다뤄야 한다"며 "항상 AI 역량보다 한발 앞서나갈 수 있도록 기술 개발 속도를 조절할 의지가 있어야 한다"고 강조했다.

최근 AI 안전 담론이 정부 규제 필요성에 대한 찬반으로 이어지는 것에 대해선 "논의가 이뤄지는 프레임을 아쉽게 생각한다"며 "우리 회사와 우리 업계가 안전하게 해낼 능력이 있다고 확신한다. AI 안전을 위해 반드시 정부 규제가 필요하지 않다"고 전했다.

올트먼 CEO는 "AI 사용 방식이 챗봇 형태 1단계와 코딩 보조 도구 형태 2단계를 넘어 이용자 곁에서 24시간 상시 작동하는 에이전트 형태 3단계로 진화하고 있다"고 진단했다. 그러면서 "AI가 업무와 요구사항을 언제든 이해하고 메신저와 이메일을 지켜보면서 이용자가 요구하지 않아도 선제적으로 코드를 생성해주는 시대가 오고 있다"고 덧붙였다.

지난 12일 다리오 아모데이 앤트로픽 CEO는 자신의 블로그 게시물을 통해 AI 모델 개선 속도를 늦춰야 한다고 주장했다. 해당 주장에 대해 샘 올트먼 오픈AI CEO와 일론 머스크 테슬라 CEO도 동의했다. 다만 젠슨 황 엔비디아 CEO와 도널드 트럼프 미국 대통령은 해당 주장에 대해 조심할 필요는 있지만 산업 개발을 멈춰서는 안 된다고 밝혔다.