오픈AI, 앤트로픽, 구글 등 빅테크 기업들이 최첨단 AI 모델 안전기준을 마련을 위해 모인다. /사진=클립아트코리아


오픈AI, 앤트로픽, 구글 등 빅테크 기업들이 최첨단 AI 모델 안전기준을 마련하고 출시 전 성능과 위험성을 검사할 업계 표준기구 설립을 논의 중이다.

지난 15일(이하 현지시각) AFP통신에 따르면 오픈AI는 AI 업계 자율규제 성격을 띤 표준기구를 만드는 방안을 앤트로픽, 구글과 논의하고 있다. 관련 논의는 데미스 허사비스 구글 딥마인드 공동창업자가 지난 7월 내놓은 제안에서 시작했다.



허사비스는 미 증권업계 자율규제기관인 금융산업규제국(FINRA)을 모델로 가장 강력한 '최전선 AI' 모델을 일반에 공개하기 전 안전성을 시험할 독립적인 표준기구를 만들자고 제안했다. FINRA는 증권거래위원회(SEC) 감독 아래 미 증권사와 중개업체를 규율하는 업계 자율규제기관이다.

허사비스는 새로운 최전선 AI 모델 출시 최대 30일 전 자발적으로 표준기구에 이를 제출해 안전성 검사를 받고 평가체계 신뢰성이 확보되면 향후 미국 시장에서 AI 모델을 출시하기 위해 심사를 의무적으로 통과하도록 제도화하는 방안을 검토 중이라고 전했다.

표준기구는 AI 기업들의 자금으로 운영하고 독립적인 기술 전문가들로 구성하는 방안이 거론되고 있다. 허사비스는 "대규모 AI 시스템을 시험하려면 세계 최고 수준 전문 인력과 막대한 컴퓨팅 자원이 필요하다"며 "업계가 상당 부분 운영비를 부담해야 한다"고 주장했다.



최근 AI 기업 내에선 AI 개발 속도조절론이 화두다. 다리오 아모데이 앤트로픽 CEO는 지난 12일 AI 모델의 성능 향상 속도를 안전 연구와 검증이 따라잡을 수 있도록 업계가 개발 속도를 조절해야 한다고 밝혔다. 해당 의견에 샘 올트먼 오픈AI CEO, 일론 머스크 테슬라 CEO 등이 동의했다. 다만 젠슨 황 엔비디아 CEO는 AI 개발 속도를 늦추자는 주장은 과한 해석이라고 비판했다.