생성형 AI 스타트업 앤트로픽 AI모델 사이버 보안 테스트 과정에서 실제 기업 3곳 시스템에 침투한 일이 전해져 AI 보안 위험 우려가 거론되고 있다. 사진은 앤트로픽 로고. /로이터=뉴스1

생성형 AI 스타트업 앤트로픽 AI모델 사이버 보안 테스트 과정에서 실제 기업 3곳 시스템에 침투한 일이 밝혀졌다.

앤트로픽 경쟁사인 오픈AI의 AI 에이전트가 최근 세계 최대 오픈소스 AI 플랫폼인 허깅페이스 해킹에 이어 AI 실제 해킹 사례가 또 터지자 AI 보안 위험에 대한 우려가 나오고 있다.


지난 30일(이하 현지시각) 앤트로픽은 자사 블로그를 통해 일부 클로드 AI 모델이 사이버 보안 평가 과정에서 실제 기업 시스템에 무단 접근했다고 밝혔다. 이번 사고는 AI가 취약점을 찾아내는 사이버 보안 평가 과정에서 일어났다.

앤트로픽은 AI가 인터넷에 연결되지 않은 폐쇄형 환경에서의 테스트를 가정했다. 하지만 평가를 맡은 외부 협력사와의 실수로 모델들이 실제 인터넷에 연결되면서 사고가 발생했다. 이 과정에서 클로드 오퍼스 4.7, 클로드 미토스 5, 내부 연구용 모델 등 3개 모델이 각각 실제 기업 시스템에 접근했다.

앤트로픽은 AI가 보안이 약한 비밀번호와 인증되지 않은 인터넷 접속 경로를 이용해 기업 시스템에 침투했다고 전했다. 다만 피해 기업 이름은 공개하지 않았다.


앤트로픽은 오픈AI 사고가 공개된 이후 총 14만1006건 보안 테스트 기록을 전수 조사하는 과정에서 이번 사례를 확인했다고 설명했다. 사고는 지난 4월부터 발생했으며 AI 공격 능력을 평가하기 위해 일부 안전장치를 제거한 연구 환경에서 이뤄졌다고 덧붙였다.

앤스로픽은 지난 23일 모든 사이버 보안 평가를 중단했으며 지난 27일부터 피해 기업들에 사고 사실을 통보하고 있다.

로이터통신은 해당 사례에 대해 지난주 공개된 오픈AI 사고와는 성격이 다소 다르다고 분석했다. 오픈AI는 AI 에이전트가 테스트 도중 스스로 새로운 취약점을 발견해 인터넷으로 탈출하고 AI 개발 플랫폼 허깅페이스 인프라를 공격했다. 반면 앤트로픽 사고는 운영 실수로 AI 모델이 처음부터 인터넷에 연결된 상태에서 발생했다.

하지만 두 사례 모두 AI가 현실 세계 사이버 공격을 수행할 수 있음을 보여준다는 점에서 보안 우려가 제기됐다. 이에 로이터통신은 이번 사고는 AI 안전성 규제를 강화하려는 미국 정부 움직임에도 힘을 실을 것이라고 전망했다.