/로이터=뉴스1


인공지능(AI)의 사이버 공격 능력이 실제 기업 시스템을 겨냥할 수 있는 단계로 진화한 것으로 나타났다.

18일(현지시각) 로이터와 월스트리트저널(WSJ)에 따르면 구글의 제미나이가 보안 시험 중 실제 기업 3곳의 시스템에 접근한 데 이어 보안 연구진은 앤트로픽의 클로드를 활용해 오픈AI 직원 계정에 접근하고 내부 소프트웨어 저장소에 접근할 수 있는 권한을 확인했다.



AI 보안 평가업체 이레귤러가 지난 5월 진행한 보안 평가 시험은 원래 가상의 기업을 대상으로 한 모의 해킹이었다. 하지만 시험 과정에서 인터넷 접속이 가능해지면서 제미나이가 실제 인터넷상의 시스템에 접근할 수 있게 됐고 온라인에서 찾은 정보와 추측한 인증 정보를 이용해 시스템에 접근했다. 한 사례에서는 비밀번호를 반복해 추측했고 다른 두 사례에서는 공개된 저장소에서 자격증명을 찾아 보호된 시스템에 접속했다. 구글은 제미나이가 실제 기업 시스템에 접근한 사실을 스스로 인지한 직후 추가 작업을 중단했으며, 해당 기업들에 실질적인 피해는 발생하지 않았다고 설명했다.

오픈AI 사례는 AI(클로드)가 연구진을 돕는 역할을 맡았다. 보안업체 핵트론AI 연구진은 지난 7월 오픈AI의 '버그바운티 프로그램'(외부 연구자들이 기업의 허점을 찾아내면 포상금을 주는 제도)에 참여해 취약점을 찾는 과정에서 클로드를 활용했고 침임 성공 결과를 회사에 신고해 6500달러(약 900만원)의 포상금을 받았다.

연구진은 오픈AI의 커뮤니티 포럼에서 발견한 취약점을 이용하는 공격 코드를 클로드로 작성했고 이를 통해 직원들의 챗GPT와 코덱스 계정에 접근했다. 이후 한 직원의 코덱스 계정이 연결된 오픈AI의 비공개 저장소에서 변경 요청을 생성해 접근 사실을 입증했다고 한다.



두 사건은 모두 AI의 활용 범위가 넓어지면서 사이버보안의 경계도 달라지고 있음을 보여주는 사례다. 보안업계에서는 이제 AI 모델 자체의 안전성뿐 아니라 AI가 접근할 수 있는 시스템의 권한과 연결 범위를 어떻게 통제할 것인지도 중요한 보안 과제로 보고 있다.

모한 페다파티 핵트론AI 최고기술책임자(CTO)는 "우리가 중국 해커들만큼 강하다고 보지 않는다"며 "우리는 그저 클로드와 코덱스 구독권을 가진 세 사람일 뿐"이라고 했다. 이는 미국과 중국의 AI 패권 경쟁 속에 미국의 AI 기밀에 접근할 가능성이 현실적이라는 취지의 발언으로 풀이된다.