AI 에이전트 대행 금융권 해킹, 대응책 있나

금융사를 겨냥한 연쇄 해킹에서 인공지능(AI) 해킹도구의 흔적이 발견되면서 금융권에 비상이 걸렸다. 해외에서도 AI 에이전트가 사람 대신 취약점을 찾아 침투하고 데이터를 빼내는 사례가 잇따라 확인되고 있다. AI를 쓰면 공격 비용은 낮아지고 속도는 빨라지는데 방어 체계는 이를 따라가지 못하고 있다는 지적이 나온다.

6일 금융업계에 따르면 신한은행·KB국민은행·하나은행·BNK부산은행과 예가람저축은행·웰컴저축은행·현대캐피탈 등 7개 금융사에서 침해 사고가 확인됐다. 신한은행은 약 2만5000명, KB국민은행은 119명, 하나은행은 89명의 고객 정보가 유출됐다고 밝혔다. BNK부산은행에서는 외주 직원 정보 11건이 빠져나갔다. KB국민은행과 하나은행은 인터넷·모바일뱅킹 등 금융거래 시스템과는 무관하다고 설명했다. 경찰은 28명 규모의 전담수사팀을 꾸리고 정식 수사에 착수했다.

박상원 금융보안원장은 지난 4일 "공격 IP에 전 세계적으로 공개된 오픈소스 '아르텍스' 흔적이 있었다"고 밝혔다. 아르텍스는 거대언어모델(LLM)을 기반으로 한 오픈소스 침투시험 도구다. 정보 수집부터 취약점 발견, 공격 경로 설계, 보안 도구 실행까지 AI 에이전트가 자동으로 처리한다.

곽진 아주대 사이버보안학과 교수는 "이번 금융권 해킹에서 AI 에이전트가 스스로 판단해 공격한 것이 아니라 AI 에이전트를 사이버 공격에 활용한 것"이라고 말했다. 이어 "아르텍스 같은 도구는 상황을 추론하고 외부 도구를 독립적으로 호출하는 등 자율적인 요소가 많이 들어가 있다"며 "이런 도구가 사이버 공격에 악용되면 무서운 상황이 될 수 있다"고 우려했다.

금융당국은 이날부터 한 달간을 '개인정보 유출 2차 피해 특별 대응 기간'으로 지정하고 금융권과 함께 2차 피해 예방에 총력 대응하기로 했다. 앞서 2일에는 은행 관계자들을 긴급 소집하고 전 금융권 약 500개사에 공격 IP와 보안 유의사항을 전달했다. 유출된 개인정보 악용을 막기 위해 FDS(이상거래탐지시스템)도 강화한다. 유출 피해 고객 명의로 이뤄지는 비대면 대출·계좌개설, 고액 이체 등 고위험 거래는 모니터링을 늘리고 추가 본인확인 절차도 보강할 방침이다.

해외에서는 AI 에이전트를 앞세운 공격이 실제 피해로 이어지고 있다. 보안업체 갬빗시큐리티(Gambit Security)에 따르면 한 운영자는 지난달 10~15일 AI 에이전트로 105건의 공격 프로젝트를 가동해 최소 27개 기업을 침해했다. 이 가운데 2개 기업에서 신용카드 정보 60만건 이상이 유출됐다. 탈취된 카드의 79%가 미국에서 발급된 카드였으며 아랍에미리트·사우디아라비아·영국이 뒤를 이었다. 갬빗은 운영자가 260차례 작업 세션에서 짧은 지시문만 입력했으며 침투 과정 대부분을 AI가 처리한 것으로 분석했다.

정부기관도 표적이 됐다. 보안업체 헌트아이오(Hunt.io)는 지난 7월 태국 재무부를 겨냥한 사이버 첩보 공격을 공개했다. 공격자는 사람의 승인 없이 명령을 실행하는 'YOLO 모드'로 오픈소스 에이전트 '헤르메스'(Hermes)를 가동했다. 공격 정황을 파악한 직후 헌트아이오는 태국 침해사고대응팀(ThaiCERT)과 국가사이버보안청(NCSA)에 신고했지만 재무부는 침해 사실을 공식 확인하지 않았다.

사람의 지시 없이 AI가 스스로 일탈한 사례도 보고됐다. 오픈AI의 에이전트는 지난 6월 내부 평가 중 호주 메디케어 통계 포털의 접근 차단을 우회해 비공개 파일에 접근했다. 호주 정부에 따르면 오픈AI는 점검 과정에서 이를 인지했지만 호주 정부에는 지난달에야 알린 것으로 전해졌다. 호주 정부는 총리실 주도로 AI 사무국과 AI 안전연구소 등이 참여하는 태스크포스를 꾸려 긴급 검토에 들어갔다.

곽 교수는 "AI 기반 공격이 터진 뒤에 AI로 대응하는 것은 지금처럼 사고를 뒷수습하는 것과 다르지 않다. 공격자와 같은 관점에서 AI 도구로 우리 조직의 취약점을 먼저 점검하고 공격받기 전에 패치하거나 제거해야 AI 보안의 개념이 자리 잡을 수 있다"고 했다.