910.71
 |
금융권의 인공지능(AI) 활용이 빠르게 확산하는 가운데 금융 AI를 기존 정보기술(IT) 문제가 아닌 금융 시스템 전반의 운영·감독 체계 차원에서 접근해야 한다는 제언이 나왔다. 사전 승인 중심 규제보다 지속적인 검증과 공동 대응 체계를 구축해야 한다는 주장이 제기됐다.
23일 국회의원회관에서 열린 'AI 시대, 금융 시스템을 다시 설계하다' 포럼에서는 금융 AI 활성화와 함께 소비자 보호 및 금융 안정성을 확보하기 위한 제도 개선 방향이 논의됐다.
이혜민 핀테크 AI협의회 회장(핀다 대표)은 개회사에서 "금융 산업은 디지털 전환을 넘어 AI 전환의 시대에 들어섰다"며 "AI는 단순한 업무 자동화나 비용 절감 수단을 넘어 고객의 맥락을 이해하고 더 나은 의사결정을 돕는 기술로 진화하고 있다"고 말했다.
이 회장은 "AI 시대의 규제는 완화 여부가 아니라 혁신을 위해 새로운 규율을 어떻게 설계할 것인지가 중요하다"며 "기존 산업과 규모의 경제를 기준으로 하기보다 고객에게 어떤 가치를 제공하고 어떤 책임을 질 것인지를 중심으로 제도를 설계해야 한다"고 강조했다.
이날 발제에 나선 채상미 이화여대 교수는 금융 AI를 단순한 기술이 아닌 금융 시스템의 핵심 인프라로 규정하며 기존 감독 체계의 전환 필요성을 제기했다.
채 교수는 "금융 AI는 부가 기능이 아니라 중요한 인프라"라며 "개별 서비스의 오류가 금융 소비자의 권리와 금융회사의 건전성, 금융 시스템 전체의 신뢰 문제로 번질 수 있다"고 말했다.
그는 기존 금융 보안 체계가 전제하지 않았던 새로운 시스템 리스크를 AI가 가져오고 있다고 진단했다. AI 활용이 고객 상담과 자산관리, 신용평가, 보험 가격 산정, 이상거래 탐지, 딥페이크 대응 등으로 확대되면서 모델 성능뿐 아니라 설명 가능성, 개인정보 보호, 사이버 보안, 공급망 관리, 책임 소재 등을 종합적으로 관리해야 한다는 설명이다.
'위험 등급의 명확화, 공동 실행 도구 구축, 샌드박스를 통한 신속한 실증'
채 교수는 AI 시대에는 사전 승인·허가 중심 규제만으로는 한계가 있다고 지적했다. 그는 "AI 모델은 지속적으로 업그레이드되고 에이전틱 AI는 자율적으로 의사결정을 수행하게 된다"며 "사전 금지나 허가 중심 규제로는 대응하기 어려운 만큼 상시 검증 형태의 감독 체계가 필요하다"고 강조했다.AI 리스크가 개별 금융사를 넘어 시스템 전체로 확산될 수 있다는 점도 경고했다. 채 교수는 데이터 유출과 편향, 환각(Hallucination), 모델 성능 저하(드리프트), 자율형 AI 에이전트의 오류 전파, 유사 모델 사용에 따른 군집 행동 등이 금융 시스템의 새로운 위험 요인이 될 수 있다고 설명했다.
또 "감독기관이 요구해야 할 것은 소스코드 제출이 아니라 AI가 어떤 데이터와 모델, 프롬프트, 통제 체계 아래에서 작동했는지를 입증할 수 있는 운영 증거"라고 말했다.
금융권 공동 방어 체계 구축 필요성도 제기됐다. 채 교수는 지난해 홍콩에서 발생한 딥페이크 영상회의 금융사기 사례를 언급하며 "보이스피싱과 딥페이크 위험에 대응하기 위해서는 금융회사 한 곳의 역량만으로는 부족하다"며 "금융권 전체가 위험 신호를 공유하는 공동 방어 체계를 구축해야 한다"고 강조했다.
이어 "한국은 AI 기본법과 금융 분야 AI 가이드라인, 망분리 개선 등 제도적 기반은 갖추고 있다"면서도 ▲AI 사용처와 중요도 평가 기준 표준화 ▲모델·데이터 변경 이력 및 운영 로그 감사 체계 ▲외부 AI 공급망 관리 ▲딥페이크·보이스피싱 정보 공유를 위한 법적 기반 ▲에이전틱 AI의 책임 배분 체계 등은 보완이 필요하다고 지적했다.
채 교수는 한국형 금융 AI 정책 방향으로 '위험 등급의 명확화, 공동 실행 도구 구축, 샌드박스를 통한 신속한 실증'을 제시했다. 그는 "중요한 것은 금융 AI를 허용할 것이냐가 아니라 위험을 어떻게 검증하고 신뢰를 확보해 산업이 AI를 빠르게 적용하도록 할 것이냐"며 "혁신은 빠르고 넓게 추진하되 신뢰는 검증 가능하게 만들어야 한다"고 말했다.
강현정 김앤장 법률사무소 변호사는 최근 시행된 금융분야 AI 가이드라인 개정안의 의의와 과제를 설명하며 "동일 위험에는 동일 규제를 적용한다는 원칙 아래 기존 금융 규제와 내부통제 체계 속에서 AI를 관리해야 한다"고 강조했다.
강 변호사는 위험 수준에 따른 차등 관리와 원칙 중심 규제의 필요성을 언급하면서도 AI 전문인력 부족과 조직 간 역할 조정 문제 등으로 전담 조직 구성에 현실적인 어려움이 있다고 진단했다. 중소 금융회사의 경우 인적·물적 자원이 제한적인 만큼 기존 책무구조도와 IT·보안·프라이버시·제3자 관리 체계와 연계한 중장기적 로드맵 마련이 필요하다고 제언했다.
