[KtN 김상기기자]국제 금융안정위원회(Financial Stability Board·FSB)가 2026년 10월 15일 금융회사의 인공지능(AI) 도입에 관한 12개 관리 원칙을 확정했다. 이사회와 최고경영진의 감독 책임부터 AI 시스템의 성능 검증, 인간의 감독, 사이버보안, 외부 기술업체에 대한 의존 위험까지 금융기관이 관리해야 할 항목을 구체화했다. 생성형 AI와 에이전틱 AI(Agentic AI)의 활용이 확대되는 가운데 금융회사의 자동화된 업무 수행을 기존 위험관리 체계 안에서 감독하도록 권고한 것이다.

영국 금융행위감독청(Financial Conduct Authority·FCA)은 Barclays, Experian, UBS 등 8개 금융·기술회사를 선정해 AI 실증을 진행하고 있다. 자금세탁 탐지와 고객확인(KYC), 에이전틱 결제, 신용정보 분석 등이 실증 대상에 포함됐다. 2026년 말까지 시험을 진행하고 2027년 1분기 평가 결과를 발표할 예정이다.

유럽연합(EU)은 AI법(AI Act)에 따른 고위험 AI 시스템의 규제 적용을 준비하고 있다. 현재 일정으로는 법률 부속서 III에 해당하는 고위험 AI 의무가 2027년 12월 2일부터 적용된다. 고객의 신용도를 평가하는 AI와 금융사기를 탐지하는 AI의 법적 분류가 다르며, 자금세탁방지 시스템 역시 실제 기능과 사용 목적에 따라 적용 규정을 구분해야 한다.

금융범죄 예방 업무에서 AI가 직접 자료를 수집하고 분석 결과를 작성하는 수준을 넘어 업무를 실행하기 시작하면서 감독당국의 검토 범위도 확대되고 있다. AI가 어떤 정보를 사용했는지, 어떤 절차를 거쳐 판단했는지, 오류가 발생했을 때 누가 개입할 수 있는지 금융기관이 설명할 수 있어야 한다.

2025~2026년 유럽 은행들의 에이전틱 AI 도입 경험에서는 고객확인과 자금 출처 검증 업무의 생산성이 높아지는 성과가 나타났다. 그러나 AI 시스템을 실제 운영하기 위한 위험관리와 보안 심사에는 상당한 시간이 필요했다. 일부 금융기관에서는 첫 번째 AI 활용 업무에 대한 승인에 6~8개월이 걸렸고, 두 번째 업무를 도입할 시점에도 지속적인 성능 감시 체계가 완성되지 않은 문제가 나타났다.

금융 AI의 활용이 시범사업을 넘어 실제 운영으로 확대되면서 감독의 대상도 개별 AI 모델의 정확성에서 자율 실행 권한과 데이터 접근, 업무 기록, 조직의 승인 책임으로 넓어지고 있다.

금융안정위원회 12개 원칙…이사회부터 외부 기술업체까지

금융안정위원회는 지난 6월 책임 있는 AI 도입을 위한 관리 원칙 초안을 공개하고 의견을 수렴했다. 약 160건의 의견이 제출됐으며, 10월 15일 최종 보고서를 확정했다.

12개 원칙은 금융기관 전체의 관리 체계와 AI 시스템의 개발·운영 과정에 관한 위험관리 항목으로 구성됐다.

금융회사 이사회와 최고경영진은 AI 도입 전략이 기관의 사업모델과 위험 수용 수준에 부합하도록 감독해야 한다. AI를 사용하는 부서와 위험관리 부서의 역할을 구분하고, 관련 의사결정과 책임을 문서화하는 체계도 요구된다.

AI 시스템을 도입하기 전에는 활용 목적과 위험 수준을 평가하고, 실제 운영 단계에서는 성능을 지속적으로 측정해야 한다. 데이터의 정확성과 완전성, 보안 수준을 관리하고 AI의 판단을 설명할 수 있는 장치도 마련하도록 권고했다.

인간의 감독은 열 번째 원칙에 포함됐다.

AI 시스템의 위험도와 자율성, 복잡성, 설명 가능성에 맞춰 적절하고 효과적인 인간 감독 체계를 구축하는 내용이다. 사람이 모든 결과를 동일한 방식으로 승인하는 절차보다 업무별 위험에 맞는 검토와 통제를 요구하는 방향이다.

외부 AI 공급업체에 대한 의존 위험도 별도 관리 항목으로 제시됐다. 은행이 외부에서 제공하는 AI 모델과 데이터 처리 서비스를 사용할 경우 성능과 투명성, 데이터 품질, 공급망 안정성, 업무 연속성을 함께 관리하도록 했다.

국제 금융권에서 소수의 대형 기술업체에 대한 의존도가 높아질 경우 개별 금융회사뿐 아니라 여러 기관이 공통적인 기술 장애나 보안 위험에 노출될 수 있다. AI 공급업체의 서비스에 문제가 발생했을 때 은행이 업무를 지속할 수 있는지, 대체 시스템을 활용할 수 있는지도 위험관리의 대상이 된다.

금융안정위원회의 12개 원칙은 각국 금융회사에 일률적으로 적용되는 강제 규정은 아니다. 금융기관이 사업의 특성과 위험 수준에 따라 기존 관리 체계에 반영하도록 권고하는 국제 지침이다.

그러나 금융회사 경영진의 책임과 AI 시스템의 지속적인 검증, 인간의 감독, 외부 기술업체 관리가 하나의 체계로 제시됐다는 점에서 금융 AI 감독의 기준이 구체화되고 있다.

AI 오류가 거래 심사로 이어질 때…설명 가능한 판단 요구

은행의 자금세탁방지(AML) 업무에서는 고객의 신원과 거래 내역, 자금 출처를 확인하고 이상 거래를 분석한다.

AI 에이전트는 다양한 문서에서 고객정보를 추출하고 외부 자료와 대조하며, 조사 보고서를 작성할 수 있다. 여러 업무를 연결하도록 설계하면 필요한 데이터를 조회하고 계산을 수행한 뒤 후속 작업을 진행할 수도 있다.

기존의 생성형 AI가 질문에 대한 답변이나 문서 초안을 작성하는 데 주로 활용됐다면, 에이전틱 AI는 외부 도구를 사용해 실제 업무 절차를 수행할 수 있다는 점에서 위험의 범위가 넓어진다.

고객의 신원 정보를 잘못 연결하거나 부정적인 언론 보도에 등장하는 동명이인을 실제 고객으로 판단하면 후속 위험 평가에도 영향을 미칠 수 있다.

자금 출처 검증 과정에서 소득과 자산 관련 자료를 잘못 해석하거나 근거가 부족한 내용을 조사 보고서에 포함시키는 경우에도 오류가 발생한다.

AI가 작성한 내용이 외형상 완성된 보고서 형식을 갖추고 있더라도 실제 증빙과 일치한다는 보장은 없다. 생성형 AI가 사실과 다른 내용을 만들어 내는 환각(Hallucination) 현상은 금융범죄 예방 업무에서 중요한 검증 대상이다.

유럽 은행들은 조사 보고서의 개별 주장과 판단을 추출해 실제 근거자료와 대조하는 품질관리 기능을 구축하고 있다. 문서에 필요한 정보가 빠졌는지, 수치가 일치하는지, 내부 규정에 맞는 설명이 작성됐는지를 확인하는 방식이다.

AI 시스템의 검증 범위에는 같은 입력에 대한 응답의 일관성도 포함된다.

유럽의 한 은행이 고객확인 업무 전반에 걸쳐 실시한 10차례 평가에서는 AI 결과의 반복 실행 일관성이 72~100%로 측정됐다. 가장 낮은 평가에서는 대략 네 차례 중 한 차례 서로 다른 답변이 나타났다.

기업의 기본정보처럼 객관적인 정답을 확인하기 쉬운 업무에서는 높은 성능을 보였지만, 재산 형성 과정의 타당성이나 고객의 거래 행태를 해석하는 업무에서는 상대적으로 낮은 평가가 나왔다.

금융기관이 AI의 판단을 내부 심사에 활용하려면 정확도와 재현성을 함께 측정해야 한다. 같은 오류를 반복하는 AI는 일관성이 높더라도 정확하지 않을 수 있으며, 정확한 정보를 바탕으로 분석하더라도 매번 판단이 달라지면 업무의 안정성이 떨어질 수 있다.

모델의 성능을 검증하는 일과 함께 어떤 자료가 사용됐고 어떤 판단 경로를 거쳤는지 추적할 수 있는 기록 관리가 필요해지고 있다.

프롬프트 인젝션과 개인정보 노출…AI 에이전트의 보안 위험

에이전틱 AI는 외부 문서와 데이터베이스, 웹사이트, 내부 업무 시스템을 연결해 정보를 처리할 수 있다.

여러 프로그램을 직접 호출하는 AI 에이전트는 단순한 문서 작성 프로그램보다 넓은 접근 권한을 가질 수 있다. 고객정보를 조회하고 외부 자료를 검색하며, 승인된 범위 안에서 데이터를 수정하거나 후속 업무를 실행하도록 설계할 수도 있다.

외부에서 수집한 문서에 악의적인 지시가 포함돼 있다면 AI가 이를 정상적인 업무 명령으로 잘못 받아들일 위험이 발생한다.

프롬프트 인젝션(Prompt Injection)은 AI가 처리하는 입력 자료에 부적절한 지시를 삽입해 원래의 작동 규칙을 벗어나도록 유도하는 공격 방식이다.

은행의 AI 에이전트가 외부 웹사이트나 고객 제출 문서를 분석하는 과정에서 공격자의 지시를 실행하도록 설계돼 있다면 정보 유출이나 허가되지 않은 시스템 접근으로 이어질 수 있다.

AI 에이전트가 사용할 수 있는 도구와 데이터의 범위가 넓을수록 보안 사고의 영향도 커질 수 있다.

금융기관은 AI에 전달되는 입력값을 검증하고 신뢰할 수 있는 시스템 설정과 외부 자료를 구분해야 한다. 민감정보는 별도의 접근 통제 체계에서 관리하고, AI가 허용된 정보만 조회하도록 제한하는 방식이 요구된다.

AI 에이전트마다 식별 가능한 계정을 부여하고 기본 접근 권한을 읽기 전용으로 제한하는 방법도 활용할 수 있다. 추가 권한이 필요할 때만 일정한 조건에 따라 임시로 허용하고, 실제 실행 내역은 변경하기 어려운 감사 기록으로 남기는 구조다.

AI가 잘못된 데이터를 조회하거나 승인되지 않은 프로그램을 호출할 경우 관련 작업을 차단할 수 있어야 한다.

금융범죄 예방 시스템에서는 조사 대상 고객의 개인정보와 금융거래 기록이 함께 사용된다. AI가 업무 수행에 필요하지 않은 개인정보까지 출력하거나 다른 시스템으로 전달하지 않도록 데이터 접근과 결과 생성 과정을 관리해야 한다.

AI의 보안 관리는 외부 공격을 차단하는 데서 끝나지 않는다. 시스템이 정상적으로 작동하는 과정에서도 개인정보가 불필요하게 노출되지 않는지, 내부 규정에 어긋나는 작업을 수행하지 않는지 지속적으로 확인해야 한다.

승인에 6~8개월…기술보다 늦어진 위험관리 체계

유럽 은행들의 에이전틱 AI 구축 경험에서는 실제 운영 승인을 받는 과정에서 상당한 시간이 소요됐다.

일부 프로젝트에서는 첫 번째 활용 업무에 대한 승인이 6~8개월에 걸쳐 진행됐다. AI 시스템 개발이 빠르게 이루어지는 동안 위험관리와 보안 심사, 지속적인 운영 감시 체계를 마련하는 작업이 뒤따랐다.

은행이 AI를 실제 운영 환경에 적용하려면 기술적 정확성뿐 아니라 개인정보 처리와 시스템 접근 권한, 내부 규정 준수, 업무 책임과 감사 절차 등을 검토해야 한다.

하나의 AI 활용 업무가 승인되더라도 동일한 기술을 다른 업무에 확대 적용할 때 새로운 위험이 발생할 수 있다.

고객정보를 정리하는 AI와 자금세탁 위험을 판단하는 AI, 거래 감시 보고서를 작성하는 AI는 처리하는 데이터와 결과의 영향이 다르다.

금융기관은 업무별 위험을 구분하고 해당 수준에 맞는 승인 절차를 적용해야 한다.

유럽 은행들의 AI 위험관리 체계에서는 위험 원칙과 통제 기준, 활용 업무의 접수 및 위험 분석, 승인과 위험 완화, 지속적인 성능 감시, 조직의 책임 배분, 전문인력과 기술 기반이라는 여섯 가지 요소가 활용됐다.

업무를 도입하기 전에 AI의 자율성 수준과 오류 발생 시 영향을 평가하고, 실제 운영에서는 성능 저하와 부정확한 정보 생성, 비정상적인 사용을 지속적으로 점검하는 방식이다.

단순한 자료 정리 업무에는 상대적으로 간소한 검토 절차를 적용할 수 있지만, 고객의 금융서비스 이용이나 중요한 위험 판단에 영향을 줄 수 있는 업무에는 강화된 심사가 필요하다.

AI 시스템의 위험 수준을 평가할 때는 사람의 개입 없이 실행할 수 있는 권한, 오류나 조작이 발생했을 때의 업무상 영향, 처리하는 데이터의 민감성, 실제로 접근하거나 변경할 수 있는 시스템의 범위 등을 고려할 수 있다.

은행이 AI 도입의 속도를 높이려면 개별 프로젝트마다 별도의 승인 기준을 만드는 방식보다 위험 수준에 따른 공통 심사 체계를 마련할 필요가 있다.

지속적인 성능 감시도 초기 승인만큼 중요해지고 있다. AI가 사용하는 데이터와 외부 환경이 달라지면 처음 개발했을 때의 성능이 유지되지 않을 수 있기 때문이다.

금융기관은 AI의 판단 오류와 실행 기록, 시스템 변경 내역을 추적하고 이상이 발생했을 때 필요한 검토 절차로 연결하는 체계를 갖춰야 한다.

영국 금융회사 8곳 실증…2027년 1분기 평가 발표

영국 금융행위감독청은 지난 4월 21일 AI 실증 프로그램의 두 번째 참여 기업 8곳을 발표했다.

참여 기업은 Aereve, Coadjute, Barclays, Experian, GoCardless, Lloyds Banking Group 계열의 Scottish Widows, UBS, Palindrome이다.

실증 대상에는 투자 관련 맞춤형 지원과 소비자 신용정보 분석, 에이전틱 결제, 자금세탁 탐지, 고객확인 등이 포함됐다. 8개 기업 모두가 동일한 금융범죄 예방 시스템을 시험하는 것은 아니며, 여러 종류의 금융 AI 활용 업무를 대상으로 진행된다.

영국 금융행위감독청은 AI 검증 전문기업 Advai와 함께 실증 프로그램을 운영하고 있다. 참여 기업들은 감독당국과 기술 전문기관의 지원을 받아 AI의 위험관리와 성능 평가, 실제 운영 과정에서의 감시 방식을 검토한다.

실증은 2026년 4월 시작됐으며 연말까지 진행될 예정이다. 평가 보고서는 2027년 1분기에 발표할 계획이다.

금융기관이 AI를 실제 고객서비스와 내부 업무에 적용할 때 어떤 성능을 보이는지, 위험관리 체계가 어떻게 작동하는지 감독당국이 직접 살펴보는 과정이다.

영국은 AI 기술에 관한 별도의 금융 규정을 무조건 추가하기보다 기존 금융감독 체계를 활용하면서 새로운 기술의 위험을 검토하는 접근을 취하고 있다.

실증 결과는 AI 모델의 성능뿐 아니라 금융기관이 오류를 발견하고 대응하는 방식, 고객에게 미치는 영향, 실제 업무에 필요한 감독 수준 등을 평가하는 자료로 활용될 수 있다.

금융범죄 예방 업무에서는 정확한 정보 분석과 함께 잘못된 판단을 수정할 수 있는 통제 절차가 중요하다. 실증을 통한 평가가 이루어지면 시범사업에서 나타난 성능과 실제 금융업무에서의 운영 결과를 비교할 수 있는 근거가 추가된다.

EU AI법, 고위험 시스템에 인간 감독 의무…금융 AI도 기능별 분류

유럽연합은 AI법을 통해 AI 시스템의 위험 수준에 따라 다른 의무를 적용하고 있다.

AI법 제14조는 고위험 AI 시스템을 실제 운영 과정에서 사람이 효과적으로 감독할 수 있도록 설계하도록 규정한다.

감독 담당자는 AI 시스템의 성능과 한계를 이해하고, 비정상적인 작동을 파악하며, 필요할 경우 AI의 결과를 사용하지 않거나 수정·취소할 수 있어야 한다. 시스템의 작업을 중단할 수 있는 수단도 고려 대상이다.

AI의 판단을 과도하게 신뢰하는 자동화 편향에 주의하도록 한 내용도 포함됐다. AI가 높은 확신을 가진 결과를 제시하더라도 담당자가 근거를 확인하고 독립적으로 판단할 수 있어야 한다는 취지다.

금융기관에서 사용하는 모든 AI가 자동으로 고위험 시스템에 해당하는 것은 아니다.

EU AI법의 부속서 III에는 자연인의 신용도를 평가하거나 신용점수를 산정하는 AI가 고위험 유형으로 규정돼 있다. 반면 금융사기 탐지를 목적으로 사용하는 AI는 해당 항목에서 예외로 구분된다.

고객확인과 자금세탁방지 업무 역시 시스템의 실제 기능과 사용 목적, 다른 금융서비스 결정과의 연관성을 검토해야 한다.

거래 감시 담당자에게 위험 신호를 분류해 제공하는 내부 보조 도구와 고객의 신용도 평가에 직접 사용되는 AI는 법적 성격이 다르다. 하나의 금융기관에서 사용하더라도 시스템별로 적용 의무를 판단해야 한다.

2026년 10월 현재 EU AI법의 주요 규정은 단계적으로 시행되고 있다. 법률 부속서 III에 해당하는 고위험 AI 시스템의 관련 의무는 2027년 12월 2일부터 적용되며, 규제 대상 제품에 내장된 일부 고위험 AI 시스템의 의무는 2028년 8월 2일부터 적용된다.

금융기관은 AI를 도입하는 설계 단계에서 해당 시스템이 어떤 법적 유형에 속하는지 판단하고, 필요한 인간 감독과 기록 관리, 위험 완화 절차를 반영해야 한다.

자금세탁방지청 출범 이후…2028년 직접 감독 준비

유럽연합의 자금세탁방지 감독 체계도 개편되고 있다.

독일 프랑크푸르트에 설립된 유럽연합 자금세탁방지청(Anti-Money Laundering Authority·AMLA)은 회원국의 자금세탁방지 감독과 금융정보 분석 협력을 강화하는 역할을 맡고 있다.

유럽연합은 자금세탁방지 관련 규정을 통일하고 회원국 간 감독의 일관성을 높이기 위한 제도 정비를 추진하고 있다.

AMLA는 2027년 첫 직접 감독 대상 금융기관을 선정하고 2028년부터 40개 금융기관을 직접 감독할 계획이다.

2026년에는 위험 평가와 감독 대상 선정 기준을 마련하고 회원국 감독당국을 통해 필요한 정보를 수집하는 준비 작업이 진행됐다.

AI 기술의 활용이 확대되는 금융범죄 예방 업무에서도 자금세탁방지 관련 위험관리와 내부 통제의 일관성이 중요한 감독 요소가 된다.

고객과 거래정보를 수집하고 분석하는 방식이 자동화되더라도 은행은 자금세탁 위험을 적절하게 관리해야 한다. AI가 조사 결과를 생성한 과정과 판단의 근거, 담당자의 검토 기록을 유지하는 것이 내부 통제의 일부가 될 수 있다.

AI법에 따른 기술 위험관리와 자금세탁방지 관련 금융감독은 목적과 적용 범위가 다르다. 금융기관은 각각의 규정에서 요구하는 의무를 구분하면서 실제 업무의 위험을 통합적으로 관리해야 한다.

AI가 판단하는 속도만큼 감독 체계도 정교해져야

유럽 은행들의 에이전틱 AI 도입 경험에서는 금융범죄 예방 업무의 생산성이 기존 대비 약 두 배 수준으로 개선된 프로젝트가 관찰됐다. 고객확인과 자금 출처 검증, 거래 감시 분야에서 반복적인 자료 처리와 보고서 작성에 들어가는 시간이 줄어드는 성과가 나타났다.

그러나 AI가 수많은 작업을 연결해 수행하는 환경에서는 기존의 감독 방식을 그대로 적용하기 어려운 부분도 발생했다.

사람이 모든 작업을 실시간으로 확인하기에는 처리속도가 빠르고, 반대로 AI의 판단을 광범위하게 허용하면 오류가 누적되거나 승인되지 않은 작업이 실행될 위험이 있다.

유럽 은행들이 AI의 자율성 수준에 따라 업무 권한을 구분하고, 위험이 높은 판단에 인간의 검토를 배치하며, 실행 과정의 기록을 유지하는 방식을 도입하는 배경이다.

금융안정위원회가 확정한 12개 원칙은 AI의 도입과 운영 전반에 걸쳐 금융기관 이사회와 경영진의 책임을 강조했다. 인간의 감독과 성능 검증, 데이터 품질, 사이버보안, 외부 기술업체의 위험관리도 함께 제시했다.

영국 금융행위감독청의 AI 실증은 2026년 말 종료될 예정이며 2027년 1분기에 평가 보고서가 발표된다. 유럽연합은 같은 해 12월 고위험 AI에 관한 관련 의무를 적용하고, 자금세탁방지청은 직접 감독 대상 금융기관 선정 절차를 진행한다.

금융범죄 예방 업무에서 AI가 직접 수행하는 작업은 확대되고 있지만 고객정보와 자금 출처에 관한 판단의 정확성, 증빙의 신뢰성, 내부 통제에 대한 책임은 금융기관의 감독 체계 안에서 관리돼야 한다.

2026년 10월 확정된 국제 관리 원칙과 2027년 예정된 영국의 실증 평가, EU의 법률 적용 일정은 금융 AI의 실제 운영 성과와 위험관리 수준을 평가하는 다음 기준으로 이어지게 된다.