[KtN 김상기기자]같은 고객 정보를 입력했지만 인공지능(AI)이 내놓는 판단은 매번 같지 않았다. 유럽의 한 은행이 고객확인(KYC) 업무에 도입한 AI 에이전트를 평가한 결과, 동일한 자료를 반복 처리했을 때 응답의 일관성이 72~100%로 나타났다. 일관성이 가장 낮은 항목에서는 대략 네 차례 중 한 차례 다른 답변이 나왔다.

은행은 고객확인 절차 전반에 걸쳐 10차례 평가를 실시했다. 정확도와 응답 일관성, 처리속도, 비용을 각각 측정하고 실제 운영에 적용할 수 있는 기준을 설정했다. 정확도는 80% 이상, 일관성은 70% 이상으로 정했다. 금융권 전체에 적용되는 기준이 아니라 해당 은행이 자체적으로 설정한 승인 조건이다.

AI가 고객정보를 분석하고 자금세탁 위험을 판단하는 업무에 참여하면서 기존 금융 시스템과 다른 문제가 나타나고 있다. 정해진 규칙에 따라 움직이는 프로그램은 동일한 입력값에 같은 계산 결과를 내놓지만, 생성형 AI를 활용하는 에이전트는 동일한 정보를 처리하더라도 분석 내용과 판단 결과가 달라질 수 있다.