은행의 AI 시스템이 결제 막았을 때

데이터 학습 과정에서 오류 발생

결제 오류에 대해 대응 방안 숙지 필요

은행의 AI가 결제를 막았는데 어떻게 해야 할까? 가득 찬 카트를 끌고 슈퍼마켓 계산대에 있다고 상상해 볼 수 있다. 뒤에 줄이 길게 늘어났고 카드를 톡톡 두드리라는 화면에서 그대로 했는데 결과는 디클라인(거절)당했다. 다시 시도하라는 화면의 지시에 그대로 했는데 다시 거절당했다면 AI가 일으킨 결과다.

한도를 초과해 과도하게 쓰지도 않았고 의심되는 짓을 한 적도 없지만 은행 컴퓨터 시스템 어딘 가에서 기계가 눈 깜짝할 사이에 고객에 대해 일방적인 결정을 내렸고, 결과는 실수를 저질렀다.

방금 무슨 일이 있었던 것인지 그리고 왜 아무 잘못도 하지 않은 사람들에게 계속 이런 황당한 일이 일어나는 것인지는 인공지능(AI)이 야기한 결과다. 그리고 이것은 드문 오류가 아니라 매일 수백만 명에게 일어나는 일이다. 대부분의 사람들은 왜 이런 일이 일어나는지, 해결하기 위해 무엇을 할 수 있을지 전혀 모른다. 그 해답은 AI로 구동되는 사기 탐지 시스템 안에 있다.

금융 서비스 데이터 시스템이 어떻게 작동하는지 이해하면 때때로 보호해야 할 고객을 실패시키는 이유도 설명할 수 있다. 그만큼 중요한 점은, 본인이나 가까운 사람이 부당하게 낙인 찍혔을 때 알아야 할 사항과 할 수 있는 일을 알아내는 데 도움이 된다.

인공지능(AI) 결제 사기 방지

블록체인 기술과 인공지능(AI)의 융합에 힘입어 결제 산업은 혁신적인 변화를 앞두고 있다. 이런 강력한 기술들은 결제 처리 속도를 향상시키고, 보안을 강화하며, 고객 경험을 개선할 잠재력을 지니고 있다. 하지만 이런 발전과 함께 여러 가지 위험과 과제도 따르고 있다. 특히 AI 분야에서 규정을 준수하는 운영을 보장하기 위해 위험과 과제들을 관리해야 한다. 실시간으로 거래 패턴을 분석하는 AI 알고리즘은 사기 행위를 조기에 감지하고 예방해 사기 위험을 줄이고 거래 보안을 강화하는 데 도움을 준다.

그러나 AI 기술은 악용될 가능성도 있다. 예를 들어, 사이버 범죄자들은 정교한 AI 알고리즘을 사용해 합법적인 거래를 모방함으로써 정상적인 거래와 사기 거래를 구분하기 어렵게 만든다. 블록체인은 데이터 무결성, 추적성, 그리고 AI 시스템 보안을 확보하는 데 중요한 메커니즘으로 입증되고 있다. 블록체인은 조건부 조항으로 코딩된 자동 실행 계약인 스마트 계약을 사용해 작업을 자동화하고 중개자를 제거함으로써 투명성, 신뢰성, 효율성을 향상시킨다.

AI 플랫폼이 발전함에 따라 스마트 계약은 에이전트의 행동을 자율적으로 제어하고 제약하는 데 중요한 역할을 수 있다.

블록체인과 AI는 효율적이고 안전하며 비용 효율적인 솔루션을 통해 국경 간 결제 방식을 혁신할 수 있다. 이를 통해 디지털 통화 또는 스테이블 코인의 실시간 전송이 가능해져 신속하고 저렴한 거래가 가능해지고, AI를 활용해 규제 준수를 지원할 수 있다. AI 기반 웹3 플랫폼은 개인 맞춤형 서비스와 지능형 자동화를 제공하며, 개인정보 보호 기술은 민감한 정보를 노출하지 않고 검증을 수행해 보안을 강화한다.

이런 혁신 기술들은 금융 서비스에 대한 접근성을 높이고, 불변의 투명한 기록을 통해 투명성을 제고하며 신뢰를 구축한다. 또한 신원 확인 및 규정 준수 점검과 같은 프로세스를 자동화해 운영 효율성을 높이고 비용과 거래 시간을 단축한다. 인공지능과 블록체인의 통합은 AI 기반 챗봇, 가상 비서, 프로그래밍 가능한 디지털 자산과 같은 새로운 비즈니스 모델을 지원해 맞춤형 고객 경험과 탄력적이고 효율적인 금융 서비스를 위한 기회를 확대하는 것이 인공지능을 활용한 결제 시스템의 이론적 목표다.

밀리초 단위의 결정

카드를 탭하면, 신호가 깜빡이는 시간 내에 은행의 사기 탐지 시스템으로 전달된다. 결제 시 거래 처리는 AI 시스템 내에서 수백만 건의 결제를 동시에 처리한다. 그 순간에 추출한 수십 가지 특징을 바탕으로 위험 점수를 산출하는 완전 자동화 시스템으로 처리된다. 이런 특징에는 최근 지출 평균과 비교한 거래 금액, 상인의 유형, 지리적 위치, 시간대, 온라인 구매에 사용되는 기기, 그리고 이번 구매가 고객의 과거 패턴과 어떻게 비교되는지도 알려준다.

이 요소들이 모두 입력되면 알고리즘이 실시간으로 구매 점수를 부여한다. 수백만 건의 과거 거래를 기반으로 학습된 모델은 각 특징 조합에 이 거래가 사기일 확률을 할당한다. 그 확률이 임계값을 넘으면 거래가 차단되거나 검토를 위해 경고 표시가 된다. 전체 과정은 200밀리초도 채 걸리지 않는다.

'99% 정확함'은 여전히 수백만 명에게는 작동하지 않는다. 이 기술을 차별화하는 점은 속도다. 금융 기관은 매일 수백만 건의 거래를 처리하는데, 이는 어떤 인간 팀도 효과적으로 모니터링할 수 있는 것보다 훨씬 많은 수치다. 은행에도 사기 분석가가 있지만, 그들의 업무는 완전히 다른 차원에서 이뤄진다. 패턴 검토, 사건 조사, 자동화된 시스템이 이관시키는 분쟁 처리 등이다.

이 새로운 시스템들은 대개 사기를 정확히 적발하는 데 있어 칭찬할 만하다. 오늘날 은행들은 카드 사기로 인한 손실이 머신러닝 이전보다 훨씬 적다. 머신러닝은 오늘날 AI 시스템을 구동하는 기본 기술 중 하나로, 표준이 되기 전이다. 그럼에도 불구하고 '정확하다'는 단어는 문제를 숨기고 있다. 숫자를 생각해 보면 연방거래위원회(FTC)는 2024년에 미국인들이 사기로 인해 125억 달러 이상을 잃었다고 보고했다. 이는 전년 대비 25% 증가한 수치다. 은행들이 그 어느 때보다 많은 거래를 처리함에 따라, 사기꾼들도 그 속도를 따라가고 있다.

특히 주목할 만한 부분이 있다. 세계 최대 결제 처리업체 중 하나인 스트라이프(Stripe)에 따르면, "거짓 거절"(합법적인 거래가 실수로 거부됨)은 업계 전반에 걸친 구조적 문제다. 업계 연구는 이런 거래가 실제 사기보다 금융 시스템에 더 큰 비용을 초래한다고 지속적으로 시사한다. 이 오류들은 무작위가 아니다. 알고리즘이 제대로 훈련하지 않은 사람과 상황 주변에 모여 있다.

한 번도 가본 적 없는 도시에서 휘발유를 사거나 처음으로 큰 임대료를 내는 것은 본질적으로 의심스럽지 않다. 하지만 과거 패턴으로 훈련된 기계에게는 그렇게 보일 수 있다. 더 걱정스러운 일이 있다. 이 알고리즘들은 거의 항상 불균형한 과거 데이터를 통해 학습한다. 거래당 사기 거래가 드물기 때문에, 모델에서는 모든 유형의 고객에서 사기가 어떻게 나타나는지 비교적 사례가 적다.

연구에 따르면 저소득 지역과 유색인종 커뮤니티의 고객들은 잘못된 감소율이 더 높다. 특정 집단이나 상황에서 충분한 거래를 관찰하지 못한 모델은 정확한 기준선을 구축할 데이터가 적다. 그래서 약간 이상한 일이 생기면 의도 때문이 아니라 낯설어서 표시가 된다. 이 모델은 반드시 누구를 명시적으로 차별하는 것은 아니다. 하지만 그 결과물은 여전히 연구자들이 불평등한 피해를 불평등하게 분배하는 현상을 초래할 수 있다.

MIT 연구진이 『공정성과 기계 학습』에서 설명하듯, 이는 알려진 한계다. 불완전 표현으로 훈련된 모델은 가장 적게 관찰된 그룹에 대해 덜 신뢰할 수 있는 성능을 보인다. 해결책은 알고리즘을 탓하는 것이 아니라, 더 나은 대표성 데이터로 알고리즘을 훈련시키고, 배포 전에 다양한 고객 그룹에서 오류율을 테스트하는 것이다.

왜 이유에 대해 설명 받을 권리가 없는지

거래 승인 거부 사건들을 더 악화시키는 것은 이에 대한 아무런 정보도 제시하지 않는다는 점이다. 대출 담당자가 주택 모기지 대출 신청을 거부할 경우, 법은 서면 설명을 요구한다. 하지만 알고리즘이 직불카드를 거절하면 "시스템에 의해 플래그됨" 메시지가 뜬다. 운 좋게도 인간 상담원과 연결된다면, 더 이상 알려줄 수 있는 것은 없다. 이 공백은 우연이 아니다.

대부분의 고성능 사기 모델은 블랙박스에 가깝다. 그들의 내부 논리는 인간의 해석을 위해 설계된 것이 아니다. 은행은 거래 중단 이유를 명확히 설명하지 못할 수도 있다. 그것은 무언가를 숨기려는 것이 아니라, 모델 자체가 이유를 제시하지 않기 때문이고 숫자를 만들어내기 때문이다. 이에 대응해 일부 금융 기관은 알고리즘을 더 투명하게 만드는 도구로 전환하고 있다.

업계에서는 '설명 가능한 AI'로 알려져 있는데, 예를 들어 비정상적인 위치와 비정상적으로 큰 금액이 결합되어 거래가 차단되었음을 알리는 등 결정 뒤에 가장 영향력 있는 요인을 드러내도록 설계하고 있다. 책임을 향한 의미 있는 한 걸음이라 할 수 있다. 하지만 이런 채택은 고르지 못하며, 존재하는 설명도 고객에게 거의 알려지지 않는다. 한편, 이런 압박은 카드가 거절될 때 의미 있는 설명을 요구할 수 있는 일관되고 집행 가능한 권리로 아직 이어지지 않았다.

AI가 내린 결정에 도전하는 것은 매우 어려울 수 있고, 대부분의 사람들은 시도할 권리가 있다는 사실조차 모른다. 대부분의 사람들에게 가장 쉬운 방법은 단순히 떠나거나, 다른 카드로 바꾸거나, 다른 곳에서 사업을 옮기거나, 아무 말도 하지 않는 것이다. 연구에 따르면 거짓 거부를 경험한 소비자의 4분의 1은 해당 가맹점에 다시 방문하지 않는다고 한다.

어떤 사람들은 더 나아가 계좌를 완전히 닫기도 한다. 그 본능은 이해할 만하다. 하지만 숨겨진 대가가 있다. 거절된 거래는 신용 보고서에 나타나지 않지만, 카드를 해지하면 나타난다. 계좌를 해지하면 사용 가능한 신용 점수가 줄고 신용 기록이 단축되어 신용 점수에 직접적인 영향을 줄 수 있다.

지금 당장 할 수 있는 일

사람들이 생각하는 것보다 은행들은 훨씬 더 큰 권력을 갖고 있다.

즉시 은행에 전화한다: 사기 플래그는 확률적인 것이지 최종 결과는 아니다. 은행 담당자는 거절된 거래를 실시간으로 무시할 수 있다. 모델은 추측을 했지만, 인간이 수정할 수 있다. 기다리지 말고 은행에 직접 연락해야 한다.

비정상적인 구매 계획 시 알림을 설정한다: 대부분의 은행은 다가오는 여행, 대규모 구매, 지출 패턴 변화를 알릴 수 있도록 허용한다. 이 방법은 모델을 덮어쓰지는 않지만, 새로운 정보를 제공해 플래그가 처음부터 발동하는 것을 막을 수 있다.

권리확인하기:공정신용청구법(Fair Credit Billing Act)에 따라 잘못된 거래 블록에 대해 이의를 제기하고 설명을 요청할 수 있다. 체계적이고 부당하게 차단되었다고 생각되면, 소비자금융보호국(CFPB)은 소비자 민원을 접수할 수 있다.

은행에 어떤 이의 제기 절차가 있는지 문의: 점점 더 많은 은행들이 고객 대면 이의 제기 서비스를 구축하고 있다. 비자는 2025년 전 세계적으로 1억 600만 건의 분쟁을 보고했고, 이는 2019년 대비 35% 증가한 수치다. 분쟁 관리를 "전략적 우선순위"라고 표현했다. 부적절한 거부는 결제 회사와 금융기관에게도 고객 서비스 비용, 수익 손실, 신뢰 손실 등 큰 비용을 초래한다.

결제를 차단한 알고리즘은 모든 것을 아는 것이 아니거나 중립적인 것이 아니다. 기계가 아마도 처음부터 완벽하게 공정하지 않았던 데이터를 바탕으로 통계적으로 추측하는 것이다. AI가 일상생활 속으로 확산됨에 따라, 누가 이런 결정을 통제하는지, 그리고 사람들이 이를 이의를 제기할 수 있는지에 대한 질문이 더욱 시급해지고 있다. 기술은 계속해서 새로운 영역으로 확장되고 있다. 규칙과 개인의 재정적 유창성도 따라가야 한다.