인공지능이 금융회사의 핵심 업무에 활용되면서 내부통제의 대상도 달라지고 있다. 과거의 내부통제가 주로 임직원의 위법행위와 금융사고를 예방하는 데 초점을 두었다면, 이제는 데이터와 알고리즘, 자동화된 의사결정에서 발생할 수 있는 위험까지 관리해야 한다.
금융에서 AI의 판단은 소비자의 권리와 재산에 직접 영향을 줄 수 있다. AI는 금융상품 추천, 대출·보험 심사, 보험금 지급과 이상거래 탐지 등에 활용된다. 이 과정에서 오류나 편향이 발생하면 단순한 기술적 문제를 넘어 소비자의 거래 기회와 계약상 권리가 침해될 수 있다.
올해 1월부터 시행된 AI 기본법은 고영향 인공지능 관련 사업자에게 위험관리방안 마련, 설명방안 수립, 이용자보호 등 안전성과 신뢰성을 확보하기 위한 책무를 부과하고 있다. 금융분야 인공지능 가이드라인도 금융회사가 의사결정기구와 위험관리 전담조직을 마련하고 AI의 기획·개발·검증·운영 전 과정에서 위험을 관리할 수 있도록 원칙과 기준을 제시하고 있다.
그러나 조직과 규정을 마련하는 것만으로는 충분하지 않다. 금융회사가 구축해야 하는 것은 형식적인 AI 관리체계가 아니라 소비자에게 미칠 위험을 사전에 발견하고 통제하는 소비자보호형 내부통제다.
먼저 AI 위험등급을 정하는 기준이 명확해야 한다. 기술의 복잡성이나 모델 규모만으로 위험성을 판단해서는 안된다. AI의 판단이 소비자의 거래가능 여부, 계약조건, 대출승인이나 보험금 지급처럼 재산상 권리에 얼마나 중대한 영향을 미치는지를 함께 평가해야 한다.
사내 문서 작성이나 정보 검색을 지원하는 AI와 대출승인이나 보험인수 여부를 판단하는 AI를 같은 수준으로 관리할 수는 없다. 소비자에게 중대한 영향을 주는 AI는 높은 위험등급으로 분류해 강화된 검증과 승인 절차를 적용해야 한다. 반면 소비자에게 직접 영향을 주지 않는 업무지원 AI에는 위험 수준에 맞는 관리절차를 적용할 수 있다.
AI 기본법상 고영향 인공지능과 금융회사가 자체 평가를 통해 고위험으로 분류한 AI도 구분해야 한다. 전자는 법률이 정한 적용대상이고 후자는 회사가 업무 특성과 소비자 영향을 고려해 정하는 내부 위험등급이다. 법률상 고영향 AI가 아니더라도 소비자에게 중대한 불이익을 줄 수 있다면 높은 위험등급으로 관리할 필요가 있다.
위험등급은 단순한 분류에 머물러서는 안 된다. 등급에 따라 검증 범위, 배포 심의, 점검 주기와 보고 수준이 달라져야 한다. 고위험 AI는 사업부서의 자체 검토만으로 배포하지 않고 위험관리, 준법감시, 소비자보호 등 관련 부서의 독립적인 검증과 경영진 차원의 승인을 거치도록 해야 한다.
금융소비자보호법을 비롯한 관련 법규의 위반 가능성과 소비자 권리 침해 위험도 사전에 점검해야 한다. 상품추천 AI가 소비자의 필요보다 금융회사의 판매이익이 큰 상품을 우선 제시하거나, 상담 AI가 불리한 조건과 중요사항을 누락한다면, 설명의무, 적합성·적정성 원칙, 부당권유 금지뿐 아니라 이해상충 방지와 소비자 이익 우선 원칙의 문제가 될 수 있다.
책임구조도 분명해야 한다. 어떤 부서가 AI를 기획하고 개발하는지, 누가 위험을 평가하고 배포를 승인하는지, 문제가 발생하면 누가 서비스 제한이나 중단을 결정하는지를 미리 정해야 한다. 고위험 AI에는 최종 승인권자, 예외처리 권한자, 긴급중단 결정권자를 지정하고 이를 내부규정과 업무분장에 명시해야 한다.
AI 모델의 변경관리도 중요하다. 처음 도입할 때 엄격히 검증했더라도 데이터, 알고리즘, 판단기준이나 외부 AI 모델이 바뀌면 위험 수준도 달라질 수 있다. 중요한 변경은 소비자 영향과 위험등급을 다시 평가하고 관련 부서의 재검증과 의사결정기구의 재승인을 거쳐야 한다.
운영단계에서는 위험지표와 허용한도를 지속적으로 관리해야 한다. 반복적인 오류나 소비자 피해 징후가 기준을 넘으면 원인분석, 재검증, 승인권자 보고와 시정조치가 이어져야 한다. 중대한 위험에는 서비스 제한 및 중단이나 사람의 직접 처리로 전환하는 절차가 필요하다. 내부통제는 피해가 발생한 뒤 보고하는 절차가 아니라 피해가 확산되기 전에 작동하는 장치여야 한다.
금융회사의 AI 경쟁력은 우수한 모델을 먼저 도입하는 데에서만 나오지 않는다. 소비자 위험을 정확히 평가하고 책임있는 부서가 통제하며 문제가 발생했을 때 신속히 제한하고 개선하는 능력도 경쟁력이다. 소비자보호형 내부통제가 갖춰질 때 AI 금융은 속도와 편의성을 넘어 책임있는 금융혁신으로 발전할 수 있다.
최미수 서울디지털대학교 세무회계학과 교수
저작권자 © 온라인 경제미디어 뉴스웨이 · 무단 전재 및 재배포 금지
);){kind=link}
댓글