금융시스템 위협하는 인공지능···리스크 대응 조직 시급

경로의 획일성과 규제 공백이 시스템 위험 유발

"AI윤리 전담 기관 설립해 리스크 모니터링해야"

인공지능 확산이 금융 시스템 안정을 저해할 수 있는 만큼 대응 체계를 구축해야 한다는 제언이 나왔다. 그래픽=홍연택 기자 ythong@

금융업 전반에 자리 잡은 인공지능(AI)이 시스템 안정을 저해할 수 있는 만큼 정부와 학계, 업계를 중심으로 대응 체계를 구축해야 한다는 주장이 나왔다. 획일성과 상호연결성 그리고 규제공백 등 AI가 지닌 허점이 시장참여자의 의도와 무관하게 문제를 확산시키면서 위험을 키울 수 있다는 판단에서다.

연태훈 한국금융연구원 선임연구위원은 최근 펴낸 '금융안정에 대한 AI의 잠재적 위협과 관리 방안의 모색' 보고서를 통해 이 같이 밝혔다.

보고서에서 연태훈 선임연구위원은 기술의 오용이나 알고리즘 오작동, 의도된 잘못이 없더라도 AI 확산을 통해 금융시스템에 위기를 촉발할 수 있다고 진단했다.

특히 연태훈 연구위원은 '획일성'에 주목했다. 소수의 데이터 취합·관리 기관에 대한 의존도가 커지면서 여러 AI가 사용하는 데이터가 수렴하게 되면, 각 모형의 예측 간에 높은 상관관계가 나타나고 군집행동으로 이어질 수 있다는 게 그의 견해다.

연 연구위원은 "다수의 AI와 시장참여자가 유사한 결정을 내리게 됨에 따라 시장에서 획일적인 결과가 발생할 수 있다"면서 "결정 자체가 합리적일 수도, 아닐 수도 있지만 이러한 행위가 시장을 지배하면 경기순응성 위험 또는 시장 급등락을 초래할 수 있다"고 설명했다.

다수의 AI가 이익 극대화를 목표로 취하는 합리적이지만 획일적인 행동이 시장을 더욱 빠르게 침체 혹은 과열시키는 악순환을 만든다는 의미다.

금융회사가 자체적으로 AI 모형을 개발하더라도 상황은 크게 다르지 않다. AI 서비스나 '구독형 AI'와 같은 외부 업체의 모형을 이용하는 경우가 많아 시장은 결국 지배력을 가진 소수의 AI 기업을 중심으로 재편될 수 있다.

연 연구위원은 감독체계가 그 변화에 따라가지 못하고 있다는 점도 짚었다. 그는 "당국은 시스템 위험 요인이 임계치까지 누적되는 상황을 간파하지 못할 가능성이 있다"면서 "금융회사의 보다 핵심적인 업무 프로세스에서 AI 활용이 증가할수록 감독당국이 금융회사의 건전성이나 유동성 문제들 혹은 위기의 전조를 파악하기가 어려워지게 될 것"이라고 내다봤다.

그러면서 연 연구위원은 이를 방지하기 위해선 관련 위험을 모니터링하고 선제적으로 대응하기 위한 기구를 신설하거나 그 업무를 담당할 기관을 지정해야 한다고 주장했다.

그는 "해결 방안을 모색하기 위한 금융당국과 학계, 업계, 기타 금융 관련 비금융 회사 공동의 노력이 필요하다"면서 "금융에서의 AI 윤리 문제를 전담하는 기관을 설립하거나, 해당 업무를 업권별 협회 등에 위탁할 필요가 있다"고 강조했다.

이어 "금융회사가 사용하는 모든 내부 데이터와 소프트웨어 간의 관계도, 나아가 모든 외부 데이터와 소프트웨어 간의 관계도를 작성하고 취합해 시스템 의존도 등에 대한 조감도를 구성해야 한다"면서 "이를 통해 특정 부문에 대한 과도한 의존도를 확인하고 전체 시스템을 대상으로 하는 스트레스 테스트를 수행할 수 있을 것"이라고 제언했다.

아울러 그는 "규제와 감독 규정, 대상, 방법 등을 금융에서의 AI 확산에 부응해 업데이트하는 노력을 경주해야 한다"면서 "당국이 부과하는 규제가 기술 중립적이라고 하더라도 부지불식 중 획일성을 확산시킬 수 있다는 가능성을 인식하고, 금융회사나 비금융회사에 복수의 규제순응 방식을 제안하는 것도 검토 가능하다"고 언급했다.