AI 불완전판매 검증할 '테스트베드' 구축…금융대화도 AI 데이터로 확대적용

인공지능(AI)이 금융 상품을 추천하고 판매하는 행위 규정을 담은 가이드라인이 올 상반기에 나온다. 이를 위해 금융당국은 AI 알고리즘의 유효성을 검증할 테스트베드(시험장)를 구축하기로 했다.
13일 금융위원회는 '제7차 디지털금융 협의회'를 열어 금융의 디지털화에 따른 위험요인을 점검하고 금융분야 AI 운영 가이드라인 마련을 위한 연구용역 결과를 토대로 향후 추진 계획을 논의했다.
회의를 주재한 도규상 금융위 부위원장은 "AI는 인간보다 빠르게 더 많은 정보를 처리함으로써 의사결정의 효율성을 높이지만 의사결정의 편향성 등 공정성 이슈가 제기될 수 있다"며 "양자 간 조화를 이룰 수 있도록 운영 가이드라인을 만들겠다"고 말했다. 그는 "2분기 중 금융분야 AI 가이드라인을 준비하고 금년 중 금융업권별 실무지침도 단계적으로 마련할 예정"이라고 덧붙였다.
현재 AI는 금융 분야에서 로보어드바이저와 알고리즘 거래, 고빈도거래(HFT), 챗봇, 신용평가와 대출·보험 심사, 사기탐지(FDS) 등에 다양하게 활용되고 있다. 하지만 금융투자 분야 등 일부를 제외하고는 AI 규정이 명확하지 않은 상황이다.
서울대 산학협력단이 수행한 AI 운영 가이드라인 연구용역 보고서는 AI가 금융상품을 판매할 때 설명의 의무를 준수할 수 있도록 실증적으로 검증하는 'AI 설명 테스트베드'를 구축할 것을 제안했다. AI알고리즘이 불완전판매를 하지 않도록 유효성을 검증해야 한다는 취지다.
연구용역 보고서는 또 금융상품 판매 시 주로 사용되는 전문적 내용이 축적된 말뭉치 데이터세트, AI 학습·교육용 인조 합성데이터 등 빅데이터 인프라를 정부가 공공재 성격으로 구축해 공개할 것을 제안했다. 이를 통해 개별 금융기관이 각자 자체적으로 보유한 데이터만으로 AI를 개발할 때 생기는 한계를 보완하자는 것이다.
이어 보고서는 공정성 평가와 관련해 금융소외계층의 금융 접근성을 높여야 할 때는 결과적 평등 기준을, 대출 심사 등 금융거래 기회를 제공할 때는 기회의 평등 기준을 적용하는 등 맥락에 따라 유연하게 평가해야 한다고도 조언했다.
이날 디지털금융 협의회에서는 디지털금융 확산에 따른 경쟁 심화와 금융사 수익성 약화, 비금융 부문 신용위험의 금융부문 전이 가능성, 탈(脫)은행화 가속에 따른 통화정책 영향의 약화 가능성 등 리스크 요인도 논의됐다.
도 부위원장은 "비금융회사가 금융업을 영위하는 과정에서 리스크 전이나 그림자 금융과 같은 위험요인을 모니터링하겠다"며 "AI 기술을 활용해 새로운 유형의 금융 범죄에 대응하고 소비자보호 등에도 선제적으로 대비할 것"이라고 말했다.
지난해 9월 출범한 디지털금융협의회는 앞으로 플랫폼·오픈뱅킹, 규제혁신, 데이터공유, 금융보안 등 4개 분과 회의체로 확대·개편된다. 분과회의는 분기마다, 전체회의는 반기마다 1회 이상 개최해 디지털 금융 전반의 과제를 논의할 예정이다.
[윤원섭 기자]