비교한 glass-box, 즉 구조와 영향경로를 사람이 직접 해석하기 쉬운 모형은 비슷한 정확도에서 예측과 설명이 더 안정적이었다는 결과는 설명가능성도 재현성 검증이 필요함을 보여준다. 한 번 생성한 SHAP 그림만으로 모델을 승인해서는 부족하다.
회사채 PD와 상대가치 모델은 여러 시드·재표본·버전으로 다시 학습해 예측 분산과 설명 순위 일치도를 함께 본다. 정확도가 비슷하면 더 단순하고 안정적인 모형을 기본값으로 두며 설명이 불안정할 때 자동 주문 대신 사람 검토로 넘긴다.
편집 전 브리핑 원문 펼치기
구분: 중앙은행 Working Paper·모델위험 및 설명가능성
발표일: 2023년 9월 1일
선정 이유: 최신성보다 딥러닝 설명 안정성 검증이라는 기술적 가치 때문에 선정
핵심 요약
영란은행 Staff Working Paper No. 1,038은 같은 데이터로 학습하고 설정만 조금 다른 딥러닝 모델들의 예측과 설명이 얼마나 안정적인지 시험했다. 모델들은 비슷한 예측을 내면서도 무작위 시드처럼 자의적인 차이만으로 서로 다른 설명을 제시할 수 있다는 실험 결과를 보고한다. 비교한 전통적 glass-box 모형은 비슷한 정확도를 유지하면서 예측과 설명이 더 안정적이었고, 연구진은 네트워크 분석으로 딥러닝 모델 간 차이를 비교하는 방법을 제안한다. 특정 채권 가격모형의 손익 결과가 아니라 규제 금융기관의 모델 채택과 위험관리에 관한 연구다.
실무 시사점
신용등급·부도확률·채권 상대가치 모델은 점수의 재현성뿐 아니라 설명의 재현성을 별도 통과조건으로 둬야 한다. 설명이 시드나 미세한 구조 변경에 따라 뒤집히면 트레이더와 리스크관리자가 같은 예측에 서로 다른 원인을 붙여 잘못된 헤지나 한도 결정을 내릴 수 있다.
한국 시장 복제 아이디어
회사채 PD와 스프레드 모델을 여러 시드·재표본·모델 버전으로 다시 학습하고 예측 분산, SHAP 순위 일치도와 섹터별 설명 안정성을 함께 기록한다. 정확도가 비슷하면 더 단순하고 안정적인 모형을 기본값으로 두고, 설명 불안정성이 임계치를 넘으면 자동 주문이 아니라 사람 검토로 전환한다.