같은 수치를 예측해도 어떤 입력 때문에 그 결과가 나왔는지에 대한 설명은 다를 수 있다. 영란은행 연구는 같은 자료에 설정을 조금 바꾼 딥러닝 모델들을 학습했다. 예측 정확도뿐 아니라 각 모델이 제시하는 설명이 얼마나 일치하는지 시험한다.
무작위 초기값을 정하는 시드 같은 자의적 차이만으로 비슷한 예측에 서로 다른 설명이 나왔다. 비교한 전통적 glass-box 모형은 내부 관계를 직접 읽는 구조이며 비슷한 정확도에서 예측과 설명이 더 안정적이었다. 모든 모델에 동일한 우위를 선언한 결과는 아니다.
연구진은 모델 간 차이를 네트워크 분석으로 비교하는 방법도 제안한다. 설명을 하나 표시하는 것과 설명이 반복 학습에도 유지되는 것은 다르다. 규제와 위험관리에는 정확도에 더해 설명의 재현성을 점검해야 하며 이 실험은 실제 채권 손익을 검증하지 않는다.
SCOPE비교한 자료와 모형의 실험결과다. 모든 해석기법·딥러닝에 대한 일반적인 열위 판정이 아니다.
Evidence & verification ↓Sources & evidence
Original passages appear only when checked against the publication. Earlier briefing records are identified separately.
같은 예측인데 달라지는 설명0 primary · 1 archived +
These 1 records come from the earlier briefing, not a newly verified original publication. They are retained in the original briefing below; no primary-source quotation is shown.
Read the earlier record ↓Show the original briefing text
구분: 중앙은행 Working Paper·모델위험 및 설명가능성
발표일: 2023년 9월 1일
선정 이유: 최신성보다 딥러닝 설명 안정성 검증이라는 기술적 가치 때문에 선정
핵심 요약
영란은행 Staff Working Paper No. 1,038은 같은 데이터로 학습하고 설정만 조금 다른 딥러닝 모델들의 예측과 설명이 얼마나 안정적인지 시험했다. 모델들은 비슷한 예측을 내면서도 무작위 시드처럼 자의적인 차이만으로 서로 다른 설명을 제시할 수 있다는 실험 결과를 보고한다. 비교한 전통적 glass-box 모형은 비슷한 정확도를 유지하면서 예측과 설명이 더 안정적이었고, 연구진은 네트워크 분석으로 딥러닝 모델 간 차이를 비교하는 방법을 제안한다. 특정 채권 가격모형의 손익 결과가 아니라 규제 금융기관의 모델 채택과 위험관리에 관한 연구다.
실무 시사점
신용등급·부도확률·채권 상대가치 모델은 점수의 재현성뿐 아니라 설명의 재현성을 별도 통과조건으로 둬야 한다. 설명이 시드나 미세한 구조 변경에 따라 뒤집히면 트레이더와 리스크관리자가 같은 예측에 서로 다른 원인을 붙여 잘못된 헤지나 한도 결정을 내릴 수 있다.
한국 시장 복제 아이디어
회사채 PD와 스프레드 모델을 여러 시드·재표본·모델 버전으로 다시 학습하고 예측 분산, SHAP 순위 일치도와 섹터별 설명 안정성을 함께 기록한다. 정확도가 비슷하면 더 단순하고 안정적인 모형을 기본값으로 두고, 설명 불안정성이 임계치를 넘으면 자동 주문이 아니라 사람 검토로 전환한다.