채권시장 AI·Quant Intelligence 브리핑 — 2026년 8월 8일

전일 브리핑의 ECB SPOT, ECB 기업 AI 도입, AI·시장미시구조 문헌연구, LTX Agentic BondGPT, Quality-Adjusted Hit Ratio는 제외했다. 오늘은 새로운 축으로 ① 거래비용 이후에도 남는 회사채 ML 알파, ② 채권 고유의 carry 구조를 ML에 결합하는 방법, ③ 딥러닝이 반드시 전통 금리모형을 이기는 것은 아니라는 검증, 그리고 ④ Jane Street·⑤ XTX Markets가 공개자료상 ML을 실제 트레이딩 P&L로 연결하는 구조를 골랐다.

특히 4·5번은 회사들이 공개한 사실과 그로부터 제가 도출한 실무적 추론을 명확히 분리했다.

1. The Profitability of Corporate Bond Factors with Transaction Costs

구분: 논문 · SSRN 워킹페이퍼
공개일: 2026년 4월 20일 / 최근 개정 4월 22일
원문: SSRN 원문

핵심 요약

이 논문은 회사채 팩터 전략에서 가장 중요한 질문을 정면으로 다룬다. **“백테스트 알파가 아니라 실제 거래비용을 지불한 뒤 얼마가 남는가?”**다.

저자들은 관측 가능한 회사채 팩터와 IPCA로 추출한 잠재 팩터를 대상으로 Bayesian 방식으로 거래비용을 추정한다. 마찰을 무시하면 20개 관측 팩터가 수익성이 있지만 현실적 거래비용을 적용하면 20개 중 단 하나만 살아남는다. IPCA 전략 역시 살아남기는 하지만 표본외 tangency portfolio의 Sharpe가 마찰 없는 7.80에서 거래비용 반영 후 2.25까지 크게 하락한다.

실무 시사점

채권 트레이딩: ML 연구에서 prediction IC → gross P&L까지만 보면 거의 의미가 없다. 최소한 expected alpha − bid/ask − market impact − financing − execution delay를 목표변수에 가깝게 취급해야 한다.

시장미시구조: ML이 발견하기 쉬운 이상가격일수록 유동성이 낮아 실제 거래비용이 높은 경우가 많다. 즉 가장 높은 예측 알파와 가장 높은 실현 알파의 종목 순위가 다를 수 있다.

리스크관리: 모델 출력값을 기대수익 하나로 두지 말고 E[P&L], E[Cost], P(fill), liquidity tail risk를 별도 추정하는 것이 좋다.

한국 적용: 민평 대비 괴리율이 큰 종목을 고르는 모델을 만들더라도 실제 체결 데이터로 비용함수를 따로 학습해야 한다. 회사채뿐 아니라 국고 경과물·본드스왑 상대가치에서도 동일하다.

데스크 적용 우선순위: ★★★★★

2. Harness Machine Learning with Carry

구분: 논문 · SSRN 워킹페이퍼
공개일: 2026년 1월 28일
원문: SSRN 원문

핵심 요약

이 연구의 아이디어는 단순하지만 채권에서는 매우 중요하다. 총수익률 전체를 AI에게 예측시키지 말고, 이미 경제적으로 계산 가능한 carry는 사람이 계산하고 나머지 가격변화만 ML에게 맡긴다.

2.5백만 건 이상의 미국 회사채 월별 관측치를 이용해 expected return = carry + ML-predicted residual price return 구조를 만든 결과, 총수익률을 end-to-end로 바로 예측하는 전통적인 ML보다 표본외 예측력이 개선됐다. 다만 gross return은 의미 있게 높았지만 거래비용을 적용하면 수익성이 상당 부분 사라졌다. 특히 ML 알파가 시장 유동성이 낮은 기간에 집중돼, 모델이 영구적인 risk premium보다 일시적 liquidity mispricing을 잡고 있을 가능성을 제시한다.

실무 시사점

이 논문의 설계철학은 꽤 중요하다.

채권 손익 = Carry + Roll-down + Duration P&L + Convexity + Spread/RV P&L

중 AI가 모든 항을 다시 배울 필요는 없다. Carry·DV01·roll-down처럼 이미 deterministic하게 계산 가능한 부분을 먼저 제거하고, 설명되지 않는 residual P&L만 ML에게 학습시키는 편이 데이터 효율과 해석가능성 측면에서 훨씬 좋을 수 있다.

예를 들어 국고 10/30 전략이라면

실제 P&L − carry − roll − hedge P&L

을 target으로 하고, 여기에 호가 imbalance / 외국인 수급 / 입찰 상태 / 선현 베이시스 / 미국 커브 / event state를 넣는 방식이다.

이는 채권 손익을 캐리·롤다운·DV01 등으로 분해하는 기존 데스크 프레임과 정확히 맞는다.

데스크 적용 우선순위: ★★★★★

3. Yield Curve Forecasting using Machine Learning and Econometrics: A Comparative Analysis

구분: 논문 · arXiv 프리프린트
발표일: 2026년 5월 11일
원문: arXiv 원문

핵심 요약

47년의 미국 Treasury 일별 데이터를 이용해 ARIMA·전통 시계열모형, ensemble ML, RNN, Transformer, TimeGPT 등을 광범위하게 비교한다. 상당히 흥미롭게도 복잡한 딥러닝 모델이 일관되게 이기지 않는다.

전체 기간에서는 ARIMA와 단순 econometric benchmark가 대체로 가장 강했고, ML 중에서는 TimeGPT, LightGBM, RNN이 상대적으로 좋은 성능을 기록했다. 연구는 비정상 시계열을 그대로 입력할지 차분·정상화해서 넣을지에 따른 차이도 분석한다. 즉 yield forecasting은 “Transformer니까 우월하다”는 문제가 아니라 horizon·regime·target transformation에 크게 좌우된다.

실무 시사점

금리 트레이딩: 딥러닝 모델을 개발할 때 반드시 random walk / AR / DNS / PCA 같은 단순 benchmark를 살아 있게 유지해야 한다.

모델 앙상블: 전 구간에서 하나의 모델을 고르는 것보다 레짐 → 모델 선택이 더 합리적일 수 있다. 예컨대 정상 시장에서는 AR/DNS, 이벤트 전후에서는 LGBM/RNN처럼 model routing을 시도할 수 있다.

리스크관리: 딥러닝의 RMSE가 조금 좋더라도 방향성 포지션의 turnover와 tail loss가 크면 사용할 이유가 없다.

한국 적용: 국고 3·5·10·20·30년을 대상으로 AR/DNS/PCA → LightGBM → RNN/Transformer 순으로 benchmark ladder를 만든 뒤, RMSE가 아니라 DV01 가중 OOS P&L로 비교하는 것이 적절하다.

데스크 적용 우선순위: ★★★★☆

Quant Firm Intelligence

4. Jane Street — “Deep learning models that power our trading strategies”

구분: 회사 공식 ML 페이지·채용자료
게시일: 페이지 자체 게시일 미표기 / 2026년 8월 8일 현재 공개 확인
원문: Jane Street Machine Learning

공개적으로 확인되는 사실

Jane Street는 공식적으로 **“deep learning is the future of quantitative trading”**이라고 밝히고 있으며, ML팀이 trading strategy를 구동하는 neural-network model과 이를 위한 training·inference infrastructure를 만든다고 설명한다.

회사는 금융 데이터의 특징으로 낮은 signal-to-noise ratio, 구조적 regime 변화, 그리고 자기 자신의 거래행위가 이후 학습 데이터에 영향을 주는 reflexivity를 명시하고 있다. 또한 현재 수만 개의 high-end GPU를 사용하며, 한 Texas 데이터센터에는 4,032개의 liquid-cooled GPU가 있다고 공개한다.

Quant Trader 교육 설명은 더 구체적이다. Jane Street는 시장데이터에서 tradable fair value를 만들고, 알고리즘을 시장구조에 맞게 최적화하는 과정을 실제 quantitative trading workflow의 일부로 설명한다.

수익 메커니즘 — 추론

비밀 전략은 공개되지 않는다. 다만 공개된 내용을 조합하면 상당히 명확한 구조가 보인다.

시장상태 → ML fair value → 상대적으로 잘못 가격된 주문/상품 탐지 → position/execution 결정 → production trade → 결과를 다시 학습

여기서 중요한 것은 “내일 10년 금리를 맞힌다”가 아니다. 미세한 conditional fair value를 매우 많은 상품과 시점에서 반복해서 개선하면 조금 더 좋은 가격결정·조금 더 좋은 체결·조금 더 좋은 재고관리가 누적된다.

한국 채권시장에 복제한다면

Jane Street 방식에서 가장 복제 가치가 높은 것은 모델 자체보다 학습 루프다.

호가 5단계 + 선물 + 현물 + basket + 외국인 + 체결 → fair value → action → 실제 체결 → mark-out → 다시 학습

특히 각 거래마다 1초·10초·1분·5분 후 mark-out을 보관하면 어떤 신호가 실제 가격발견에 기여했는지 학습할 수 있다.

가장 중요한 교훈:
큰 딥러닝 모델을 사오는 것이 아니라, 모델이 매일 자기 거래 결과를 다시 학습할 수 있는 데이터 구조를 만드는 것이 먼저다.

복제 난이도: ★★★★☆
복제 가치: ★★★★★

5. XTX Markets — ML Fair Value → Risk Warehousing → Low-impact Liquidity

구분: 회사 공식 기술·사업자료
게시일: 페이지 게시일 미표기 / 2026년 8월 8일 현재 공개 확인
원문: XTX Markets 공식 사이트

공개적으로 확인되는 사실

XTX Markets는 공개자료에서 머신러닝으로 53,000개 이상의 금융상품 가격을 예측한다고 명시한다. 대상은 주식뿐 아니라 fixed income, FX, commodities, crypto를 포함한다. 이 예측을 거래소·ATS에서 직접 거래하는 데 사용하고, 고객에게 유동성을 공급하는 데도 활용한다. 현재 공개된 연구 인프라는 25,000개 이상의 GPU와 1EB 이상의 usable storage 규모다.

XTX의 고객사업 설명은 수익화 메커니즘을 더 직접적으로 보여준다. 회사는 ML 기반 fair market value의 정확성을 바탕으로 고객 주문을 받은 뒤 리스크를 일정 기간 보유하며, 즉시 시장에 던지지 않음으로써 낮은 market impact의 유동성을 제공한다고 설명한다.

또 2026년 규제 공시에서는 position/order limits, pre/post-trade control과 holding-period 제한으로 시장위험을 관리한다고 밝히고 있다. 즉 ML 가격예측과 risk warehousing 뒤에는 별도의 deterministic risk-control layer가 존재한다.

돈을 버는 구조 — 공개자료에 기반한 추론

XTX의 공개자료에서 오늘 브리핑 전체 중 가장 중요한 구조를 뽑으면 이것이다.

Better Fair Value
→ 더 경쟁력 있는 Quote
→ 더 높은 Fill/Flow
→ 고객 주문을 즉시 헤지하지 않아도 되는 Risk Capacity
→ Market Impact 감소
→ Spread + Inventory P&L

즉 AI의 가치는 forecast accuracy 자체에서 끝나지 않는다.

예를 들어 고객이 채권을 팔아 왔을 때 XTX가 해당 자산의 fair value를 경쟁사보다 정확하게 안다면, 일시적으로 inventory를 들고 기다릴 수 있다. 고객 flow를 받은 직후 모두 반대매매하지 않으니 자신의 hedge impact도 줄어든다.

“예측 정확도 → 리스크 보유 능력”으로 전환되는 순간 ML이 시장조성 수익원이 된다.

한국 채권시장에 복제한다면

가장 현실적인 버전은 다음이다.

K-Bond/RFQ → ML Fair Value → Expected Fill Probability → Expected Mark-out → Inventory/DV01 → Quote

예를 들어 어떤 기관이 국고 10년물을 매도 문의하면 단순히 “현재 민평 −0.5bp”가 아니라,

Fair value: 3.421%
고객 제시: 3.424%
P(fill): 67%
10초 예상 mark-out: +0.4bp
현재 inventory: Long DV01 +2,500만원
recommended quote: 3.425%

처럼 의사결정해야 한다.

이 구조는 상대가치 전략에서 액면이 아니라 DV01 기준으로 위험을 중립화해야 한다는 국내 채권 운용의 기본 원리와도 바로 연결된다.

복제 난이도: ★★★★★
복제 가치: ★★★★★

오늘의 데스크 결론

오늘 자료를 연결하면 세계 상위 퀀트 회사의 AI와 학술논문의 방향이 점점 같은 곳으로 수렴한다.

학술 연구 쪽에서는

ML forecast → 거래비용을 빼면 사라지는 알파

가 반복적으로 확인되고 있다. 반면 Jane Street·XTX가 공개하는 production workflow는 애초에 예측을 독립 문제로 취급하지 않는다.

결국 실제 시스템은 이렇게 가야 한다.

State → Fair Value / Expected Return → Fill Probability → Expected Mark-out → Expected Trading Cost → Inventory / DV01 → Action → Actual P&L → 다시 학습

여기서 개인적으로 오늘 가장 중요한 포인트는 Expected Return Model만 만드는 프로젝트를 피해야 한다는 것이다.

오히려 네 개 모델이 필요하다.

1. Fair Value Model — 지금 적정 가격은 얼마인가
2. Alpha Model — 가격이 어느 방향으로 얼마나 움직일 것인가
3. Execution Model — 이 가격에 주문하면 체결될 확률은 얼마인가
4. Risk/Action Model — 현재 포지션에서 실제로 어떤 행동을 해야 하는가

그리고 가장 마지막의 DV01 limit·stop-loss·auto hedge·kill switch는 ML 밖에 두는 것이 좋다.

현재 내부 개발 계획에서 이미 목표로 잡고 있는 선행 호가 벡터 → 후행 손익 → 가능한 행동별 projection → 포지션·한도와 결합한 최적정책 구조는 이 방향과 상당히 잘 맞는다. 특히 틱 단위 5호가, 잔량·취소·체결, 3·10년 선물, 현선 베이시스, 바스켓 이론가와 손익을 event-time으로 축적하겠다는 데이터 계층이 먼저 갖춰져야 한다.

오늘 한 편만 읽는다면: Harness Machine Learning with Carry
백테스트 시스템을 만들고 있다면: The Profitability of Corporate Bond Factors with Transaction Costs
“상위 퀀트가 ML로 어떻게 돈을 버나”에 가장 가까운 공개자료: XTX Markets의 Fair Value → Risk Warehousing 구조다.