FIXED INCOME / FIELD NOTES

비용모형을 바꾸자 달라진 강화학습

거래비용을 현실화하면 강화학습 순위도 바뀌는가?

매매비용을 작거나 고정된 값으로 주면 자주 거래하는 정책이 유리해질 수 있다. 연구는 Almgren–Chriss 비용구조와 제곱근 시장충격 법칙을 반영한 환경을 만든다. 주문량에 따라 달라지는 충격과 이후 감쇠, 거래별 기록을 포함해 평가조건을 바꾼다.

NASDAQ-100 환경에서 A2C·PPO·DDPG·SAC·TD3를 비교하자 절대성과와 상대순위, 회전율이 변했다. 특정 설정의 일일 비용은 20만달러에서 8천달러, 회전율은 19%에서 1%로 낮아졌다. 숫자는 같은 알고리즘의 모든 시장 성능이 아닌 논문의 설정별 사례다.

정책은 주어진 보상과 비용에 맞춰 행동하므로 비용모형을 바꾸면 최적 거래빈도도 달라진다. 모형 이름만 비교해 순위를 고르면 학습환경의 영향을 놓친다. 실제 체결과 시장충격은 시뮬레이션과 다를 수 있어 국내 적용은 비용 민감도와 표본외 집행시험을 추가해야 한다.

SCOPE공개 주식 시뮬레이션이다. 비용모형의 설정별 감소를 실거래 성과로 일반화하지 않는다.

Evidence & verification ↓

Sources & evidence

Original passages appear only when checked against the publication. Earlier briefing records are identified separately.

비용모형을 바꾸자 달라진 강화학습0 primary · 2 archived +
EARLIER BRIEFING RECORD

These 2 records come from the earlier briefing, not a newly verified original publication. They are retained in the original briefing below; no primary-source quotation is shown.

Read the earlier record ↓
Publication links ↑
Show the original briefing text

구분: 연구 논문 · 강화학습 실행 · 시장충격 모형
발표일: 2026년 3월 30일
선정: 최신성보다 실행 시뮬레이션의 기술적 가치 때문에 선정

핵심 요약

이 연구는 많은 공개 강화학습 백테스트가 거래비용을 고정값이나 사실상 0으로 놓아, 현실에서 유지되기 어려운 고회전 정책을 학습시킨다는 문제에서 출발한다. 저자들은 Almgren–Chriss 구조와 제곱근 시장충격 법칙을 반영한 세 가지 Gymnasium 환경을 만들고, 영구적 충격의 감쇠와 거래별 로그를 포함했다. arXiv 원문

A2C·PPO·DDPG·SAC·TD3를 NASDAQ-100 환경에서 비교한 결과, 비용 모형을 바꾸자 절대 성과뿐 아니라 알고리즘의 상대 순위와 회전율도 달라졌다. 논문은 특정 설정에서 일일 비용이 20만달러에서 8천달러로, 회전율이 19%에서 1%로 낮아진 사례를 보고하지만 이는 공개 시뮬레이션 결과이므로 실제 시장 성과로 일반화하면 안 된다. 논문의 실험 요약

실무 시사점

RL 실행 모델의 핵심 라벨은 단순 다음 가격이 아니라 구현손실, 체결률, 재고위험, 영구·일시적 시장충격을 함께 반영한 보상함수다. 비용 모형이 알고리즘 순위까지 바꾼다는 결과는 백테스트 엔진이 모델보다 먼저 검증돼야 한다는 뜻이다.

한국 시장 복제 아이디어

국채선물과 현물의 주문장 재생 환경에 주문 크기별 충격, 부분체결, 호가잔량 회복속도, 장중 유동성 구간을 넣는다. TWAP·수동 집행·PPO 정책을 같은 체결 시뮬레이터에서 비교하고, 평균 P&L보다 비용 후 구현손실과 꼬리손실을 운영 기준으로 삼는다.