예측모형이 빨라도 market data부터 주문전송까지 이어진 경로가 느리면 어떤 일이 생길까? Jane Street는 단일 CPU core에서 초당 수백만 multicast message를 처리하는 입력단과 ML 추론을 같은 performance engineering 문제로 다룬다. 시장이 움직인 뒤 나온 정확한 예측은 주문결정에 쓸 수 없기 때문이다.
학습단에서는 GPU만 보지 않고 storage, network와 host를 포함한 전체 training run을 profiling한다. 실거래 추론은 사람 응답시간의 throughput 문제가 아니라 microsecond-scale latency 문제라서 optimized CUDA, custom hardware와 compiler까지 설계범위가 넓어진다. 평균 처리량보다 각 단계의 tail과 동기화 비용이 중요해진다.
채권 자동집행은 feed 수신, feature 계산, inference, risk gate와 주문전송을 공통 trace ID로 연결해야 한다. 한 단계를 빠르게 한 뒤 병목이 다른 단계로 이동하는지, 극단꼬리 지연에서 의사결정이 stale해지는지를 함께 봐야 한다. 공개자료는 특정 전략의 개선폭이나 수익효과를 제시하지 않는다.
SCOPEJane Street의 공식 기술설명으로 구체적인 모델, latency 개선수치, 장애율과 전략 P&L은 공개하지 않았다. 페이지의 최초 발표일도 확인되지 않았다.
Evidence & verification ↓Sources & evidence
Original passages appear only when checked against the publication. Earlier briefing records are identified separately.
Performance engineering at Jane Street3 primary · 0 archived +
단일 CPU core에서 초당 수백만 multicast message를 처리하는 시스템을 운영한다고 설명한다.
ORIGINAL PASSAGEmillions of multicast messages per second on a single corePerformance engineering at Jane Street, Keeping up with the market, accessed 2026-11-01거래를 구동하는 모델은 microsecond-scale 추론지연을 요구한다.
ORIGINAL PASSAGEour models drive microsecond-scale tradingPerformance engineering at Jane Street, Accelerating machine learning, accessed 2026-11-01GPU 학습성능은 storage·network·host를 포함한 전체 stack을 profiling하고 최적화한다.
ORIGINAL PASSAGEprofiling and optimization of our training runsPerformance engineering at Jane Street, Accelerating machine learning, accessed 2026-11-01Show the original briefing text
구분: Jane Street 공식 기술자료·마이크로초 ML 추론과 전구간 프로파일링
발표일: 미확인
선정 이유: 최신성보다 모델학습부터 시장데이터 처리·추론까지 latency budget을 연결하는 production 기술 설명 때문에 선정했다. 채용공고가 아니다.
핵심 요약
Jane Street 원문은 단일 CPU core에서 초당 수백만 multicast message를 처리하는 시장데이터 경로와 microsecond-scale ML 거래 추론을 함께 설명한다. GPU 학습은 storage·network·host 전체를 profiling하고, 추론은 optimized CUDA, custom hardware와 compiler까지 사용한다. 이는 production 제약을 설명한 공식 기술자료이며 전략별 latency 개선치나 P&L은 공개하지 않았다.
실무 시사점
연구환경의 평균 GPU 사용률이 높아도 실거래 경로의 tail latency가 길면 가격예측의 유효시간을 놓친다. 데이터 수신, feature 계산, model inference, risk gate와 주문전송을 하나의 trace로 연결해야 병목이 이동하는 것을 볼 수 있다. 평균보다 p99·p99.9 지연, 결정론적 재현과 장애 직전 trace가 중요하다.
한국 시장 복제 아이디어
국채선물·현물 자동집행 경로에 공통 trace ID를 부여하고 feed 수신부터 주문응답까지 단계별 시간을 기록한다. CPU baseline, GPU batch, kernel fusion과 FPGA 전처리를 같은 예측모형으로 비교해 p50·p99·p99.9 latency, stale-decision 비율, 처리량, 전력과 비용차감 markout을 평가한다.
오늘의 데스크 결론
오늘 자료는 AI를 production에 넣을 때 권한, 보상과 시간예산을 함께 설계해야 한다는 점을 보여준다. 금융회사는 agent의 고위험 행동을 좁게 열고 있으며, 시장조성 연구는 재고손실이 어느 역할의 보상에 귀속되는지에 따라 학습이 달라진다. 연구 자동화와 저지연 인프라도 후보 수나 GPU 규모보다 중복통제, holdout과 end-to-end tail latency로 평가해야 한다.