Jane Street의 GPU 성능 개선

구분: Jane Street 공식 기술강연 · Machine Learning Engineering
공개: 2026년 현재 공식 공개
선정 이유: 최신성보다 기술적 가치 때문에 선정. 채용자료가 아니라 실제 ML 엔지니어링 강연이다.

확인 가능한 사실

Jane Street의 Sylvain Gugger와 Corwin de Zahr는 공식 tech talk에서 neural-network training에서 GPU의 theoretical FLOPS보다 실제 병목을 제거하는 engineering이 중요하다고 설명한다. CPU 작업과 GPU 작업을 overlap하고, 여러 operation을 하나의 kernel로 합치는 kernel fusion, custom GPU kernel 작성 등 실제 training throughput 개선기법을 상세히 다룬다. Jane Street 공식 기술강연

Jane Street의 현재 ML 공식 페이지를 보면 ML 연구환경 자체도 상당히 크다. 최신 공개 기준 데이터는 petabyte 규모이고, 수십만 CPU core와 수만 개 high-end GPU로 성장하는 cluster를 ML 연구에 사용한다고 명시한다. Jane Street Machine Learning 공식 페이지

Jane Street는 동시에 non-stationary data와 competitive multi-agent environment를 trading ML의 핵심 어려움으로 명시하고 있으며, 특정 model family를 고집하지 않고 문제에 따라 linear model부터 deep learning까지 선택한다고 설명한다.

공개자료 기반 추론

이 자료에서 중요한 P&L 메커니즘은:

GPU Optimization → training time ↓
→ experiment throughput ↑
→ model iteration ↑
→ 시장변화에 대한 adaptation 속도 ↑
→ alpha decay 전에 deploy할 확률 ↑

다.

즉 top-tier quant가 수만 GPU를 보유하는 이유를 단순히 **“더 큰 neural net을 만들기 위해서”**라고 보면 부족하다.

실제로 더 중요한 것은:

Time-to-Experiment 와 Time-to-Production

일 가능성이 높다.

한국 채권시장 복제 아이디어

GPU 구매 전에 모든 연구 job을 profiling해야 한다.

예를 들어:

Data I/O: 70% Feature calculation: 20% Model training: 10%

이라면 A100/H100을 추가해도 전체 연구속도는 거의 안 빨라진다.

반대로:

Training: 80%

이면 GPU kernel/parallelization 최적화 가치가 커진다.

그래서 연구플랫폼에 다음 metric을 자동 수집하는 것이 좋다.

• data loading time
• feature computation
• CPU idle
• GPU utilization
• GPU memory utilization
• training time
• total idea→result latency

핵심 KPI: Validated OOS Experiments / Researcher / Day

복제 가치: ★★★★★