FIXED INCOME / FIELD NOTES

재현되지 않은 선택적 신경망

선택한 뉴런만 계산하는 방법은 재현 시험을 통과했는가?

모든 뉴런을 계산하면 비용이 커진다. SLIDE는 비슷한 벡터를 같은 묶음에 넣는 해시로 활성 가능성이 큰 뉴런을 선택해 CPU에서 학습한다. G-Research는 이 방법을 재구현하고 기존 GPU 밀집 신경망과 수렴속도·정확도를 비교했다.

Delicious-200K에서는 Julia 구현이 빠르게 수렴했지만 한 클래스가 시험표본 약 40%를 차지했다. 특정 클래스에 치우친 평가가 우위를 쉽게 만들 수 있다는 조건이다. 데이터셋 구조와 학습속도를 나눠 읽어야 한다.

더 균형적인 Amazon-670K에서는 원 C++ 정확도를 재현하지 못했고 GPU 밀집모델이 시간 대비 가장 잘 수렴했다. 빠른 결과만 선택하면 방법의 적용조건을 놓친다. 공개 시험은 재현 실패와 자료조건의 중요성을 보여주며 실제 거래 배포나 수익화는 확인하지 않는다.

SCOPE공개 자료의 엔지니어링 시험이다. 실제 거래 배포와 수익효과는 확인되지 않는다.

Evidence & verification ↓

Sources & evidence

Original passages appear only when checked against the publication. Earlier briefing records are identified separately.

재현되지 않은 선택적 신경망0 primary · 1 archived +
EARLIER BRIEFING RECORD

These 1 records come from the earlier briefing, not a newly verified original publication. They are retained in the original briefing below; no primary-source quotation is shown.

Read the earlier record ↓
Publication links ↑
Show the original briefing text

구분: 퀀트회사 공식 기술블로그·머신러닝 계산 인프라
발표일: 2022년 3월 24일
선정 이유: 최신성보다 검증 과정과 실패조건 공개의 기술적 가치 때문에 선정

핵심 요약

G-Research의 SLIDE 재구현 보고서는 모든 뉴런을 계산하는 대신 locality-sensitive hashing, 즉 비슷한 벡터를 같은 버킷에 넣는 해시로 활성 가능성이 큰 뉴런만 골라 CPU에서 학습하는 방법을 시험했다. Delicious-200K에서는 Julia 구현이 GPU의 밀집 신경망보다 빠르게 수렴했지만, 한 클래스가 시험표본의 약 40%를 차지하는 심한 불균형이 있었다고 원문은 경고한다. 더 균형적인 Amazon-670K에서는 원 C++ 구현의 정확도를 재현하지 못했고 GPU 밀집모델이 시간 대비 가장 잘 수렴했다는 부정적 결과도 공개했다. 확인 가능한 사실은 공개 데이터셋에서의 엔지니어링 검증이며, 회사가 이 기법을 실제 거래에 배포했거나 수익화했다는 증거는 공개되지 않았다.

실무 시사점

희소 연산은 종목·상태 수가 큰 채권 분류나 후보검색의 계산비용을 줄일 가능성이 있지만, 표본 불균형이 속도와 정확도를 과장할 수 있다. 벤치마크는 평균 정확도뿐 아니라 희귀 등급·저유동성 종목의 재현율, 학습시간, 메모리, 실패 재현성을 함께 비교해야 한다.

한국 시장 복제 아이디어

수천 개 회사채에서 유사 종목·호가 후보를 찾는 표현학습에 선택적 활성화를 실험하되, 학습 라벨을 다음 체결가격 하나로 단순화하지 않는다. 만기·등급·유동성 버킷별 체결확률과 mark-out을 따로 보고, CPU 희소모델과 GPU 밀집모델을 동일한 시점 데이터·비용예산에서 대조한다.