게이팅이 오차를 증폭한다

Name: 게이팅이 오차를 증폭한다
Duration: 239 s
Channel: Sequoia Capital
Description: 게이팅이 오차를 증폭한다 • MOE는 작은 수치 차이로 다른 expert를 고를 수 있다 • 한 번 선택이 바뀌면 학습 대상 자체가 달라진다 • router replay와 커널 정렬이 divergence를 줄이는 핵심이다

원본 영상: How Cursor Trained Composer on Fireworks: Distributed Infrastructure for High-Performance RL · 채널 Sequoia Capital · 구간 23:06–27:05

이 구간의 핵심

게이팅이 오차를 증폭한다 • MOE는 작은 수치 차이로 다른 expert를 고를 수 있다 • 한 번 선택이 바뀌면 학습 대상 자체가 달라진다 • router replay와 커널 정렬이 divergence를 줄이는 핵심이다

이 영상의 요약과 다른 핵심 구간 전부 보기 →