Home
✂️

짧은 정보 : Stochastic Depth

0. Abstract

Stochastic Depth : Network의 Depth를 Random하게 줄여 Overffiting을 방지한다.

1. Detail

Network의 특정 Block을 랜덤하게 Inactive하게 만들어 지나치게 하는 테크닉이다.
Dropout
특정 Unit의 Weight을 0으로 만든다
Stochastic Depth
특정 Block을 Shortcut으로 지나친다.
쉬운 Dataset & 깊은 Network에 적용했을 때 성능 향상을 보였다.