[ディープラーニング] Dropout

About

ドロップアウト (Dropout) とは各反復前にニューロンを確率的に脱落させて学習を行う手法です。
ドロップアウトを適用した層では確率 \(p\) でその層のニューロンを残す割合を指定します。
脱落させるニューロンの選定は反復ごとに行います。
また推論時はドロップアウトによる脱落を行わず、すべてのニューロンを使用します。



キーワード

  • ドロップアウト (dropout)

メリット

学習時にネットワークを構成するパラメータを強制的に削減し、自由度を下げることで過学習を抑制する効果があります。

参考文献・資料

コメントを残す

メールアドレスが公開されることはありません。