鞍点(あんてん 英:saddle point)とはある次元において最小になるものの、ある別次元においては極大となるものをいいます。
ニューラルネットワークでの鞍点による学習の停滞
鞍点の問題はニューラルネットワークのような多次元の学習において、学習が停滞し局所最適解に陥ってしまうことです。
鞍点は極値ではない
鞍点は極大にも極小にもなります。ですので、極大値極小値というわけではありません。
鞍点(あんてん 英:saddle point)とはある次元において最小になるものの、ある別次元においては極大となるものをいいます。
鞍点の問題はニューラルネットワークのような多次元の学習において、学習が停滞し局所最適解に陥ってしまうことです。
鞍点は極大にも極小にもなります。ですので、極大値極小値というわけではありません。
コメント