考察：人生の”過学習”と”汎化能力”

人の言うことを聞いたり、個々の経験から学んだりすることはいいことだ。
特に失敗から学ぶことは多い。
しかし、人の言うことを聞き過ぎたり、個々の経験や失敗から学び過ぎるのは逆に良くない。
学びに学んだ複雑なことを守り過ぎて身動きができなくなる、逆に成果が上がらなくなったりする。過剰適応だ。

「過学習」と同じ原理だ。
学習用のデータでは100％の精度を取れたとしても、それ以外の未知のデータでは低い精度になってしまう。学習用データに過剰適応しすぎたため未知のデータに対応できなくなってしまう現象だ。

ではどうすればいいか。

学ぶことはいいことだ。だが過剰に適応しようとせず適当に程々に学習すればいい。
学びに学んで複雑な考えに至ったとしても、複雑すぎてこれまた過学習を起こしてしまう。
学んだ教訓を複雑にせず程々にすること、
少し適当になったり、リラックスしたり、精度を求めすぎないことが
「汎化能力」を高める秘訣なのかもしれないが、その辺は機械学習に詳しい人に聞くと確実だと思う。

経験を多量につめば、分かる時が来る。