ニューラルネットワーク 次元の呪いとは？～大量データの落とし穴～
- 次元の呪いとは「次元の呪い」とは、機械学習の分野において、データの持つ特徴量の数、つまり次元が増えるにつれて、そのデータを扱うのが非常に難しくなる現象を指します。想像してみてください。一辺の長さが1メートルの正方形の広さを想像するのは簡単です。しかし、これが一辺1メートルの立方体になるとどうでしょう。急に空間が広がったように感じませんか？さらに、4次元、5次元と次元が増えていくにつれて、その空間は私たち人間の想像をはるかに超えて広がっていきます。機械学習においてもこれと同じことが起こります。データの一つ一つの特徴を「次元」と見なすと、特徴量が多いほど、データが存在する空間はとてつもなく広大なものになります。 この広大な空間を埋め尽くすためには、膨大な量のデータが必要となるのです。必要なデータ量が指数関数的に増加してしまうため、実際には十分な量のデータを集めることが難しくなります。その結果、学習データがまばらにしか存在しない状態となり、機械学習モデルはデータの全体像をうまく捉えられず、過剰適合や精度低下などの問題が生じやすくなります。これが「次元の呪い」の恐ろしさです。
