ニューラルネットワーク AIが自ら学習：最適な構造を探索するニューラルアーキテクチャサーチ
- 従来手法の限界
従来の機械学習では、人が設計したニューラルネットワークの構造を基に、パラメータの最適化を行うのが一般的でした。例えば、画像認識に用いられる畳み込みニューラルネットワーク（CNN）では、畳み込み層やプーリング層といった層の組み合わせや、それぞれの層のサイズなどを人が決めていました。
しかし、最適な構造は、それぞれのタスクやデータセットによって異なるため、人の経験や直感に頼った設計には限界がありました。人の手によって最適な構造を見つけ出すためには、膨大な時間と労力をかけて、多くの候補を実際に試行錯誤する必要があり、機械学習の専門家以外にとっては非常に困難な作業でした。
例えば、画像内の物体を検出するタスクと、手書きの数字を分類するタスクでは、扱うデータの性質が大きく異なるため、同じ構造のニューラルネットワークを用いても、最適な性能を引き出すことはできません。画像内の物体の検出には、物体の位置や大きさを捉える必要があるため、空間的な情報を保持する畳み込み層が重要になります。一方、手書き数字の分類では、数字全体の形状を捉えることが重要となるため、全体的な特徴を抽出するプーリング層が有効です。このように、タスクやデータセットに適した構造を選択することが、高精度なモデルを構築する上で非常に重要となります。