つながる計算で特徴を学ぶ

1小さな計算をつないで結果を出す

ニューラルネットワークは、神経系を参考にした計算モデルです。数値を受け取り計算結果を次へ渡す小さな単位をノードといい、それを層に並べてつなぎます。脳そのものを完全に再現したものではありません。

• 入力層：画像などを数値にした入力を受け取る。
• 中間層：受け取った数値を計算し、次の層へ渡す。
• 出力層：分類の予測値など、最終的な結果を出す。

接続には重みという数値があります。入力をどれだけ強く計算へ反映するかに関わり、学習ではこの重みなどを調整します。次の節では、一つのノードで「入力に重みを掛けて足す」計算を確かめます。

ここでのネットワークは計算のつながりです。人のつながりであるソーシャルネットワークや、大学を結ぶ学術通信網、住民情報の連携、場所を問わず通信する環境そのものを指しているのではありません。

2活性化関数は出力を変換する

一つのノードは入力に重みを掛けて足し、必要に応じて定数を加え、活性化関数で変換して出力します。例えば入力2と3、重み0.5と1なら加重和は2×0.5＋3×1＝4です。

活性化関数はこの値を次へ送る値に変換します。例として負の値を0、正の値をそのまま出すReLU（Rectified Linear Unit：正規化線形関数）なら4を出します。活性化関数そのものはノード数や層数を決めるものでも、ネットワーク全体の信頼度を必ず計算するものでもありません。

3誤差を基に重みを調整する

バックプロパゲーション（Backpropagation：誤差逆伝播法）は予測と正解の誤差から、各重みが誤差へ与える影響を後ろの層から計算する方法です。その情報を使って誤差を小さくする方向に重みを更新します。

目的は処理速度のためにノード数を減らすことでも、活性化関数の種類だけを選ぶことでもありません。学習率が更新の大きさに関わります。予測→誤差の計算→逆向きの影響計算→重み更新を繰り返します。

4深い層と、学習し過ぎる問題

ディープラーニング（Deep Learning：深層学習）は、多層のニューラルネットワークを使い、特徴の表現も学ぶ機械学習です。例えば画像を分類するために、入力から役立つ特徴を段階的に学びます。「深い」は層が重なることに関わる言葉です。

教師あり・教師なしは、正解をどう与えるかという別の分類です。深層学習を使うことと、正解付きのデータで学ぶことは両立します。

過学習は、学習に使ったデータへ合わせ過ぎて、未知のデータで性能が落ちる状態です。練習した画像ではよく当たっても、初めて見る画像で当たらなければ、学習時の成績だけで良いモデルとは判断できません。

似た学習の名前は、対象と目的で分けます。eラーニングはIT（情報技術）を使う人の学習、アダプティブラーニングは理解度に合わせる教材、教育でのアクティブラーニングは能動的な学びを指します。機械学習にも能動学習という別の用法があります。

実現可能性を調べるフィージビリティスタディ、故障に耐えるフォールトトレラントも、深層学習とは別の概念です。