ディープラーニングの手法と応用

1. ニューラルネットワークの土台と学習の仕組み

単純パーセプトロンの限界から、活性化関数の選び方、誤差関数、誤差逆伝播法までを一本の線でつなぎます。

ニューラルネットワークは、人間の神経回路をおおまかにまねた計算の仕組みです。データを受け取る入力層、答えを出す出力層、そのあいだに置かれる隠れ層という3種類の層が並び、層と層のあいだはそれぞれの重みでつながっています。入力層と出力層だけからなる最も単純な形を単純パーセプトロン、隠れ層を持つものを多層パーセプトロンといいます。ディープラーニングとは、この隠れ層を何層も重ねたニューラルネットワークを使う手法のことです。層を深くすると、前の層が見つけた特徴を次の層がさらに組み合わせられるようになり、人が特徴を設計しなくてもデータのほうから特徴が立ち上がってきます。

単純パーセプトロンには、線形分離可能な問題しか解けないという有名な限界があります。平面に置いた点を1本の直線で2つに切り分けられる場合しか正しく分類できない、という意味です。この限界をはっきり示したのが排他的論理和、いわゆるXORでした。XORの真理値表を平面に描くと、出力が1になる点と0になる点が対角線上に交互に並ぶので、どこに直線を引いても分けられません。隠れ層を1つ加えて多層パーセプトロンにすると境界を折り曲げられるようになり、XORも表現できるようになります。XORが解けないのはどちらかという問いは繰り返し出るので、単純パーセプトロンのほうだと覚えてください。

ディープラーニングの学習は、行列とベクトルのかけ算と足し算を膨大な回数繰り返す計算です。CPUは汎用的な処理を順番に高速にこなすことを得意とする演算装置で、強力なコアを少数だけ持ちます。GPUはもともと画像処理のために作られた装置で、単純な演算を行う小さなコアを大量に持ち、同じ計算を一斉に並列で回すことに向いています。ディープラーニングの計算はまさにその形をしているので、GPUを使うと学習にかかる時間が大きく縮みます。TPUはディープラーニングのテンソル演算に的をしぼって設計された装置で、用途を限る代わりに効率をさらに高めています。この3つの特徴を説明できること、GPUやTPUが学習や推論に適する理由を説明できることが、シラバスの目標に挙げられています。

各ユニットは、入力に重みをかけて足し合わせた値を活性化関数に通してから次の層へ渡します。活性化関数がなければ、何層重ねても全体はひとつの線形変換に押しつぶされてしまい、深くする意味がなくなります。つまり活性化関数の役割は、ネットワークに非線形性を持ち込むことです。シグモイド関数は出力を0から1のあいだに押し込むS字型の関数で、確率として読めるため二値分類の出力層に使われます。tanh関数は出力が-1から1で、原点について対称なぶんシグモイドより扱いやすい面があります。ReLU関数は入力が正ならそのまま、負なら0を返す単純な関数です。Leaky ReLU関数は、負の側にもわずかな傾きを持たせてReLU関数の弱点をやわらげたものです。

活性化関数の選び方は、勾配消失問題と直結しています。シグモイド関数を微分すると、いちばん大きいところでも0.25にしかなりません。層をさかのぼるたびに0.25以下の数がかけ合わされていくので、何層もさかのぼると勾配はほとんど0になり、入力に近い層の重みが動かなくなります。tanh関数は微分の最大値が1なのでいくらかましですが、根本の解決にはなりません。ReLU関数は正の領域で微分が常に1なので、いくらかけ合わせても値が小さくなりません。これがReLU関数が深いネットワークで広く使われる理由です。ただしReLU関数は負の領域では微分が0なので、いったん負側に入ったユニットが二度と学習しなくなることがあり、Leaky ReLU関数はここへの対処にあたります。なおシラバスでは、勾配消失問題は12の活性化関数、15の誤差逆伝播法、22の回帰結合層の3か所に登場します。

出力層だけは、解こうとしている問題に合わせて選びます。二値分類ならシグモイド関数、クラスが3つ以上ある多クラス分類ならソフトマックス関数です。ソフトマックス関数は出力の総和がちょうど1になるように正規化するので、各クラスの確率として読めます。隠れ層の活性化関数として使うものではありません。誤差関数は、モデルの出力と正解のずれをひとつの数値にする関数です。回帰なら平均二乗誤差関数、分類なら交差エントロピーを使うのが基本で、多クラス分類ではソフトマックス関数と交差エントロピーがセットになります。シラバスの13番にはこのほか、2つの確率分布のへだたりを測るカルバック・ライブラー情報量(KL)、2つのデータが同じものかどうかを距離で学ばせるContrastive Loss、基準と正例と負例の3つ組で距離の関係を学ばせるTriplet Lossが挙げられています。

誤差関数の値を小さくするには、それぞれの重みを少し動かしたときに誤差がどれだけ変わるか、つまり勾配を知る必要があります。これを出力側から入力側へさかのぼりながら効率よく計算していく手法が誤差逆伝播法です。土台になっているのは連鎖律で、合成関数の微分を部品ごとの微分のかけ算に分解できるという規則です。ここで大事なのは、誤差逆伝播法は勾配を求めるための計算法であって、重みを実際に更新するのは勾配降下法だという点です。誤差逆伝播法が重みを更新すると言い切ってしまうと不正確になります。また、最終的な誤差に対してどの層のどのユニットがどれだけ責任を負うのかを割り当てる問題を信用割当問題といい、誤差逆伝播法はこれに実用的な答えを与えたと位置づけられています。

誤差逆伝播法を深いネットワークに適用すると、勾配消失問題とは逆に、さかのぼるほど勾配が大きくなりすぎて発散する勾配爆発問題も起こります。1より小さい数をかけ続ければ0に近づき、1より大きい数をかけ続ければ際限なく大きくなる、という同じ計算の裏表です。勾配爆発が起きると重みが一気に飛んで学習が壊れます。シラバスでは、勾配爆発問題は15の誤差逆伝播法と22の回帰結合層の両方に置かれていて、とくに時間の方向へ長くさかのぼる回帰結合層で問題になります。

用語

単純パーセプトロン

入力層と出力層だけからなる最も単純なニューラルネットワーク。線形分離可能な問題しか解けず、XORは表現できない。

多層パーセプトロン

入力層と出力層のあいだに隠れ層を持つニューラルネットワーク。境界を折り曲げられるので非線形な分離ができる。

隠れ層

入力層と出力層のあいだにある層。外から直接値を与えたり読み取ったりしない中間の表現を担う。

GPU

小さな演算コアを大量に持ち、同じ計算を一斉に並列処理する装置。ディープラーニングの行列演算と相性がよい。

TPU

ディープラーニングのテンソル演算に的をしぼって設計された演算装置。用途を限る代わりに効率を高めている。

シグモイド関数

出力を0から1に押し込むS字型の活性化関数。二値分類の出力層に使う。微分の最大値が0.25で勾配消失の原因になる。

tanh関数

出力が-1から1の活性化関数。微分の最大値は1で、シグモイド関数よりは勾配が減りにくい。

ReLU関数

入力が正ならそのまま、負なら0を返す活性化関数。正の領域で微分が常に1なので勾配消失を大きく緩和する。

Leaky ReLU関数

ReLU関数の負の側にもわずかな傾きを持たせた活性化関数。負側で勾配が0になって学習が止まる問題への対処。

ソフトマックス関数

出力の総和が1になるように正規化する活性化関数。多クラス分類の出力層に使い、交差エントロピーと組み合わせる。

勾配消失問題

逆伝播の途中で勾配が0に近づき、入力に近い層が学習されなくなる問題。活性化関数の微分が小さいことが典型的な原因。

勾配爆発問題

逆伝播の途中で勾配が大きくなりすぎて発散し、重みが飛んで学習が壊れる問題。回帰結合層でとくに起きやすい。

交差エントロピー

分類問題で使われる代表的な誤差関数。予測した確率分布と正解の分布のずれを測る。

平均二乗誤差関数

回帰問題で使われる代表的な誤差関数。予測と正解の差を二乗して平均する。

カルバック・ライブラー情報量(KL)

2つの確率分布のへだたりを測る量。誤差関数として使われることがある。

Contrastive Loss

2つのデータの組について、同じものなら近く、違うものなら遠くなるように距離を学ばせる誤差関数。

Triplet Loss

基準・正例・負例の3つ組を使い、基準と正例の距離が基準と負例の距離より小さくなるように学ばせる誤差関数。

連鎖律

合成関数の微分を、部品ごとの微分のかけ算に分解できるという規則。誤差逆伝播法の数学的な土台。

信用割当問題

最終的な誤差に対して、どの層のどのユニットがどれだけ責任を負うのかを割り当てる問題。

例題

出典・根拠：一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 技術分野　ディープラーニングの概要　11. ニューラルネットワークとディープラーニング

2. 正則化と最適化手法

過学習を抑える正則化と、誤差の谷をうまく下っていくための最適化手法を、シラバス14番と16番に沿って整理します。

訓練データにだけ合いすぎて、初めて見るデータでの成績が落ちてしまう状態を過学習といいます。正則化は、この過学習を抑えるためにモデルの自由さをわざと制限する工夫の総称です。代表的なのは、誤差関数に重みの大きさに応じたペナルティを足し込む方法です。ペナルティが加わると、誤差を小さくしたいという力と重みを大きくしたくないという力がつり合うところで学習が落ち着くので、極端に大きな重みを使って訓練データを丸暗記することができなくなります。シラバスの14番には、L0正則化・L1正則化・L2正則化・正則化・ドロップアウト・ラッソ回帰・リッジ回帰の7つが並んでいます。

L0正則化は、値が0でない重みの個数そのものをペナルティにします。考え方は素直ですが、個数は微分できないので、勾配を使う学習にそのまま組み込むのは難しい手法です。L1正則化は重みの絶対値の和をペナルティにします。この形だと重みがちょうど0の点まで押し込まれやすく、使われない特徴が自動的に落ちるので、特徴選択の効果があります。値の多くが0である状態をスパースといいます。L2正則化は重みの二乗和をペナルティにします。全体の重みを小さくそろえる働きはありますが、0に近づけはしてもぴったり0にはなりにくいのが特徴です。線形回帰にL1正則化を組み合わせたものをラッソ回帰、L2正則化を組み合わせたものをリッジ回帰と呼びます。L1とラッソ、L2とリッジの対応は取り違えやすいので、必ずセットで覚えてください。

ドロップアウトは、学習のたびに隠れ層のユニットを一定の割合でランダムに無効にしてしまう手法です。毎回すこしずつ違う形のネットワークで学習することになるので、特定のユニットの組み合わせに頼りきった覚え方ができなくなり、結果として多数のモデルを平均したような効果が生まれます。無効にするのは学習のときだけで、推論のときはすべてのユニットを使います。ここで注意したいのが分類の位置です。名前が似ているので正規化層の仲間だと思われがちですが、シラバスではドロップアウトは14番の正則化に置かれています。19番の正規化層に並ぶのはバッチ正規化・レイヤー正規化・インスタンス正規化・グループ正規化の4つで、ドロップアウトは入っていません。

重みをどう動かすかを決めるのが最適化手法です。基本になるのは勾配降下法で、誤差関数の勾配を求め、その逆の方向へ重みを少しずつ動かします。この少しずつの幅を決めるのが学習率です。学習率が大きすぎると谷を飛び越えて発散し、小さすぎるといつまでも底にたどりつきません。1回の更新にどれだけのデータを使うかで呼び方が変わります。全データをまとめて使うのがバッチ学習、1件ずつ使うのがオンライン学習、その中間で数十から数百件のかたまりを使うのがミニバッチ学習です。実務ではミニバッチ学習がほとんどを占めます。データを1周することをエポック、重みを1回更新することをイテレーションと呼びます。1200件のデータをミニバッチのサイズ60で回すなら、1エポックは20イテレーションです。

勾配降下法が止まってしまう場所はひとつではありません。全体で最も誤差が小さい点を大域最適解、その付近でだけ最も小さい点を局所最適解といいます。さらに、ある方向から見れば谷底なのに別の方向から見れば山頂になっている点があり、これを鞍点といいます。パラメータの数が非常に多いディープラーニングでは、あらゆる方向で同時に谷底になる局所最適解よりも、鞍点にはまって動けなくなるほうが起こりやすいと考えられています。確率的勾配降下法(SGD)は一部のデータだけで勾配を求めるためにばらつきが乗り、そのゆらぎのおかげで鞍点や浅い局所最適解から抜け出しやすいという利点があります。

SGDの弱点を補う工夫は、大きく2つの系統に分かれます。ひとつはモーメンタムで、前回の更新量を慣性として足し込み、行きつ戻りつする振動を抑えて谷に沿ってすべり下りるようにします。もうひとつは学習率をパラメータごとに自動で調整する系統です。AdaGradは、それまでの更新が大きかったパラメータほど学習率を下げますが、下げ続けるので後半に動かなくなるという弱点があります。RMSpropは過去の勾配を指数移動平均で見ることで、この下がりすぎを緩めました。Adamはこの2系統、つまり慣性の考え方と学習率の適応を組み合わせたもので、実務の既定値としてよく使われます。シラバスにはこのほかAdaDelta・AdaBound・AMSBoundも挙がっています。

学習率やミニバッチのサイズ、層の数のように、学習で決まるのではなく人が事前に決める値をハイパーパラメータといいます。良い値を探す代表的な方法は2つあります。グリッドサーチは候補の値を格子状に並べてすべての組み合わせを試す方法で、網羅的ですが組み合わせの数が急激に増えます。ランダムサーチは範囲の中からランダムに点を選んで試す方法で、効いていないハイパーパラメータに試行を浪費しにくいという利点があります。学習を打ち切る時期の決め方もひとつの工夫で、検証データの誤差が悪化に転じたところで止めるやり方を早期終了といいます。なお、あらゆる問題で他より優れた万能のアルゴリズムは存在しないという主張をノーフリーランチの定理といい、手法選びは問題ごとに考えるほかないことを示しています。

モデルを大きくするほど過学習して悪くなるという直感に反する現象も知られています。二重降下現象といい、モデルの大きさや学習の量を増やしていくと検証誤差はいったん悪化し、さらに増やすと再び下がりはじめます。誤差の曲線が2回下がるのでこの名前がつきました。大きなモデルほど良い結果が出ることがある、という近年の経験を説明する枠組みのひとつとして、シラバス16番に収録されています。

用語

正則化

モデルの自由さをわざと制限して過学習を抑える工夫の総称。誤差関数にペナルティを加える方法が代表的。

L0正則化

値が0でない重みの個数そのものをペナルティにする正則化。微分できないので勾配を使う学習には組み込みにくい。

L1正則化

重みの絶対値の和をペナルティにする正則化。重みがちょうど0になりやすく、特徴選択の効果がある。

L2正則化

重みの二乗和をペナルティにする正則化。重みを小さくそろえるが、ぴったり0にはなりにくい。

ラッソ回帰

線形回帰にL1正則化を組み合わせた手法。不要な特徴の係数が0になり、スパースな解が得られる。

リッジ回帰

線形回帰にL2正則化を組み合わせた手法。係数全体を小さく抑えて過学習を防ぐ。

ドロップアウト

学習時にユニットをランダムに無効化して過学習を抑える手法。シラバスでは正規化層ではなく14番の正則化に分類される。

勾配降下法

誤差関数の勾配の逆方向へパラメータを少しずつ動かして誤差を小さくしていく最適化の基本手法。

学習率

1回の更新でパラメータをどれだけ動かすかを決めるハイパーパラメータ。大きすぎると発散し、小さすぎると進まない。

バッチ学習

全データを使って勾配を求め、1回だけ更新する学習の進め方。1回の更新は安定するが計算が重い。

オンライン学習

データを1件使うたびにパラメータを更新する学習の進め方。更新は軽いが1回ごとのばらつきが大きい。

ミニバッチ学習

数十から数百件のかたまりごとにパラメータを更新する学習の進め方。実務で最も広く使われる。

エポック

訓練データ全体を1周すること。何周させるかは代表的なハイパーパラメータのひとつ。

イテレーション

パラメータを1回更新すること。1エポックあたりのイテレーション数は、データ件数をミニバッチのサイズで割った値になる。

鞍点

ある方向から見れば極小、別の方向から見れば極大になっている点。高次元では学習が停滞する主な原因とされる。

局所最適解

その近くの範囲では最も誤差が小さいが、全体で見ればもっと良い点が別にある解。

大域最適解

取りうる範囲全体の中で誤差が最も小さい解。

モーメンタム

前回の更新量を慣性として加え、振動を抑えて収束を速める工夫。

AdaGrad

更新が大きかったパラメータほど学習率を下げる適応的な手法。学習率が下がり続けて止まりやすい弱点がある。

RMSprop

過去の勾配を指数移動平均で見ることで、AdaGradの学習率が下がりすぎる弱点を緩めた手法。

Adam

慣性の考え方と学習率の適応を組み合わせた最適化手法。実務の既定値としてよく使われる。

ハイパーパラメータ

学習で決まるのではなく、人が事前に決める設定値。学習率、ミニバッチのサイズ、層の数などが該当する。

グリッドサーチ

候補の値を格子状に並べ、すべての組み合わせを試すハイパーパラメータの探索方法。

ランダムサーチ

探索範囲からランダムに点を選んで試すハイパーパラメータの探索方法。効かない項目に試行を浪費しにくい。

早期終了

検証データの誤差が悪化に転じた時点で学習を打ち切ること。過学習が進む前に止める工夫。

ノーフリーランチの定理

あらゆる問題で他より優れた万能のアルゴリズムは存在しないという主張。

二重降下現象

モデルの大きさや学習量を増やしていくと、検証誤差がいったん悪化してから再び下がる現象。

例題

出典・根拠：一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 技術分野　ディープラーニングの概要　16. 最適化手法

3. ディープラーニングの要素技術

畳み込み層から正規化層、回帰結合層、Attentionまで、深いモデルを組み立てる部品を順に見ていきます。

全結合層は、前の層のすべてのユニットと次の層のすべてのユニットを重みでつなぐ、いちばん素朴な層です。表現力は高いのですが、つなぎ方が総当たりなので重みの数が入力の大きさと出力の大きさのかけ算で増えていきます。画像のように入力の要素数が数万を超えるデータに全結合層をそのまま当てると、パラメータが膨れ上がって学習できません。畳み込み層は、小さなフィルタを画像の上で滑らせながら同じ重みを使い回すことでこの問題を解きます。つながるのは近くの画素だけ、しかも重みは場所を変えても同じものを使う。この2つの性質のおかげで、パラメータの数を大幅に減らしながら、画像のどこに写っていても同じ特徴を拾えるようになります。

畳み込みの部品には名前が付いています。フィルタあるいはカーネルは、滑らせる小さな重みの並びです。ストライドは、そのフィルタを1回に何画素ずつずらすかという移動の幅で、大きくすると出力が粗くなり計算も軽くなります。パディングは、入力の周囲をあらかじめ値で埋めておく処理で、これをしないと畳み込みのたびに出力が小さくなり、端の画素が中央の画素より参照される回数が少なくなってしまいます。フィルタを1枚通した結果として得られる出力が特徴マップです。シラバスにはこのほか、フィルタの要素のあいだをすかして受け取る範囲を広げるDilated ConvolutionとAtrous Convolution、空間方向とチャネル方向の畳み込みを分けて計算量を減らすDepthwise Separable Convolutionが挙げられています。

正規化層は、中間層の出力の分布をそろえて学習を安定させ、速くするための層です。バッチ正規化は、ミニバッチの中で同じチャネルの値をまとめて平均0・分散1に整えます。ミニバッチのサイズが小さいと統計量が当てにならなくなるのが弱点です。レイヤー正規化は、1つのサンプルの中で層全体の値をまとめて整えるのでミニバッチのサイズに左右されず、系列を扱うモデルでよく使われます。インスタンス正規化はサンプルごと・チャネルごとに整えるもので画像の様式変換などで使われ、グループ正規化はチャネルをいくつかの組に分けて組ごとに整えます。シラバスでは19番の名前がv1.1で正則化層から正規化層に変わっています。似た名前のドロップアウトは、ここではなく14番の正則化に置かれている点に注意してください。

プーリング層は、決まった大きさの領域をひとつの代表値に縮約する層です。領域の最大値をとるのが最大値プーリング、平均をとるのが平均値プーリングです。縮約すると解像度が下がって計算が軽くなりますが、それ以上に大事なのが不変性の獲得です。被写体が数画素ずれても代表値はあまり変わらないので、位置のわずかなずれに強いモデルになります。グローバルアベレージプーリング(GAP)は、特徴マップ1枚をまるごと平均して1つの値に潰すもので、最後に全結合層を積む代わりに使うとパラメータを大きく減らせます。プーリング層には学習する重みがない点も、畳み込み層との違いとして押さえておくとよいでしょう。

層を深く積むほど表現力は上がるはずなのに、実際にはある深さを超えると学習がうまく進まなくなります。スキップ結合は、いくつかの層を飛び越して入力をそのまま先の層の出力に足し込む配線で、この行き詰まりを解きました。勾配が浅い経路をたどって入力側まで届くようになるため、100層を超えるネットワークでも学習できます。この考え方を採り入れた代表的なモデルがResNetです。シラバスでは21番のキーワードがResNetだけで、26番の画像認識にも再び登場します。

回帰結合層は、前の時刻の状態を自分の入力に戻す配線を持つ層で、これを備えたネットワークをリカレントニューラルネットワーク(RNN)といいます。文章や音声、株価のような時系列データを、順番を保ったまま扱えるのが特長です。戻す先の違いで名前が分かれ、隠れ層の出力を次の時刻の隠れ層に戻すのがエルマンネットワーク、出力層の出力を次の時刻の隠れ層に戻すのがジョルダンネットワークです。学習は時間方向にネットワークを展開してから誤差逆伝播法を適用するBPTTで行いますが、長い系列では時間の方向に何度もさかのぼるため勾配消失問題と勾配爆発問題が強く出ます。系列を先頭からと末尾からの両方向で読むのが双方向RNN、学習時に前ステップの予測ではなく正解を次の入力として与えるのが教師強制です。

この勾配の問題に、ゲート機構という答えを出したのがLSTMです。LSTMは情報をためておくCECという記憶の経路を持ち、そこへ何を書き込むかを決める入力ゲート、何を捨てるかを決める忘却ゲート、何を外へ出すかを決める出力ゲートの3つのゲートで出し入れを制御します。GRUはLSTMを簡略化したもので、ゲートはリセットゲートと更新ゲートの2つだけです。パラメータが少なく計算が軽い一方、常にLSTMより高性能というわけではありません。ゲートの数が3と2であること、CECはLSTM側の用語であることが、繰り返し問われる区別です。

Attentionは、入力のどこに注目すべきかを重みとして計算する仕組みです。クエリ・キー・バリューの3つで表現し、クエリとキーの相性から重みを決めて、その重みでバリューを混ぜ合わせます。同じ系列の中で各要素どうしの関係を計算するのがSelf-Attention、翻訳のように別々の2つの系列のあいだで計算するのがSource-Target Attentionです。複数の注目のしかたを並列に走らせて結果をまとめるのがMulti-Head Attentionです。この仕組みだけでネットワークを組み上げたのがTransformerで、回帰結合を使わないので系列全体を並列に計算でき、離れた語どうしの関係も直接つかめます。ただし並列に処理すると語の順番の情報が失われるので、各位置に固有の信号を足す位置エンコーディングで語順を与えます。TransformerはRNNの一種ではない、という点が引っかけどころです。

オートエンコーダは、入力をいったん低い次元に圧縮し、そこから元の入力を復元するように学習するネットワークです。出力に入力と同じものを置くので、正解ラベルを用意しなくても学習でき、次元削減や特徴の抽出に使えます。層を重ねたものが積層オートエンコーダで、これを1層ずつ学習させて深いネットワークの初期値を作るやり方が事前学習です。変分オートエンコーダ(VAE)は、圧縮した先を1点ではなく確率分布として学ぶ点が違い、その分布から取り出した値を復元することで新しいデータを生成できます。シラバスにはVQ-VAE・info VAE・β-VAEも挙げられています。

データ拡張は、手元のデータに変換を加えて水増しし、過学習を抑えて汎化性能を上げる工夫です。画像では、左右を反転するRandom Flip、回転させるRotate、一部を切り出すCrop、明るさを変えるBrightness、コントラストを変えるContrast、一部を四角く塗りつぶすCutoutやRandom Erasing、2枚の画像を重ね合わせるMixup、2枚の一部を貼り合わせるCutMix、どの変換をどれだけかけるかを自動で決めるRandAugumentが挙げられています。テキストでは言い換えを作るparaphrasing、ノイズを混ぜるnoisingがあります。ここで気をつけたいのは、意味を壊す変換を選ばないことです。手書き数字を上下反転すれば、それはもうその数字ではありません。

用語

全結合層

前の層のすべてのユニットと次の層のすべてのユニットを重みでつなぐ層。重みの数が多くなりやすい。

畳み込み層

小さなフィルタを滑らせながら同じ重みを使い回して局所的な特徴を取り出す層。パラメータが少なく済む。

ストライド

フィルタを1回に何画素ずつずらすかという移動の幅。大きくすると出力が粗くなり計算が軽くなる。

パディング

入力の周囲をあらかじめ値で埋めておく処理。出力サイズの縮小を抑え、端の情報が失われにくくなる。

特徴マップ

フィルタを1枚通した結果として得られる出力。どこにその特徴があったかを示す。

バッチ正規化

ミニバッチの中で同じチャネルの値をまとめて平均0・分散1に整える正規化。ミニバッチが小さいと不安定になる。

レイヤー正規化

1つのサンプルの中で層全体の値をまとめて整える正規化。ミニバッチのサイズに左右されない。

最大値プーリング

領域の中の最大値を代表値としてとるプーリング。位置のわずかなずれに強くなる。

グローバルアベレージプーリング(GAP)

特徴マップ1枚をまるごと平均して1つの値に潰す操作。全結合層の代わりに使うとパラメータを減らせる。

不変性の獲得

被写体の位置が多少ずれても出力が変わりにくくなること。プーリング層の重要な役割。

スキップ結合

いくつかの層を飛び越して入力を先の層の出力に足し込む配線。勾配が浅い経路を通れるので深いモデルでも学習できる。

ResNet

スキップ結合を採り入れ、100層を超える深さの学習を可能にした画像認識モデル。

エルマンネットワーク

隠れ層の出力を次の時刻の隠れ層に戻す形のリカレントニューラルネットワーク。

ジョルダンネットワーク

出力層の出力を次の時刻の隠れ層に戻す形のリカレントニューラルネットワーク。

BPTT

時間方向にネットワークを展開してから誤差逆伝播法を適用する、RNNの学習方法。

教師強制

系列を生成する学習で、前ステップの予測ではなく正解を次の入力として与えるやり方。

LSTM

CECという記憶の経路と、入力・忘却・出力の3つのゲートを持つ回帰結合層。長い依存関係を保持できる。

GRU

LSTMを簡略化し、リセットゲートと更新ゲートの2つだけにした回帰結合層。パラメータが少なく計算が軽い。

Self-Attention

同じ系列の中で各要素どうしの関係を計算するAttention。Transformerの中心的な部品。

Source-Target Attention

別々の2つの系列のあいだで注目の重みを計算するAttention。翻訳のような入力と出力が分かれるタスクで使う。

Transformer

回帰結合を使わずAttentionを中心に構成した系列モデル。並列に計算でき、位置エンコーディングで語順を与える。

位置エンコーディング

系列の各位置に固有の信号を足して語順の情報を与える仕組み。Transformerで必要になる。

オートエンコーダ

入力を低い次元に圧縮してから元の入力を復元するように学習するネットワーク。次元削減や事前学習に使う。

変分オートエンコーダ(VAE)

圧縮した先を1点ではなく確率分布として学ぶオートエンコーダ。分布から取り出した値を復元して新しいデータを作れる。

データ拡張

手元のデータに変換を加えて水増しし、過学習を抑えて汎化性能を上げる工夫。Mixup・CutMix・Cutoutなどがある。

例題

出典・根拠：一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 技術分野　ディープラーニングの要素技術　23. Attention

4. ディープラーニングの応用例

画像・言語・音声・強化学習・生成から、転移学習・マルチモーダル・解釈性・軽量化までを、代表モデルの名前とともに押さえます。

画像認識といっても、何を出力するかでタスクは分かれます。画像1枚に何が写っているかのクラスを答えるのが物体識別、あらかじめ決めた種類に限らず一般的な物体を認識することを一般物体認識といいます。物体を四角い枠で囲んで位置とクラスを答えるのが物体検出、画素ひとつひとつにクラスを割り当てるのがセマンティックセグメンテーションです。セマンティックセグメンテーションでは同じクラスの物体が2つ並んでいても区別されませんが、個体まで分けるのがインスタンスセグメンテーションです。この2つを合わせて、数えられる物体は個体ごとに、空や道路のように数えられない領域はクラスごとに塗り分けるのがパノプティックセグメンテーションです。人体の関節点の位置を求めるのが姿勢推定で、Open Poseが代表例です。

画像認識モデルの流れも押さえておきましょう。AlexNetは2012年のILSVRCで優勝し、ReLU関数・ドロップアウト・GPUによる学習を組み合わせて従来手法に大差をつけました。2014年のILSVRCではVGGとGoogLeNetが上位に入り、VGGは3かける3の小さな畳み込みだけを積み重ねる単純で深い構成、GoogLeNetは大きさの違うフィルタを並列に当てるInceptionモジュールでパラメータを抑えたまま深くする構成をとりました。2015年にはスキップ結合を使ったResNetが登場し、100層を超える深さが現実になります。以降はResNetの幅を広げたWide ResNet、すべての層をつなぐDenseNet、チャネルの重要度を学習するSENet、深さ・幅・解像度の釣り合いを取ったEfficientNet、携帯端末向けに軽くしたMobileNetやMnasNet、そして構造そのものを探索させるNASへと広がりました。畳み込みを使わずTransformerの考え方を画像に持ち込んだのがVision Transformerです。

物体検出のモデルは、処理の段数で2つに分かれます。YOLOとSSDは、候補領域の抽出とクラスの判定をまとめて1回の推論で行う1段階の方式で、速さが持ち味です。R-CNNから始まりFast R-CNN、Faster R-CNNと発展した系統は、まず候補領域を出してから分類するという2段階の方式で、遅い代わりに精度が出やすい傾向があります。Mask R-CNNはFaster R-CNNに画素単位の予測を足したもので、インスタンスセグメンテーションまで行えます。セグメンテーション側の代表はFCN、SegNet、U-Net、PSPNet、DeepLabで、U-Netはエンコーダとデコーダをスキップ結合でつないだU字の構造を持ち、医用画像でよく使われます。U-Netは物体検出のモデルではない、という点を取り違えないでください。異なる解像度の特徴を組み合わせるFPNも収録語です。

自然言語処理は、文を単語に切り分ける形態素解析、語のかかり受けを調べる構文解析といった下ごしらえから始まります。単語をどうベクトルにするかが次の課題で、いちばん素朴なのが1語に1つの次元を割り当てるワンホットベクトルですが、次元が語彙の大きさになるうえ、どの語とどの語が似ているかという情報を持ちません。文書を語の出現回数の集まりとして扱うBoW、語の重要度を文書内の頻度と文書をまたいだ珍しさから測るTF-IDF、連続するn個の語の並びを単位とするn-gramも古典的な扱い方です。これらに対して、語を密なベクトルで表す分散表現を学習するのがword2vecで、周辺の語から中心の語を当てるCBOWと、中心の語から周辺の語を当てるスキップグラムの2方式があります。向きが逆なので取り違えに注意してください。単語を部分文字列に分けて扱うfastText、文脈に応じてベクトルを変えるELMoと続きます。

系列を入力して系列を出力する枠組みがSeq2Seqで、機械翻訳や文書要約に使われます。ここにAttentionとTransformerが加わって性能が大きく伸びました。BERTはTransformerのエンコーダを使い、文の前後の両方向から文脈を見て事前学習する言語モデルです。双方向であることがBERTの特徴で、大量のテキストで事前学習してから各タスクに適応させるという使い方を広めました。PaLMや、より一般に大規模言語モデル(LLM)もシラバスの27番に置かれています。GLUEは言語理解の能力を複数のタスクでまとめて測るベンチマークです。応用のタスクとしては感情分析、機械翻訳、質問応答、情報検索、文書要約が挙がっています。

音声処理では、まずマイクで拾った空気の振動を数値の列に直します。標本化と量子化を行うA-D変換、その代表的な方式であるパルス符号変調器(PCM)がここに当たります。時間の波形を周波数の成分に分けるのが高速フーリエ変換(FFT)で、そこから声道の共鳴による山であるフォルマントやフォルマント周波数、周波数ごとの大まかな形であるスペクトル包絡を読み取ります。人の聞こえ方に合わせた尺度がメル尺度で、これを使って作る代表的な特徴量がメル周波数ケプストラム係数(MFCC)です。言語の音の単位が音素、それより広い音の単位が音韻です。古くは隠れマルコフモデルが音声認識の中心で、現在は音声の波形を直接生成するWaveNetや、入力と出力の長さがそろわない系列を学習させるCTCが使われます。話者識別や感情分析も音声処理のタスクです。

強化学習にディープラーニングを組み合わせたのが深層強化学習です。DQNは行動価値関数をニューラルネットワークで近似し、画面の画像だけからゲームを学習させました。過大評価を抑えるダブルDQN、状態の価値と行動の優位性を分けて扱うデュエリングネットワーク、探索のためのノイズを重みに入れるノイジーネットワーク、こうした改良をまとめたRainbowと発展します。複数の環境を並列に走らせるA3CやAPE-X、その延長のAgent57、方策を安定して更新するPPO、複数のエージェントが同時に学ぶマルチエージェント強化学習(MARL)、報酬の与え方を工夫する報酬成形も収録語です。実機での学習は危険で高くつくため、模擬環境で学んで実機へ移すsim2realや、模擬環境の見た目や物理をわざとばらつかせるドメインランダマイゼーションが使われます。人間のフィードバックから報酬モデルを作って言語モデルを調整するRLHFは、自然言語処理ではなくこの29番の深層強化学習に置かれています。

データ生成では、敵対的生成ネットワーク(GAN)がよく知られています。データを作り出す側のネットワークと、本物か作られたものかを見分ける側のネットワークを競わせながら学習させる仕組みで、畳み込みを使うDCGAN、対になっていない2群の画像を相互に変換するCycleGAN、線画から写真のように対応づけて変換するPix2Pixが派生しました。Diffusion Modelは考え方がまったく違い、画像に少しずつノイズを加えていく過程を逆にたどることで、ノイズから画像を作り出します。GANの一種ではありません。NeRFは複数の視点の写真から三次元の見え方を学び、任意の視点の画像を作ります。前の講義で扱った変分オートエンコーダ(VAE)も生成の手法のひとつで、GANとVAEとDiffusion Modelは並列に置かれる別々の系統だと整理してください。

大量のデータで事前学習した事前学習済みモデルを、手元の小さなタスクに使い回すのが転移学習とファインチューニングです。転移学習は、事前学習で得た特徴の抽出部分は固定したまま、主に出力層のあたりだけを新しいタスクで学習します。ファインチューニングは、重みの全体または広い範囲を新しいデータで学習し直します。ファインチューニングのほうが必要なデータも計算も多くなり、元のタスクで身についていた能力が失われる破滅的忘却が起こることがあります。少ない事例で適応させることをFew-shot、1例だけならOne-shotといい、事例を1つも与えないZero-shotは32番のマルチモーダルに置かれています。ラベルのないデータから疑似的な問題を作って学ぶ自己教師あり学習、少数のラベルと大量の未ラベルデータを併せて使う半教師あり学習も、この31番の収録語です。

画像と言語のように、種類の違う情報をまとめて扱うのがマルチモーダルです。CLIPは画像と説明文を同じベクトル空間に対応づけ、DALL-Eは文から画像を作ります。画像に説明文を付けるImage Captioning、画像について質問に答えるVisual Question Answering、文から画像を作るText-To-Image、複数の入出力形式をひとつのモデルで扱うUnified-IOやFlamingoも収録語です。ここで押さえておきたいのが基盤モデルの置き場所です。大量のデータで事前学習し、さまざまな下流のタスクに転用できる大規模なモデルを基盤モデルといいますが、シラバスではこの語が32番のマルチモーダルに置かれています。大規模言語モデル(LLM)は27番の自然言語処理、RLHFは29番の深層強化学習で、生成AIまわりの語は3か所に散っていることになります。

最後に、作ったモデルを実際に使うための2つの論点です。ひとつはモデルの解釈性で、なぜその判断になったのかを人が理解できる形で示す取り組みを説明可能AI(XAI)といいます。個々の予測の近くで単純なモデルを当てはめて説明するLIME、協力ゲーム理論の考え方で各特徴の寄与を配分するSHAP、特徴の値をわざと入れ替えて精度の落ち方を見るPermutation Importance、画像のどこを見て判断したかを熱の地図で示すCAMとGrad-CAMが挙げられています。もうひとつはモデルの軽量化です。大きな教師モデルの出力を小さなモデルに学ばせる蒸留、寄与の小さい結合や層を削るプルーニング、重みを表す数値の精度を落とす量子化があり、これらをまとめてモデル圧縮といいます。大きなネットワークの中には単独で学習させても同等の性能に届く部分ネットワークが含まれている、という宝くじ仮説はプルーニングの背景にある考え方です。軽量化が求められる典型が、端末側で推論を動かすエッジAIです。

用語

物体検出

画像の中の物体を枠で囲み、位置とクラスを同時に答えるタスク。YOLO・SSD・R-CNN系が代表。

セマンティックセグメンテーション

画素ひとつひとつにクラスを割り当てるタスク。同じクラスの個体どうしは区別しない。

インスタンスセグメンテーション

画素ごとのクラスに加えて、同じクラスの物体を個体ごとに分けるタスク。Mask R-CNNが代表。

AlexNet

2012年のILSVRCで優勝した画像認識モデル。ReLU関数・ドロップアウト・GPU学習を組み合わせた。

VGG

3かける3の小さな畳み込みだけを積み重ねた、単純で深い構成の画像認識モデル。

GoogLeNet

大きさの違うフィルタを並列に当てるInceptionモジュールを用い、パラメータを抑えたまま深くしたモデル。

YOLO

候補領域の抽出とクラス判定を1回の推論でまとめて行う1段階の物体検出モデル。SSDも同じ系統。

Faster R-CNN

候補領域を出してから分類する2段階の物体検出モデル。Mask R-CNNはこれに画素単位の予測を加えたもの。

U-Net

エンコーダとデコーダをスキップ結合でつないだU字構造のモデル。セマンティックセグメンテーションに用いる。

ワンホットベクトル

1語に1つの次元を割り当てる素朴な単語表現。次元が語彙の大きさになり、語どうしの近さを表せない。

分散表現

単語を密なベクトルで表す表現。意味の近い語がベクトル空間で近くに配置される。

CBOW

word2vecの方式のひとつ。周辺の語から中心の語を当てるように学習する。

スキップグラム

word2vecの方式のひとつ。中心の語から周辺の語を当てるように学習する。

TF-IDF

語の重要度を、文書内での出現頻度と文書をまたいだ珍しさから測る指標。

BERT

Transformerのエンコーダを用い、前後の両方向から文脈を見て事前学習する言語モデル。

大規模言語モデル(LLM)

大量のテキストで学習した非常に大きな言語モデル。シラバスでは27番の自然言語処理に置かれている。

メル周波数ケプストラム係数(MFCC)

人の聞こえ方に合わせたメル尺度をもとに作る、音声処理の代表的な特徴量。

DQN

行動価値関数をニューラルネットワークで近似する深層強化学習の代表手法。

RLHF

人間のフィードバックから報酬モデルを作り、強化学習でモデルを調整する手法。シラバスでは29番の深層強化学習に置かれている。

敵対的生成ネットワーク(GAN)

データを作る側と見分ける側のネットワークを競わせて学習させる生成モデル。DCGAN・CycleGAN・Pix2Pixが派生。

Diffusion Model

ノイズを段階的に加える過程を逆にたどってデータを生成するモデル。GANとは別の系統。

転移学習

事前学習済みモデルの特徴抽出部分を流用し、主に出力層のあたりを新しいタスクで学習する方法。

ファインチューニング

事前学習済みモデルの重みの全体または広い範囲を、新しいデータで学習し直す方法。

破滅的忘却

新しいタスクを学習した結果、以前のタスクでの性能が大きく落ちてしまう現象。

基盤モデル

大量のデータで事前学習し、多様な下流タスクに転用できる大規模なモデル。シラバスでは32番のマルチモーダルに置かれている。

説明可能AI(XAI)

モデルの判断根拠を人が理解できる形で示す取り組み。LIME・SHAP・CAM・Grad-CAMなどの手法がある。

蒸留

大きな教師モデルの出力を小さなモデルに学ばせる軽量化の手法。

プルーニング

寄与の小さい結合や層を削ってモデルを小さくする軽量化の手法。

量子化

重みを表す数値の精度を落としてモデルを小さく速くする軽量化の手法。

宝くじ仮説

大きなネットワークの中に、単独で学習させても同等の性能に届く部分ネットワークが含まれているという仮説。

例題

出典・根拠：一般社団法人日本ディープラーニング協会「G検定 試験出題範囲（シラバス 2024）」第1.4版（2026年5月11日） 技術分野　ディープラーニングの応用例　26. 画像認識

演習：この章の問題を解く

ランダム出題の演習ツールです（JavaScript が有効な場合に動きます）。上の「確認問題」はそのままでもすべて読めます。