（解説あり）以下の文章をよく読み,末尾の設問に答えよ.

AI の研究開発が進むにつれて,実世界への社会実装で最も期待されている分野の 1 つに自動走行車の開発が挙げられる.現在 AI を用いた自動走行車には,その自動運転導入の程度に応じてレベルづけがなされており,各社でどのように最終的なゴールであるレベル 5 の完全自動走行に近づくかが議論されている.

各レベルにおける自動運転の概要について説明した文章のうち,自動運転レベル 3 に対応しているものを選択肢より 1 つ選べ.

（解説あり）（ア）に最もよくあてはまる選択肢を 1 つ選べ.

自然言語処理の研究においても,ディープラーニングを利用した研究が目立ちつつあるが,その成果は分野においてまちまちである. 例えば,機械翻訳 や（ア）おいては大幅な性能向上が見られる一方で,構文解析や（イ） のように連続的な精度向上は見られるものの基本的な手法は大きく変わらないもの,そして 文脈解析 や（ウ）など現在のアプローチでは実用的な精度は見込めないものなどがある.

（ア）に最もよくあてはまる選択肢を 1 つ選べ.

画像認識のモデルとしてResNet がある.これは求めたい関数と入力との差である（ア）を学習するようにしたことで深いネットワークの学習を容易にした.

（ア）に最もよくあてはまる選択肢を 1 つ選べ.

狭い意味でのディープラーニングとは層の数が深いニューラルネットワークを用いた機械学習である.複数の層を持つ階層的ニューラルネットワークは,1980 年代には（ア）という方法がすでに提案されていたが,現在ほど多くの層を持った学習をすることはできなかった.その理由として二つの理由が挙げられる.一つ目は,出力層における誤差を入力層に向けて伝播させる間に,誤差情報が徐々に拡散し,入力層に近い層では勾配の値が小さくなって学習がうまく進まないという問題が発生したからだ.このことを（イ）という.二つ目は,層の数が多いニューラルネットワークの学習の目的関数は多くの（ウ）を持ち,適切な結合の重みの初期値の設定が難しかった.

（解説あり）（ア）に最もよくあてはまる選択肢を 1 つ選べ.

ニューラルネットワークは高い表現力を持つ反面,過学習をしやすいという性質を持つため,それを改善させる方法が多数考案されている.例えば,学習の際に一部のノードを無効化する（ア）,一部の層の出力を正規化する（イ）,データの水増しをしてデータの不足を補う（ウ）,パラメータのノルムにペナルティを課す（エ）などがそれに当たる.

（ア）に最もよくあてはまる選択肢を 1 つ選べ.

RNN は（ア）系列データの処理に長けているニューラルネットワークである.RNN は,（イ）勾配消失問題が起きやすいという特徴を持っていたが,RNN の一種である LSTM では（ウ）を含む LSTM Block を組み込むことで,長期間の系列情報に対しても勾配消失せずに学習を行うことができる.

（ウ）に最もよくあてはまる選択肢を 1 つ選べ.

ディープニューラルネットワーク（DNN）のパラメータ最適化手法として（ア）などの勾配降下法が適用される.しかし,勾配降下法には（イ）などの問題があり,これらの問題に対処するために,学習率をパラメータに適応させることで自動的に学習率を調整することができる（ウ）や勾配の平均と分散をオンラインで推定し利用する（エ）が利用されてきた.

（ア）に最もよくあてはまる選択肢を 1 つ選べ.

機械学習の種類を大きく分類すると教師あり学習,教師なし学習,強化学習がある.ニューラルネットワークにもそれらに対応するものがある.例えば,教師あり学習には（ア）,教師なし学習には（イ）,強化学習には（ウ）などがある.

（イ）に当てはまらない選択肢を 1 つ選べ.

ディープニューラルネットワーク（DNN）のパラメータ最適化手法として（ア）などの勾配降下法が適用される.しかし,勾配降下法には（イ）などの問題があり,これらの問題に対処するために,学習率をパラメータに適応させることで自動的に学習率を調整することができる（ウ）や勾配の平均と分散をオンラインで推定し利用する（エ）が利用されてきた.

（ア）に最もよくあてはまる選択肢を 1 つ選べ.

畳み込みニューラルネットワークの（ア）のパラメータ数は（イ）と比較して極めて少ない.これは（ウ）によって（エ）ため,パラメータ数が減り,計算量が少なくなるためである.