G検定模擬試験set1 - 未解答
（解説あり）（イ）に最もよくあてはまる選択肢を 1 つ選べ.
ニューラルネットワークには（ア）などの多くのハイパーパラメータが存在し,これらの値が精度に大きな影響を与える.ハイパーパラメータのチューニング方法としては,パラメータの候補値を指定し,それらの組み合わせを調べる（イ）などがある.また,近年は,ハイパーパラメータを含め最適化問題とする（ウ）が効率的なチューニング方法として注目をあびている.
（解説あり）（ア）に最もよくあてはまる選択肢を 1 つ選べ.
ニューラルネットワークは高い表現力を持つ反面,過学習をしやすいという性質を持つため,それを改善させる方法が多数考案されている.例えば,学習の際に一部のノードを無効化する（ア）,一部の層の出力を正規化する（イ）,データの水増しをしてデータの不足を補う（ウ）,パラメータのノルムにペナルティを課す（エ）などがそれに当たる.
（エ）に最もよくあてはまる選択肢を 1 つ選べ.
ディープラーニングはソフトウェアフレームワークを利用して実装するのが一般的である.多層のニューラルネットワークモデルを定義し,データを用いて学習・予測を実行するのがフレームワークの役割だが,重要なのはネットワークの記述方法とその柔軟性である.ネットワークには大きく分けて 二つの記述方法がある.一つ目は（ア）による記述方法である.これらの記述方法を採用しているソフトウェアには（イ）があげられる.この方法を用いることによって,モデルの定義がテキストで設定でき,簡単に学習を開始させることが出来るというメリットがある.一方で,ループ構造をもつような RNN など,複雑なモデルを扱う際には,モデルの定義を記述することは難しくなる傾向にある.二つ目は（ウ）による記述方法である.代表的なフレームワークとして（エ）があげられる.一度書き方を覚えてしまえば,複雑なモデルでも比較的簡単に記述することが出来るが,モデルは,それぞれのフレームワーク固有のソースコードで出来上がるため,モデルが使用しているソフトウェアに依存してしまうという問題がある.
（ウ）に最もよくあてはまる選択肢を 1 つ選べ.
画像データに対しては,前処理を施すことが多い.カラー画像を白黒画像に変換して計算量を削減する（ア）や,細かいノイズの影響を除去する（イ）,画素ごとの明るさをスケーリングする（ウ）などがこれに含まれる.
（ウ）に当てはまらない選択肢を 1 つ選べ.
ニューラルネットワークで用いられる活性化関数について扱う.出力層の活性化関数には,回帰では（ア）が,多クラス分類では（イ）が一般的に利用されてきた.また中間層の活性化関数として,従来は（ウ）などが一般的に利用されてきた.しかし,これらの活性化関数を利用すると勾配消失問題が起きやすいという問題があったため,近年は,入力が 0 を超えていれば入力をそのまま出力に渡し,0 未満であれば出力を 0 とする（エ）や複数の線形関数の中での最大値を利用する（オ）などが利用されている.
（ア）に最もよくあてはまる選択肢を 1 つ選べ.
ニューラルネットワークの学習には独自の問題が生じる.層を深くするほど,入力層に近い層で学習が行われにくくなる（ア）問題が起こったり,パラメータがつくる空間が高次元になり,その空間内の局所最適解や（イ）にトラップされることが多くなる.
（イ）に最もよくあてはまる選択肢を 1 つ選べ.
正則化とは,機械学習の学習において汎化誤差をできるだけ小さくするための手法の総称である.ディープニューラルネットワーク（DNN）の学習で一般に用いられる正則化の手法に（ア）があり,誤差関数に重みの L2 ノルムを加えることで重みの発散を抑えることができる.また,L2 ノルムの代わりに L1 ノルムを用いる L1正則化は,（イ）の一種であり,重要でないパラメータを 0 に近づけることができる. L1 正則化を回帰に利用した場合,（ウ）と呼ばれる.
（エ）に最もよくあてはまる選択肢を 1 つ選べ.
ディープラーニングを含めて機械学習において精度の高い学習をするためには,観測データの適切な前処理が必須である.異なるスケールの特徴量を同時に扱えるようにするために,平均を 0 に分散を 1 に規格化する（ア）や,特徴量の線形結合からデータ内の分散が大きくなるような特徴量を得る（イ）などは広く利用されている.また,画像処理の分野においては,減算正規化と除算正規化の処理を行う（ウ）などが前処理として利用され,（エ）などの画像処理に特化したライブラリで行うことができる.また,自然言語処理の分野においては,文章に単語が含まれているかどうかを考えてテキストデータを数値化する（オ）や文章に含まれる単語の重要度を特徴量とする（カ）などがある.
（ア）に最もよくあてはまる選択肢を 1 つ選べ.
既存の学習済みニューラルネットワークモデルを活用する手法に（ア）と（イ）がある.（ア）では,学習済みモデルに対して新たに別の課題を学習させることで,少量のデータセットかつ少ない計算量で高い性能のモデルを得ることができる.また,（イ）は,学習済みの大規模モデルの入力と出力を小規模なモデルの教師データとして利用することで,少ない計算資源で従来のモデルと同程度の性能を実現することが可能となる.
（解説あり）（ア）に最もよくあてはまる選択肢を 1 つ選べ.
大規模なディープニューラルネットワーク（DNN）の学習では学習するべきパラメータ数が膨大となるため,処理の高速化が必要となる.2012 年に提案された分散並列技術である（ア）や画像処理に特化したプロセッサの（イ）は大規模なニューラルネットワークの学習を実現するために利用されてきた.また,大規模なニューラルネットワークの学習が困難となる原因の一つとして,ある層の入力がそれより下層の学習が進むにつれて変化する（ウ）がある.（ウ）を防ぐために出力値の分布の偏りを抑制する（エ）が 2015 年に提案されている.
loading!!
