G検定模擬試験set1 - 未解答
（イ）に最もよくあてはまる選択肢を 1 つ選べ.
ニューラルネットワークの学習は,損失関数（コスト関数）の最適化により行われる.そして,その損失関数は学習の目的に応じて決定する.よく使われる損失関数として,回帰問題には（ア）,分類問題には（イ）がある.また分布を直接学習する際には（ウ）が用いられることもある.さらに,損失関数にパラメータの二乗ノルムを加えると（エ）となる.
（エ）に最もよくあてはまる選択肢を 1 つ選べ.
ディープラーニングの技術を利用したシステムを開発する際,複雑な処理が比較的簡潔に記述できることから,既存のフレームワークを利用することも多い.ディープラーニングのフレームワークは複数あり,google 社提供の（ア）や（ア）のラッパーとして機能する（イ）,国内企業である PreferredNetworks 社で開発された（ウ）などがある.また,（エ）は（ウ）と同じ Define-by-Run 方式を採用している.
（解説あり）（イ）に最もよくあてはまる選択肢を 1 つ選べ.
大規模なディープニューラルネットワーク（DNN）の学習では学習するべきパラメータ数が膨大となるため,処理の高速化が必要となる.2012 年に提案された分散並列技術である（ア）や画像処理に特化したプロセッサの（イ）は大規模なニューラルネットワークの学習を実現するために利用されてきた.また,大規模なニューラルネットワークの学習が困難となる原因の一つとして,ある層の入力がそれより下層の学習が進むにつれて変化する（ウ）がある.（ウ）を防ぐために出力値の分布の偏りを抑制する（エ）が 2015 年に提案されている.
（解説あり）（ウ）に最もよくあてはまる選択肢を 1 つ選べ.
ディープニューラルネットワーク（DNN）の普及に貢献した一つの要素に,（ア）を克服する手法が提案されたことがある.（ア）は誤差逆伝播法において,（イ）ことによって生じるとされている.（ア）に対処するための方法として,あらかじめ良い重みの初期値を計算する（ウ）や,活性化関数に（エ）を利用する方法などがある.
（ア）に最もよくあてはまる選択肢を 1 つ選べ.
線形モデルとは,（ア）を含む項の線形結合で,（ア）を含んだ数式の出力値は（イ）と呼ばれる.この線形結合で,特に（ア）も（イ）も一次元のデータの場合は,y = b0 + b1 * x と表される.こういったモデルを単回帰モデルと呼んだりもする.この数式において,各項の係数（例えば b0, b1）を（ウ）と呼び,このモデルを用いてテストデータを学習し,測定した実データを推定する.注意点として,（イ）が連続の値を取り扱う場合（エ）と呼ばれるが,離散の値を取り扱われる場合は（オ）と呼ばれ,それぞれ名称が異なる.ただ,実際のデータを扱うときに,（ア）が 1 次元であることはほとんどなく,2 次元以上になることが一般的である.このような場合,（ア）の次元数分だけ,係数パラメータを増やして,モデルを拡張する必要がある.このように（ア）が 2 つ以上の場合を（カ）モデルと呼び,各項の係数パラメータを（キ）という.またモデルによって出力された値と実際の測定値の誤差を（ク）という.この（ク）を用いて係数パラメータを推定する代表的なアルゴリズムに最小二乗法と最尤推定法がある.
（エ）に最もよくあてはまる選択肢を 1 つ選べ.
ディープニューラルネットワーク（DNN）のパラメータ最適化手法として（ア）などの勾配降下法が適用される.しかし,勾配降下法には（イ）などの問題があり,これらの問題に対処するために,学習率をパラメータに適応させることで自動的に学習率を調整することができる（ウ）や勾配の平均と分散をオンラインで推定し利用する（エ）が利用されてきた.
（解説あり）（ア）に最もよくあてはまる選択肢を 1 つ選べ.
ディープニューラルネットワーク（DNN）の普及に貢献した一つの要素に,（ア）を克服する手法が提案されたことがある.（ア）は誤差逆伝播法において,（イ）ことによって生じるとされている.（ア）に対処するための方法として,あらかじめ良い重みの初期値を計算する（ウ）や,活性化関数に（エ）を利用する方法などがある.
（ア）に最もよくあてはまる選択肢を 1 つ選べ.
ディープラーニングを含めて機械学習において精度の高い学習をするためには,観測データの適切な前処理が必須である.異なるスケールの特徴量を同時に扱えるようにするために,平均を 0 に分散を 1 に規格化する（ア）や,特徴量の線形結合からデータ内の分散が大きくなるような特徴量を得る（イ）などは広く利用されている.また,画像処理の分野においては,減算正規化と除算正規化の処理を行う（ウ）などが前処理として利用され,（エ）などの画像処理に特化したライブラリで行うことができる.また,自然言語処理の分野においては,文章に単語が含まれているかどうかを考えてテキストデータを数値化する（オ）や文章に含まれる単語の重要度を特徴量とする（カ）などがある.
ニューラルネットワークの学習には勾配降下法が用いられる.勾配降下法の手順を適切な順番に並べ替えたとき,2番目になるのはどれか.
A．重みとバイアスを初期化する.
B．誤差を減らすように重み（バイアス）を修正する.
C．最適な重みやバイアスになるまで繰り返す.
D．ネットワークの出力と正解ラベルとの誤差を計算する.
E．データ（ミニバッチ）をネットワークに入力し出力を得る.
次の（ア）,（イ）,（ウ）の組み合わせとして,適切な選択肢を 1 つ選べ.
人間の脳における学習の枠組みに基づいた三つの学習が機械学習には存在する.一つ目は小脳の働きを模倣した（ア）である.これは学習者に対して,教師が間違いを指摘し,学習者が正しい解を得ることである.二つ 目は大脳皮質の働きを模倣した（イ）である.代表的な手法として主成分分析（PCA）などの次元圧縮手法がある.三つ目は大脳基底核の働きを模倣した（ウ）である.学習者は正解値でなく,行動した結果に基づいた報酬が与えられる.この報酬をなるべく大きくするように学習者が行動していく.
loading!!
