いつかのYoutube動画で松尾先生が「DeepLearningってどんな勉強すればいいんですか?」という質問に対して
Bengio先生の
DeepLearning
読んだらしまいです。
と言っていたので、とにかくこれだけは読んでおかなくてはいけないと思い、読み始める。(おそい)
PDFが無料で見れるので、もうやるかやらないか、やられるかのどれかだ。
といっても、文系で且つ、体育会系の筋肉エンジニアだから、苦しい戦いを強いられるのは目に見えているので、ブロック作って粘り強く集中力を切らさずに、最後の最後では体を張ってシュートブロックしていきたい。
(意味がわからん)
と思って、Notationをみてみると、結構わからないものが多かったので、まずはNotationから…
目次
definition
real interval
実空間
実空間…全くピンとこない…
実数からなる集合で、その集合内の任意の二点に対しその二点の間にあるすべての数がその集合に属するという性質を持つものである。
案外簡単だった…
graph
グラフ理論
グラフ理論めちゃくちゃいろんなところで出てくるけど、めっちゃ無視してた。
グラフ理論は組み合わせの問題を簡潔に記述するための道具です。
なんか全然わからなさそうだ…
ちょっと都度理解していこう。泥沼にハマりそうだから。
Moore-Penrose pseudoinverse
ムーア-ペンローズの擬似逆行列
線型代数学における逆行列の概念の一般化である。
この行列 A+ を A の擬似逆行列と呼ぶ。A が正則でなくとも A+ は定まるが、A が正則ならば逆行列 A−1 はこの条件を満たす。ゆえに擬似逆行列の概念は逆行列の概念の一般化を与えていることがわかる。
なるほど、これはなんとなくわかるか…
Jacobian matrix
ヤコビ行列
微分係数の多変数関数バージョン
Hessian matrix
ヘッセ行列
二階の偏導関数を並べた行列
二階の偏導関数とはこちらがよくわかる。
Shannon entropy
エントロピー
情報理論の概念で、あるできごと(事象)が起きた際、それがどれほど起こりにくいかを表す尺度である。
Kullback-Leibler
カルバック・ライブラー情報量
確率論と情報理論における2つの確率分布の差異を計る尺度である。
Composition of The functions
関数合成
不明点
積分の下にsetがあるのは何か?
それは定数ではなくて、領域か、領域の境界を表す記号ではないですかね。
その他
何か良い数学の説明サイトがあれば教えてください。