【苦しみながら理解するDeepLearning】Notation

いつかのYoutube動画で松尾先生が「DeepLearningってどんな勉強すればいいんですか?」という質問に対して

Bengio先生のDeepLearning読んだらしまいです。

と言っていたので、とにかくこれだけは読んでおかなくてはいけないと思い、読み始める。(おそい)

PDFが無料で見れるので、もうやるかやらないか、やられるかのどれかだ。

といっても、文系で且つ、体育会系の筋肉エンジニアだから、苦しい戦いを強いられるのは目に見えているので、ブロック作って粘り強く集中力を切らさずに、最後の最後では体を張ってシュートブロックしていきたい。

(意味がわからん)

と思って、Notationをみてみると、結構わからないものが多かったので、まずはNotationから…

definition

real interval

実空間

実空間…全くピンとこない…

実数からなる集合で、その集合内の任意の二点に対しその二点の間にあるすべての数がその集合に属するという性質を持つものである。

案外簡単だった…

graph

グラフ理論

グラフ理論めちゃくちゃいろんなところで出てくるけど、めっちゃ無視してた。

グラフ理論は組み合わせの問題を簡潔に記述するための道具です。

なんか全然わからなさそうだ…

ちょっと都度理解していこう。泥沼にハマりそうだから。

Moore-Penrose pseudoinverse

ムーア-ペンローズの擬似逆行列

線型代数学における逆行列の概念の一般化である。

この行列 A+ を A の擬似逆行列と呼ぶ。A が正則でなくとも A+ は定まるが、A が正則ならば逆行列 A−1 はこの条件を満たす。ゆえに擬似逆行列の概念は逆行列の概念の一般化を与えていることがわかる。

なるほど、これはなんとなくわかるか…

Jacobian matrix

ヤコビ行列

微分係数の多変数関数バージョン

Hessian matrix

ヘッセ行列

二階の偏導関数を並べた行列

二階の偏導関数とはこちらがよくわかる。

Shannon entropy

エントロピー

情報理論の概念で、あるできごと(事象)が起きた際、それがどれほど起こりにくいかを表す尺度である。

Kullback-Leibler

カルバック・ライブラー情報量

確率論と情報理論における2つの確率分布の差異を計る尺度である。

Composition of The functions

関数合成

不明点

積分の下にsetがあるのは何か?

integral

それは定数ではなくて、領域か、領域の境界を表す記号ではないですかね。

その他

何か良い数学の説明サイトがあれば教えてください。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です