ディープラーニング
庄野研の輪講で発表させてもらった資料です。ディープラーニングで用いる数値計算を、できるだけ整数化・2値化して軽量化しようという研究論文です。ニューロンの結合重みや、活性化関数を2値化し、さらにBatch Normalization や AdaMax まで2値化しても…
今日もコツコツとDeep Learningの勉強をしています。以下、論文を解読した際の個人的な抄訳メモです。訳あって、いまさらDCGANです。自分の興味のないパートはすっ飛ばしています。悪しからず。原文 [1511.06434] Unsupervised Representation Learning with…
「Chainer v2による実践深層学習」この本は、9月に出たばかりで、まだあまり話題になっていないようですが、個人的には今読みたい内容がばっちり入っていて助かる本です。(最近はブームのためか、ディープラーニングの本が多数出ていますね。) Chainer v2…
ディープラーニングの定番教科書Goodfellow他著「Deep Learningを、 東京大学の松尾研究室のみなさんが翻訳し、無料で公開して下さっています。 Deep Learning すばらしい活動ですね! 翻訳本が出版されたら、この公開は終了するとのことですので、興味ある…
本日の fun-tech 勉強会で話した資料。特段新しい内容はありませんが、復習用にどうぞ。 機械学習のための数学のおさらい from Hideo Terada www.slideshare.net
ひきつづきTensorFlowを勉強中。知らないことだらけなのがバレて恥ずかしいけれども、せっかくなので、調べたことをメモっておくシリーズ。 次にわからない関数はこれである。 tf.nn.embedding_lookup(params, ids, partition_sto) embedding というと『組み…
先日、当社と共同研究をしている庄野研のゼミに参加させてもらった。その日は論文の輪講の日だった。そこでM2のSさんがレクチャーしてくれた Deep Residual Learning の話が面白かったので、以下メモとして記してみる。 #なお、このメモはDLについての基本…