スライドを公開しました：２値化ニューラルネットワーク(Binarized Neural Network)の輪講資料

AI Deep Learning アルゴリズムディープラーニング人工知能

庄野研の輪講で発表させてもらった資料です。ディープラーニングで用いる数値計算を、できるだけ整数化・２値化して軽量化しようという研究論文です。ニューロンの結合重みや、活性化関数を２値化し、さらにBatch Normalization や AdaMax まで２値化しても…

2017-11-14

ディープラーニング論文読解メモ：Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks （DCGANによる教師なし表現学習）

AI Deep Learning ディープラーニング人工知能 GAN

今日もコツコツとDeep Learningの勉強をしています。以下、論文を解読した際の個人的な抄訳メモです。訳あって、いまさらDCGANです。自分の興味のないパートはすっ飛ばしています。悪しからず。原文 [1511.06434] Unsupervised Representation Learning with…

2017-10-20

ディープラーニング:RNN, LSTM, Attention 等について日本語で読める本

AI Deep Learning ディープラーニング本プログラミング

「Chainer v2による実践深層学習」この本は、９月に出たばかりで、まだあまり話題になっていないようですが、個人的には今読みたい内容がばっちり入っていて助かる本です。（最近はブームのためか、ディープラーニングの本が多数出ていますね。） Chainer v2…

2017-08-18

fun-tech勉強会発表内容：機械学習のための微分法の復習

AI Deep Learning アルゴリズムディープラーニング数学

本日の fun-tech 勉強会で話した資料。特段新しい内容はありませんが、復習用にどうぞ。機械学習のための数学のおさらい from Hideo Terada www.slideshare.net

2017-07-20

メモ：tf.nn.embedding_lookup() とは何か？

AI 人工知能 Deep Learning TensorFlow ディープラーニング

ひきつづきTensorFlowを勉強中。知らないことだらけなのがバレて恥ずかしいけれども、せっかくなので、調べたことをメモっておくシリーズ。次にわからない関数はこれである。 tf.nn.embedding_lookup(params, ids, partition_sto) embedding というと『組み…

2017-07-20

メモ：xavier_initializer_conv2d()とは何か？

AI Deep Learning TensorFlow 人工知能

TensorFlow（DeepLearning）を今日も勉強中。いろんなサンプルコードを解読しているが、まだまだ分からないことだらけである。今日も未知の関数に出くわした。それは、 tf.contrib.layers.xavier_initializer_conv2d() というやつである。こういうのを1個1個…