Bridge over troubled Techs.

オープンストリーム CTO 寺田英雄の個人的ブログ

ディープラーニング

スライドを公開しました:2値化ニューラルネットワーク(Binarized Neural Network)の輪講資料

庄野研の輪講で発表させてもらった資料です。ディープラーニングで用いる数値計算を、できるだけ整数化・2値化して軽量化しようという研究論文です。ニューロンの結合重みや、活性化関数を2値化し、さらにBatch Normalization や AdaMax まで2値化しても…

ディープラーニング論文読解メモ:Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks (DCGANによる教師なし表現学習)

今日もコツコツとDeep Learningの勉強をしています。以下、論文を解読した際の個人的な抄訳メモです。訳あって、いまさらDCGANです。自分の興味のないパートはすっ飛ばしています。悪しからず。原文 [1511.06434] Unsupervised Representation Learning with…

ディープラーニング:RNN, LSTM, Attention 等について日本語で読める本

「Chainer v2による実践深層学習」この本は、9月に出たばかりで、まだあまり話題になっていないようですが、個人的には今読みたい内容がばっちり入っていて助かる本です。(最近はブームのためか、ディープラーニングの本が多数出ていますね。) Chainer v2…

無料(期間限定)で読める!:Goodfellow他著「Deep Learning」の日本語翻訳版

ディープラーニングの定番教科書Goodfellow他著「Deep Learningを、 東京大学の松尾研究室のみなさんが翻訳し、無料で公開して下さっています。 Deep Learning すばらしい活動ですね! 翻訳本が出版されたら、この公開は終了するとのことですので、興味ある…

fun-tech勉強会発表内容:機械学習のための微分法の復習

本日の fun-tech 勉強会で話した資料。特段新しい内容はありませんが、復習用にどうぞ。 機械学習のための数学のおさらい from Hideo Terada www.slideshare.net

メモ:tf.nn.embedding_lookup() とは何か?

ひきつづきTensorFlowを勉強中。知らないことだらけなのがバレて恥ずかしいけれども、せっかくなので、調べたことをメモっておくシリーズ。 次にわからない関数はこれである。 tf.nn.embedding_lookup(params, ids, partition_sto) embedding というと『組み…

ディープラーニング ResNet のヒミツ

先日、当社と共同研究をしている庄野研のゼミに参加させてもらった。その日は論文の輪講の日だった。そこでM2のSさんがレクチャーしてくれた Deep Residual Learning の話が面白かったので、以下メモとして記してみる。 #なお、このメモはDLについての基本…