xiangze's sparse blog

機械学習、ベイズ統計、コンピュータビジョンと関連する数学について

tensorflow

2018年12月のまとめ

年が明けてしまいましたが2018年12月のまとめです。

Bayesian Layerとは

Gaussian ProcessやBayesian CNNなどのニューラルネットを含むような複数の確率的プログラミングモデルで使うためのBaysian Layerに関する情報が公開された。

TFPの変分ベイズの書き方2つ

tensorflow probability(TFP)では変分ベイズによる推定ができますが書き方に幅があります。 またBayesian DNNを書くのに使用できる関数があります。変分ロジスティック回帰のコードでそれを比較します。

Edwardで一部の変数だけ確率変数にして変分推測する仕組み

VAEやGANなどに組み込まれたニューラルネットでは重み行列やバイアスは確率変数としては定義されていません*1が、 Edwardでは使って確率変数とそうでない変数を同時に推測(学習)させることが可能です。 それはどのようにして実装されているのでしょうか。 *1…

BayesFlowについて

kerasのようにTensorflowの中にEdwardを取り込むという話もありましたが、BayesFlowという名前でtf.contribの中に取り込まれています。 https://www.tensorflow.org/api_docs/python/tf/contrib/bayesflow今の所klpq(csiszar_divergence内のkl_forward), hmc…

Ubuntu でtensorflow-gpuを使えるようにするのにはまった→解決

表題のようにUbuntu16.04 でtensorflow-gpuを使おうとしてハマったのでその解決に至るまでの記録です。 個々の問題はググって出てきた情報を実施することで解決できるものです。 ここではそれをどんな順序で試行錯誤し実行していったかの流れを記します。